Boa tarde a todos aqui em São Paulo na feira do livro. Que alegria tá aqui. Essa feira tá o máximo, tá linda, tá lotada, tá, enfim, um monte de coisa incrível acontecendo. Obrigado pelo convite a todos. Desculpem a todos que estão mal sentados. Vamos tentar contemplá-los aqui com assim de vez em quando, lembrar que vocês existem, nãoé? Eh, bom, muito obrigado mesmo. Hoje a gente vai falar de um tema que ten Certeza que é o tema que vocês esperam que a gente vai falar, que é o tema que tá todo mundo falando, não é? Que
é encíclica para pau. É verdade. Vai falar dela. É que é sério. >> Essa é realmente o nosso tema. Eu ganhei finalmente. >> Alessandra, pouca gente sabe, mas ela é RP do Vaticano. Ela tá o tempo todo tentando emplacar uma uma agenda, para usar um anglicismo, uma agenda pró Vaticano, sabe? Ela acredita, ela diz, ela tá o tempo todo dizendo, vamos lembrar que os católicos que elegeram Lula tempo todo falando disso, puxando uma brasa pra sardinha dela. E aí ela conseguiu emplacar na feira do livro aqui um elogio encíclica para quando ela falou disso, eu
falei: "Não, pelo amor de Deus, Alessandra, então vamos aqui não vai ficar elogiando o Papa numa altura dessas, não é?" Até que eu li a encíclica papal, vi com eles e realmente Ela é espetacular. Quem diria que o Papa, o Papa hoje estaria na vanguarda, não é, da modernidade? Sei que dá para falar isso, na verdade, na vanguarda da antimodernidade. Ele ele tá na vanguarda da hoje na luta contra as bigs, ou pelo menos o texto dele o coloca nesse lugar, nesse lugar não de ludista, ou seja, não de contra tecnologia, mas contra o uso
que o capital faz da tecnologia. Então ele faz uma encíclica papal. Para quem não sabe, eu eu também não sabia, tá, o Que era uma encíclica. Uma encíclica é algo que o Papa ele publica eh de a cada não tem uma regularidade, mas eu diria que cada três ou 4 anos ou cinco ou seis, João Paulo II publicou umas eh umas séries com umas 12 encíclicas, não é, nos seus 30 anos de papado. >> E o o eu acho que o Ben 16, umas três ou quatro, algumas ficaram muito famosas. tem uma encíclica clássica de
1891, se eu não me engano, na época da Revolução Industrial, do, enfim, do outro do outro Papa, do outro leão, né, do Leão 13, ou seja, do pai do leão 14. Mentira, não é pai, não, era tatataravô do Leão 14. É uma encíclica também famosa porque falava contra a desigualdade e tal. E o Bento, o perdão, o Papa Francisco, fez algumas encíclicas bem famosas também, uma delas ah pela contra as mudanças climáticas, né? falando da agência humana nas mudanças climáticas, foi também super importante na época. E agora o Bento 16, na sua Primeira >> Bento
16, não, Leão 14, >> perdão, Leão 14, não queria ofender. >> Não confunda seus papas. >> O Leão, papa Leão, eh, 14 nos fez todos fez com que a gente dissesse: "Gosto muito de você, leãozinho". Afinal, ele resolveu comprar briga com IA, que foi espetacular e para mim foi muito surpreendente, né? Porque claro, o nosso Papa Francisco já falava muito contra a desigualdade, falava contra a Concentração de capital, falou de mudança climática. Mas a Iá era um tema que eu não tinha visto ainda um papa falar. Um papa falando de é algo que me parece
meio novo e sobretudo com a abordagem dele, que é uma abordagem muito humanista. Não vou falar mais porque eles vão falar muito melhor do que eu, mas queria passar a palavra pra Alessandra, talvez ela começar dizendo por eh, qual é desse papa para começar, tá? para tentar já nos você que tá por Dentro das disputas do Vaticano, você que é um insider, >> faz a pessoa aparecer numa igreja uma vez por ano, que para esses dois eu sou assim uma beata. Eu praticamente >> você não é beata, mas você é fervorosa. >> Que não acreditem
nisso. >> Com o papa é >> com o papa. >> Ela é muito própapa. E aí ela vai vai explicar pra gente primeiro qual quando eu soube que o Papa ia ser Estadunidense, eu fiquei extremamente decepcionado. Não achei que era o momento de ter um papa norte-americano, né? Achei uma coisa de quinta, na verdade. Que quem diria que logo o Papa Francisco, porque ele foi ungido pelo Papa Francisco, né? Antes de morrer, dizem que ele Papa Francisco armou ali para ter uma sucessão. Então eu falei: "Pô, logo um norte-americano, mas o que parece o cara
é legal. Primeiro Alê, qual é desse papa? conta pra gente. >> Não, não sei todos os detalhes. Ele tá no início do papado dele, então a gente vai descobrir com o tempo. Eh, ele é considerado dentro da igreja menos posicionado à esquerda da Igreja Católica do que o Papa Francisco. Ele é mais centrista. Eh, e e por isso talvez dialoga também com uma parte, né, dos fiéis que tinha sido em alguma medida alienada pelo Papa Francisco ou que não se identificava com o Papa Francisco. Eh, e ele é de fato norte-americano, Estadunidense. Eh, a gente
descobriu hoje que ele foi professor de física e de matemática em escola pública nos Estados Unidos, o que é um dado interessante. Eh, e ele entende e se interessa muito pela política nos Estados Unidos. Então ele é um papa que tá mostrando uma disposição para se meter na política interna dos Estados Unidos, o que em tempos normais não seria necessariamente nem interessante nem desejável, mas que num momento em Que a gente tá vivendo essa eh essa situação, né, de um de um tirano essencialmente eh no poder nos Estados Unidos, querendo reafirmar esse poder imperial dos
Estados Unidos sobre outras nações e essa combinação de poder militar de um tirano sem com pouco poucas, né, poucas instituições domésticas capazes de mantê-lo eh minimamente dentro eh de parâmetros mínimos, né, de de democracia. E ao mesmo tempo eh também as bigtechs com Cada vez mais poder e mais poder concentrado alinhadas com esse poder político. É interessante que tenha alguém com o poder do Papa que esteja disposto a entrar nessa disputa política interna, porque ela passa a ter consequências paraa humanidade inteira. sempre teve, né, assim, desde que os Estados Unidos se firmaram como uma potência
global, o que acontece lá dentro tem consequências pra gente, mas acho que a gente tá vivendo um momento De particular eh incidência política, não só pelas vias tradicionais da diplomacia, do do poderio militar, etc., mas também sobretudo por essa concentração extraordinária de recurso de poder e de influência na mão de poucas empresas. A enorme maioria delas eh americanas, né, norte-americanas. Então ele já se meteu em outros assuntos da política interna americana. Ele já falou de pena de morte, condenando a pena de morte. ele já teve ali durante Um breve momento uma troca de farpas eh
muito pública com o próprio Donald Trump e agora ele vai lança como sua sua primeira encíclica eh esse documento de muitas páginas que vale a pena ser lido, não é um documento muito difícil de ler. Eh, e até como o texto, a gente tá aqui numa feira do livro, ele é interessante e vale discuti-lo também nesse sentido, em que ele vai falar sobre inteligência artificial e e fazer algo que acho que a gente vai se aprofundar um pouquinho, Que é interessante por várias razões, mas para mim o mais bonito eh e a razão pela qual
de fato sugeria a pauta, não por ser RP do Vaticano, mas porque acho que tem consequências, é que ele faz uma crítica não só econômica da concentração de poder, da concentração do aumento da desigualdade, etc., que em si já é já é relevante, mas ele também vai fazer uma crítica do uso que se faz da inteligência artificial como um uso que é desumanizante. Então ele faz uma Encíclica que é muito sobre o que é ser humano, é uma defesa dessa humanidade. Eh, e acho que é especialmente relevante pro momento que a gente tá vivendo hoje.
Mas vou deixar o Bruno falar um pouquinho também bem do papo, porque eu vivi para ver esse momento. Então eu preciso, >> eu preciso ter e esse momento em minha vida. E uma vez que isso tiver gravado, documentado para posteridade, podemos continuar a conversa. >> É, você sabe que o mundo tá é acabando mesmo, né? Que eu vou ter que falar bem do papa, tipo, acho que é um da um dos eh sete selos. >> Na verdade, sim, eu vou falar bem, mas também não vou falar tão bem da encíclica, porque tem algumas que eu
tive o prazer de ler e depois eu saí meio com gosto agridos. Mas o que eu acho bem interessante de falar é muito muito relevante, muito preocupante no fundo quando talvez uma das das Lideranças é mundiais mais articuladas e e é assertivas em relação a uma questão existencial pra humanidade, pra nossa política, pra nossa economia e pra nossa nossa alma mesmo. é um papa e não um chefe de estado de um país economicamente poderoso, influente e tudo mais. É o Papa. E acho que tem algumas questões invertidas aí que são muito interessantes. Quer ler uma
encíclica que é uma defesa quase secular da humanidade, uma defesa muito mais Parecida com os adereitos eh humanos. Mas o que eu acho que é o contraste mais radical é que ele não tá falando é contra uma indústria, contra a mineração, contra a exploração de é trabalho, que foi algo que é mais comum que o papa fale, mas é contra uma visão teológica que as bigtecs estão apresentando. A coisa que eu acho mais distópica nessa história toda, e por isso que o Papa é mais relevante, acho que não é só pelo fato dele ter Argumentos
mais avançados e me parece que ele é mais interessado no assunto do que outros presidentes por aí, mas é porque a conversa está sendo colocada num tom teológico, num tom é transcendente, no tom de uma visão espiritual quase pelos donos dessas bigtecs. São eles que estão falando em termos que eram quase exclusivos das encíclicas e papais mais metafísicas mesmo. São eles que estão prometendo a vida eterna, diga-se, na nuvem, né? Literalmente assim, tem uma série de analogias possíveis de serem feitos. São eles que estão tentando criar Deus a sua própria imagem. E o que o
Papa tenta falar, não, nós somos criados à imagem de Deus. Então, tem uma reversão teológica. E o mais interessante é que antes do Papa escrever essa encíclica, eu me pergunto o quanto que ela foi pensada em torno disso, é porque ele tava sendo literalmente chamado de anticristo por dois investidores de Inteligência artificial que entendem que eh conter a inteligência é artificial é a ação do anticristo bíblico. Então assim, o Peter Ti, que é um dos maiores investidores de inteligência artificial e um cara particularmente perigoso, ele tem circulado o mundo dando é palestras sobre a visão
é cristã dele pra inteligência artificial. Então, como essa teologia tava sendo propagada, quase que o Papa vem defender um certo território da igreja novamente e Apresentar uma outra visão. Mas tem algo que me incomoda um pouco na encíclica do Papa, >> que eu acho que é e acho que é uma missão para o nosso campo e não pro Papa. basicamente, mas que eu acho que é onde a conversa estanca mesmo, que é os dois lados estão dentro de uma visão baseada numa certa escatologia, num certo fim de mundo, num num certo destino grandioso em que
o ser humano tem que ser medido sempre em relação a Uma ideia de Deus, sabe? ou que Deus é a origem do ser humano, ou que ele está se encaminhando para algo divino, que é a visão dos dos anticristos de verdade. Mas a conversa que eu acho que falta é uma visão um pouco mais eh material sobre o que tá acontecendo, que na encíclica não tem. Eu >> não faz também, ele faz uma discussão de poder, de desigualdade, de desigualdade econômica. Ele fala de corpo, de como a inteligência artificial não é Inteligência de fato, ele
quase rejeita, ele não chega a rejeitar o termo. Acho que porque ele precisa se fazer entender. Se ele não falar inteligência artificial, não vão saber do que ele tá falando. Mas a sensação que dá lendo é que ele não gostaria que a gente tivesse chamando isso de inteligência. Eh, inclusive porque ele ele vai falar, né, das experiências que a gente tem com o próprio corpo e como isso é parte da nossa maneira de entender o mundo e e a Máquina não tem isso, mas também o amor e o sentido de responsabilidade, a amizade, ele fala
de coisas profundamente humanas, bem pouco transcendentais nesse sentido. Quer dizer, podem ser consideradas transcendentais. E a e a e a linguagem meio de direitos humanos não é novidade, tá? Até porque a declaração de direitos humanos tem uma uma raiz também no cristianismo em alguma medida, em grande medida. Então não é uma coisa nova pra Igreja cabana. >> Tudo foi o cristianismo. Tudo >> não, gente, mas é que um monte de coisa foi um monte de merda também, mas algumas coisas positivas surgiram dali. >> Não, mas eu eu concordo com você, Alessandra, nesse nesse aspecto e
eu acho que é achei muito surpreendente mesmo você ver em que ponto a gente tá, não é? O papa ele é mais laico do que as bigs em algum lugar. >> Sim, com certeza. Aí ele é mais laico, Ele mais, ele diz mais assim: "Olha gente, vocês são mortais, somos mortais". Tá bom? É o Papa que tá nos lembrando disso. Aliás, me lembrou o final do livro bonito do Sérgio Rodrigues, Escrever é humano. Ah, que é sobre escrever em tempos de inteligência artificial, em que ele defende que escrever é humano por causa da mortalidade. O
último capítulo é muito bonito, ele fala: "Aqui não, aqui só entra quem vai morrer". Ã, seria uma Caverna dos escritores em que aqui só entra quem vai morrer, não é? E tem algo que define mesmo a profissão do escritor e do artista, do humano de modo geral, que ela é uma luta contra a mortalidade. Logo a Iá jamais vai produzir arte porque não vai morrer, né? E é algo que o Papa tá alinhado e o Papa parece tá dizendo isso. A mortalidade é nosso grande, é nosso grande ativo para usar um termo das bigs. É
nosso asset, é a mortalidade, é o que faz com que a gente Passe uma vida tentando lutar contra ela, né? como diz o Jorge Drexler, que fez um show lindo semana passada aqui, eh, somos esse animal prodigioso com uma delirante obsessão em perdurar. É isso que nos ah que nos define como espécie, quase essa obsessão em perdurar. E ah, mas os donos BigTech levaram isso além, me parece, não é? Eles são tão obsecados com a imortalidade que eles criaram de fato algo que parece imortal. A gente leu ano passado no Clube de Cultura do Calma
um livro que eu acho que tem tudo a ver com essa discussão, que é o Maniac do Labatut. E é um livro bonito que ele fala dos primeiros computadores, mas ele fala deles como eh ele como eu acho que é meio uma uma metonime assim da tecnologia de modo geral e da busca do século XX sobretudo por uma substituição do homem pela máquina. Começa no computador, né? O Von Neiman era obsecado com isso, odiava o ser humano. Assim como a maioria das pessoas que Formaram Vale do Silício são pessoas que odiavam, que eles têm em
comum que elas odiavam o ser humano. São pessoas mesmo misantropas que odeiam, desprezam o ser humano, talvez por terem sido desprezadas. Então tem um histórico de pessoas excluídas um pouco do jogo social e que algum lugar criaram um lugar em que eles um monte Olimpo no qual eles são hiper poderosos e imortais e que criaram uma tecnologia para matar o humano deliberadamente. O Vaniman Claramente sonhava com a superação do humano. E o Mania vai falar desse momento em que dessa obsessão desses primeiros inventores do computador e que me parecem desembocar na inteligência artificial. E tem
uma metáfora que a gente chegou no clube do livro na época que eu acho perfeita, que a ideia que a ideia de que eles são prometeus ao contrário, que o prometeu na na mitologia grega é aquele que rouba o fogo dos deuses para dar aos Homens. Ou seja, não tem herói maior do que ele, né? Tanto é que os deuses o punem por isso, mas ele é alguém que vai roubar o fogo, o fogo sendo símbolo do que é mais divino, né? do mágico, do encantado e dá a nós. E a partir do fogo a
gente faz tanta coisa, da comida, a cerâmica, a tanta coisa que a gente criou por causa do fogo, ao barro, olaria, tal, é coisa dele e ele foi punido nos deuses por causa disso. O que esses homens estão fazendo é justamente Roubar o nosso fogo, nossa tecnologia que é mais humana e entregá-la aos deuses, entregá-las pro não humano, criando um não humano que nos governa hoje já. Porque nossas decisões, a gente já é mais fraco do que o algoritmo o tempo todo. E o algoritmo tomou esse lugar de Deus, inclusive literalmente, tá? As pessoas falam
assim: "Ai, não fala isso que o algoritmo não gosta". Parece uma coisa divina, né? Não fala isso que é pecado. Então, e não, não Pode postar isso que o algoritmo não vai gostar. O algoritmo já é essa entidade superhumana que nos governa e que a gente não sabe direito o que ela quer, cujos desígnios são misteriosos. Porque como Deus ele age certo por linhas tortas e você não sabe direito o que o algoritmo quer. E a gente no Porta dos fundos todo dia vem um novo guru jovem da do do algoritmo que vem dizer agora
o algoritmo está gostando de aí diga o que quiser. Maçonaria. Aí você tem que fazer Um vídeo de maçonaria. A gente não faz, tá no porta. A gente não segue não. Mas tem volta e meia essas pessoas que vem dizer o que o algoritmo agora está gostando. Descobrimos o que ele quer. Igualzinho mesmo. Um guru que >> saiu uma encíclica nova. saiu uma encíclica. Então ele ocupou cada vez mais esse lugar de Deus, inclusive nas relações humanas, porque antigamente você ia casar, você pedia Santo Antônio e era Deus que unia as pessoas e o Casamento
era o casamento, acreditava-se, são justamente servia para Deus dizer, né, Deus aprovar sua união e era um escupido, sempre teve uma coisa divina na paixão. Hoje é o algoritmo, é o Tinder, é o algoritmo que já define com quem você vai casar, ele que te apresenta o seu amor já. Então, até esse lugar afetivo romântico, ele ocupa. Então, ele ocupa a esfera, todas as esferas da vida humana, mesmo substituindo isso. E isso foi deliberado Por seres humanos. Mas tem e e esse essa parte final de deliberado por seres humanos é importante porque tem um salto,
né, entre esse algoritmo que já nos governa, que já é essa divindade. Eu concordo, eh, e, e a inteligência artificial, que é mais próxima de uma visão, do que seria uma visão do divino ainda, porque ela não é compreendida inteiramente nem pelos seus criadores. O algoritmo é esse a gente viver a mercê do algoritmo é no fundo a gente viver a Mercê de uma meia dúzia de executivos capitalistas no Vale do Silício, mas eles têm ou tinham até recentemente bastante controle desse algoritmo. A gente tem uma sensação de que é algo sondável e que não
pode ser conhecido e que um dia quer maçonaria, outro dia quer rios de 30 segundos com você pulando de uma perna só, sei lá. Eh, mas eles sabem o que esse algoritmo tá buscando e ele é programado para algo. A inteligência artificial, ela tem uma uma Peculiaridade que até os desenvolvedores que trabalham nela há muitos anos não sabem exatamente como que as informações estão sendo eh geradas ali dentro. existe uma quantidade tão grande de microinterações entre diferentes bases de dados e é um é um nível computacional tão complexo que eles não sabem explicar. Claro que
a gente entende os modelos de linguagem no abstrato e certamente pessoas mais técnicas com mais conhecimento, né, do Assunto vão entender melhor do que pessoas mais leigas. Eh, mas até os seus criadores entendem que ali tem algo que que escapa deles e isso é muito preocupante. Eh, e e ainda mais parecido com essa esse lugar tradicional do divino. Eh, e tem uma palavra que um programador, acho que da Antropic, que saiu do Open A e foi paraa Antropic, mas ele deu uma entrevista quando ele saiu falando sobre os riscos e tudo mais e ele usou
uma palavra que acha mais Adequada, é uma palavra super religiosa que ele falou que na verdade a gente tá eh conjurando a inteligência artificial, você não tá criando ela, você tá chamando ela, você não sabe exatamente o que virá. Então tem algo de é invocação de uma força que você não tem muito muito eh controle, mas que tem esse objetivo, é transcendente mesmo de um mundo que você não conhece. E o e você falou do Evan Noan. É muito interessante pensar nesse começo, porque se você for Na história da e computação é original, a inteligência
artificial ela ela era já o assunto, ela começa por aí e depois a gente passa décadas sem falar dela em que vira um mercado, vira uma vira uma ferramenta, mas o objetivo dos caras que idealizaram a máquina que é computa, ela tinha uma hipótese, na verdade, que os caras estão forçando ela ela hoje em dia nessa nessa nessa invocação que é a inteligência e a consciência é só um processo de processamento de dados, é Computacional, não é mais do que isso. Então a inteligência basta você processar dados de maneira ordenada, com uma certa capacidade, que
a propriedade emergente disso vai ser uma subjetividade, vai ser um ser, vai ser uma inteligência que é capaz de reproduzir. E é nesse sentido que não é só que os caras não gostam do ser humano, que acho que tem uma misantropia, mas é uma visão teológica ultra racionalista. Quer dizer, é o Abandono final de uma ideia ética e moral, mas que é muito religiosa, que é o ser humano é só uma é transição em direção à verdadeira inteligência. E acho que é nesse sentido que o papa intervém, mas de algum jeito a nossa cultura não
tá conseguindo ter essa clareza ou intervir da mesma forma que é tipo o que os caras estão falando é que a gente é obsoleto e que a ideia de transcendência, todos os mitos que foram criados, eles vão ser realizados de Maneira técnica e não de maneira moral. E é isso que o Papa tá reclamando, assim, né? >> Então, a gente tá no fundo vivendo realmente um clash de teologas assim, né? é um embate entre visões teológicas mesmo do mundo. E é por isso que é interessante que seja o Papa. Não é não é porque eu
sou não é porque eu sou RP do Vaticano, mas não é à toa que é o Papa que fala: "Não, eu preciso me meter nessa história". Eh, e quem colocou a Linguagem cristã e sobretudo da escatologia cristã, a visão apocalíptica no meio da explicação eh do do que tá sendo feito com inteligência artificial, não foi o papa, foram os próprios executivos de Bigtex. É isso, é o Peter Tiel andando pelo mundo falando do anticristo. Eh, a o representante maior das bigtecs hoje dentro de uma instituição política é o vice-presidente dos Estados Unidos, é o Jade
Vens, que foi colocado lá pela pelas BigTechs, que Teve apoio de financiamento de campanha do próprio Peter Ti várias vezes. E ele é o católico da administração. Eh, não é nem ele é ele é ele ele é deliberadamente católico, né? você converte ao catolicismo. Então é muito relevante, na verdade, que o Papa entre não só porque ele de fato é o líder espiritual de 15 da humanidade. Isso tem um poder e uma influência diretamente nas pessoas e como elas pensam. Eh, um quinto sendo bastante eh conservadora na Estimativa, mas também porque eh é a linguagem
sobre a qual ele tem uma autoridade em tese, é exatamente a linguagem que tá sendo instrumentalizada por esses executivos. Então, eh, eu fico inclusive achando interessante e curioso que esses executivos tenham optado por dialogar nessa linguagem, porque é uma linguagem sobre a qual eles nunca vão ter a autoridade final, né? >> Eu não sei, porque eu acho que alçaram esses caras a essa condição. Isso que é Interessante também. Eu tava vindo para cá, tava pensando, que estranho, eu vim falar do Papa na feira do livro e tal, né? Eh, e tem algumas coisas, mas uma
é me me parece o que sobrou também para a Igreja Católica e para as igrejas no fim das contas, que acho que é um processo longo que começou no fim da Idade Média, assim, que é tipo a burguesia e os protocapitalistas indo para cima de um poder que era da igreja, que era dessa instituição, que tinha o governo Político, fronteiriço, militar, tinha econômico, fiscal, eh, repressivo, tudo. tudo mais. E é um processo longo, tanto do capitalismo quanto do próprio liberalismo, da de a gente ir transformando o mundo num espaço secular, num espaço em que a
igreja vai se restringindo às suas áreas teológicas e tudo mais. E e o que é interessante é que parece que esse é o último território que sobrava de uma certa visão puramente teológica, que é o do Espírito, da consciência, o do que significa ser humano nesse espaço eh intraduzível, né? E eu acho que não é à toa que esses caras foram para esse espaço. Uma porê a quantidade de poder e de dinheiro que esses caras acumularam é tão descomunal, é tão inédita. que o espaço que sobra mesmo é o espaço do desenho do destino humano.
Mas outra resto eles já fizeram. >> Mas outra é o neoliberalismo que criou um bebê de Rosimeri próprio lá, que é Assim, por que esses caras conseguiram ficar tão e tão ricos? Por algum motivo, os últimos 20 anos, se o cara era bilionário, ele era entrevistado, não pelas razões que ele acumulou tanta grana, mas assim, o que que você acha do destino da humanidade? O que que você acha da exploração espacial? Você acha que o trabalho tá indo para onde? Eles foram convidados a falar das coisas gigantescas da humanidade que eram Restritas às pessoas, em
geral que abdicaram de ficar ricas para pensar nisso. Filósofo, teólogo, cientista social, gente que é cientista mesmo. Então assim, a gente passou os últimos 20 anos vendo o Jeff Bezos tendo que falar o que que ele acha da evolução humana no futuro. E não à toa, os caras começaram a acreditar nisso. E novamente, e aí tem a ver com a nossa feira aqui, é, tem muito filme interessante disso, o Adam Curtis, o Grande cineasta da BBC, fez um comentário maravilhoso disso, que é o quanto que a literatura que esses caras leram influenciaram profundamente a missão
que eles se imaginam no mundo, como personagens de ficção que eles foram muito formados, Iron Ran, outros tipos de ficção científica, mas eles foram forjados em uma visão que já partia de uma certa mitologia. que tava desde o Van Noima ao lugar que eles ocuparam quando jovens e que depois a Economia alçou eles a esse mesmo espaço. >> Vale lembrar que o Papa cita o Senhor dos Anéis na encíclica que é cita >> cita ele cita Senhor dos Anéis um recado direto para Apalantir para Apalantir cujo nome é é o emprestado do do léxico do
Senhor dos Anéis. >> Palantir é uma no Senhor dos eh anéis é uma é uma esfera. os fãs aqui, que me perdoem se não for especificamente certo, mas é uma esfera que tem o poder de você ver o passado, de você ver o Futuro, de você ter uma certa hipervigilância e um objeto mágico que algumas pessoas tinham acesso. Em geral, os personagens mais >> o vilão, >> é, sinistros, né, da dessa. E aí o Peter Ti e o Alex Carp, esses caras todos, fundam essa empresa de hipervigilância com o nome da esfera do Senhor dos
Zé Anéis, que era capaz de tudo ver. Então o Papa manda essa manda essa indireta Para o Peter o poder de uma saga literamente que é o cara que tá falando que ele papa é o anticristo. >> Então isso que para mim eu f venho para cá faço nosso mundo tá acabando mesmo. A gente tá debatendo publicamente com os caras mais ricos do do mundo quem é o anticristo. >> Pois é. >> Então esse então assim tem uma escatologia em disputa mesmo assim tem o fim dos tempos, né? que é o que esse Cara vende,
diga-se de passagem, né? O que que eles estão oferecendo pra humanidade? Fim do trabalho, o fim da morte, o fim das doenças, né? Eh, e a criação de uma superconsciência que vai elevar todo mundo que quando ela for criada vai estar vivo. É o mito do arrebatamento. É basicamente revelações assim, né? O mundo material deixa de ser o mundo do sofrimento e vamos todos para o reino da nuvem. Há uma mensalidade módica de 29,90 por mês, né? >> Se você não for de um grupo terrorista, né? Aí aí fica complicado para você. Até porque a
Alessandra falou uma coisa que faz sentido, que ela disse. Claro, sempre, mas a a mas que também é importante lembrar de uma ressalva que ela diz que o papa fala de Deus no lugar de autoridade que eles não vão ter, porque ele gover ele, a religião dele eh tem 1/5 da população, falou humana que acredita naquilo e acredito que ele é o representante de Deus. Mas tem uma outra Religião que é o capitalismo que eh segundo a qual o Elomansk é a maior autoridade. Ele é o papa. E o Peter é o o cardeal e
o outro eles são eles são imbuídos de uma autoridade divina que o capitalismo lhes deu. Porque o capitalismo essa fé que coloca no capitalista a razão. Ele tem a razão por ter acumulado o capital. Ele é bom por ter acumulado o capital. E se ele acumulou um capital infinito, ele é infinitamente bom. Como quem? Como Deus. O lugar que eles falam é o lugar ungido que no realismo capitalista os ungiu como esse lugar, essas pessoas divinas. Santo é que a ele tudo é possível e realmente é, ele dispõe de corpos humanos quantos quiserem. Ele tem
30, 40 filhos. O o elomâ que ele vai tendo, por todo exagerando, tá? Mas é desse >> sim, mas é mitológico. >> É mitológico. É feito Zeus fazia ele. Zeus que desce a terra. Zeus a Encontrava certa oposição, né? Eventualmente. E o Elomante não encontra. Ele fala paraas pessoas do da da empresa dele. O Elomante conta você quero ter um filho com você porque você tem uma boa genética. Ele diz isso para funcionárias e tem diversos filhos assim, porque ele olhou para a pessoa e as ungiu para serem eh depositárias do seu da sua carga
genética ou chame como quiser. Ia ser um pouco mais grosseira grosseiro. Mas o fato é que ele é ele Tem essa essa essa disposição que é meio divina mesmo. Então eu entendo o que você diz. O papa tem uma autoridade do cristianismo, mas o outro tem a autoridade do capitalismo, que tá que não funcionaria, eu acho, sem esse caráter divino deles, porque senão a gente iria decaptá-lo, a gente, sei lá, faria, a gente só aceita, não a gente aqui, nós aqui, mas o mundo aceita, porque eu acho que acredita que existe uma razão, o não
divina. Eu eu acho que É mais divino, inclusive do que isso. Eu acho que a aceitação ela ela se ela se dá por uma sensação de inevitabilidade, que é uma visão quase dogmática do assunto também religiosa, mas de uma outra forma. Eu concordo com a sua leitura, mas eu iria além. Acho que a aí trazendo até para mim e a e e imagino que para muitos de vocês a gente observa essas coisas acontecendo e a sensação que eu tenho é não tem nada que possa ser feito. É isso aí. Eles estão fazendo Isso aí e
a gente tá aqui falando sobre isso, mas é isso que tá acontecendo. É claro que o meu lado, né, de organização política, de pensar como é que a gente se mobiliza, sabe que isso não é verdade e que nos manter nessa sensação de impotência é parte do jogo e que se a gente aceita isso, a gente de fato fica impotente. É, no entanto, é innegável que existe um poder tão grande, tão consolidado e tão, nesse momento avesso e capaz de se isolar dos instrumentos Tradicionais de controle do poder, as instituições políticas, né, a própria opinião
pública, que é ela própria manipulada pelo algoritmo. Eh, que que a sensação que se dá, que se tem é essa, é de algo escrito, é de algo que por por estar escrito está se realizando. Então, uma visão realmente eh escatológica da do que vai acontecer eh daqui paraa frente. Eh, claro que tem uma parte da da opinião pública, da imprensa, da própria, né, da sociedade que tá embcida De admiração por essas figuras e elas estão sendo tratadas como grandes figuras e grandes estadistas. Eh, e é isso. Você fica perguntando para uma pessoa que soube ganhar
dinheiro, não sobre como, ah, como é que você ganhou esse dinheiro e sim sobre o que deveria ser feito com, sei lá, malária, coisas que não são da expertise dessa pessoa. Eh, então isso existe também e e a gente já falou várias vezes, né, sobre essa essa fabricação da admiração pelo Bilionário e não a raiva do bilionário, eh, e a ostentação como virtude, todas essas coisas. Isso existe, isso é parte do jogo, isso é parte da linguagem. Mas eu tenho uma sensação de que não é a parte mais importante. A parte mais importante é uma
sensação de impotência, de não tem nada para ser feito aqui. A gente vai ter que aceitar porque não tem outra opção. E aí, Bruno? Tem opção. >> É para mim essa pergunta? >> Eu inventei que vai ser para você. >> Credo. É, eles fazem isso muito comigo. Quando eles não sabem como é terminar a frase. E aí, Bruno? Que que é isso? >> E aí, Bruno? >> Conclui o meu pensamento, por favor? Não, eu me recuso. >> Por favor, >> pergunta pro Cloude. Sei lá, eu >> Greg tem opção. >> Não. E >> a cara
do Gregório. >> Eu acho que tem tem eu não tenho Clarezas disso. Acho que é é o é o desafio geracional assim, né? O que fazer? O que fazer para sair do realismo capitalista e o que sair e o que fazer para uma coisa pior ainda, que é o fatalismo capitalista, né? Não é nem mais o realismo, não é nem mais que outro mundo não é possível, é que o fim do mundo é inevitável, né? Assim, que a gente tá a gente tá no próprio na própria automação da história, né? A gente também fala disso
no outro calma, Mas eu acho que aqui é mais relevante ainda, assim, a gente tem esse esse meme, né, do Francisco Fucuyama que falou muito cedo nos anos 90 que era o fim da história, né, porque o socialismo acabou, agora é isso que tem, a democracia liberal, agora vamos em frente e e esse é o jogo. ele já revu essa opinião dele. Acho que é injusto atacar só em cima dele, mas a história seguiu vivíssima nos próximos 30 anos. Mas o que tem não Parece que é o fim da história, mas é o fim de
uma certa agência humana na história, de que parece que o capital ele tomou um poder mais imanente, mais algorítmico, mais digital, menos material e mais cognitivo, que parece que a gente agora é um monte de NPC, né? um monte de é jogador que não que não joga, um monte de figurante em um em um certo jogo. Eh, e eu acho que tem uma uma observação que eu queria fazer sobre inteligência artificial que eu acho Especialmente relevante para cá e acho que não é o que fazer, mas a pista eu acho que tá nesse espaço. Eh,
você falou do Sérgio Rodrigues, que escreveu um livro muito interessante. A gente vê muitas pessoas expressando isso com muita frequência, que a inteligência artificial ela não vai não vai substituir o escritor, o autor, o artista, o músico, que tem algo da expressão humana que é diferente, que é genuíno, que vem de uma urgência, que Vem do corpo, que vem da imortalidade. Mas se a gente for ver bem o que que esse mecanismo digital é, ele não é uma máquina de escrever automático, ele é, antes de tudo, uma máquina de ler. Ele é o maior leitor
do mundo. Ele lê tudo que está disponível. É isso que eles chamam de treinamento. Então eles veem todas as imagens, leem todos os textos, desde a Ilíada ao nosso Zap, né? Eles leem Bula de e remédio e ler enida no mesmo no mesmo minuto, né? Eh, e eu acho que Enquanto a gente obsecar na inteligência artificial como autor, de algum jeito a gente tá projetando a nossa própria obsessão com autoralidade, com narcisismo. Quer dizer, é o artista que é o importante e não o leitor, não o público, não o não o alvo da é arte.
E acho que tem um conformismo muito estranho que a gente precisa sair dele, que não é de parar de usar a inteligência artificial para escrever os nossos textos, mas parar de usar ela Para processar o nosso mundo, para oferecer o resumo dessas coisas, porque isso não é mais o algoritmo exatamente ir trabalhando, mas é a gente pisar numa é a gente aumentar a nossa falta de agência no processo todo, entendeu? que é terceirizar a leitura, a observação, a análise para uma máquina que faz isso diariamente. E o modelo de negócio que os caras estão imaginando
pro futuro é muito baseado nisso. É muito baseado basicamente em passividade e a Cognitiva. Esse é o fim que eles estão imaginando pro nosso trabalho. Não é automação do trabalho chato, mas é automação, >> sedentarismo, sedentarismo cognitivo, né? É algo que a gente vai falar cada vez mais. E a gente tá na feira do livro, então é muito bom ser trazido isso, esse assunto leitura. Eu queria falar aqui da Natália Bilt, desculpa trazer de novo esse assunto. Ali, >> eu sou meio obsecado. Natália Bilt, colunista da Folha. A gente já fez esse podcast, >> não
sei. Mas eu só quero falar uma coisa que a tem tá diretamente ligado aqui. Tá diretamente ligado. >> Porque a Natália falou uma coisa que eu acho tem tudo a ver com sedentarismo cognitivo. Ela disse que ela usava a coluna na i na coluna da folha porque ela não tinha tempo de escrever. Eh, pressupondo que os leitores sim têm Tempo de lê-la, né? que me lembrou um pouco gente que manda áudio, fala: "E vou mandar áudio aqui que é mais rápido". Sim, para você de mandar é mais lento para mim de ouvir, mas tudo bem.
E é meio isso que ela faz. Deixou escrever com ya que é mais rápido. Eh, sim. É, mas eh se você não parou para escrever, por que que alguém tem que parar para te ler? Eu acho que isso daí tem um pouco a ver com com o mundo um sendentarismo que faz com que talvez de fato as pessoas Estejam lendo, quem lê a coluna dela, não sei se alguém lê, imagino que leia, deve ler porá, o que é um paradoxo, porque ela tá escrevendo por iá para pessoas lerem com iá. Então os iá estão conversando.
Isso tá acontecendo cada vez mais. Inclusive, parece que tem apps tipo Tinder e tal, que na verdade você bota um robô que lêu o seu perfil para conversar com outro robô que leu o perfil da pessoa com quem você vai se encontrar e eles têm um pré-date para Ver se dá match. E isso já existe, tá? Isso >> essa quitara específica é assim. >> Aham. Isso já existe. Já existe. Você bota robôs para terem o date por você. Então, é um sedentarismo, inclusive amoroso, afetivo, um sedentarismo, não sei como é que você vai chamar isso,
romântico, sexual, um sedentarismo de todas as espécies em que a gente tá de fato terceirizando, inclusive isso. E a leitura é a primeira coisa ser Terceirizada, né? As pessoas de fato elas jogam imediatamente uma coisa no chat de apt, o que é especialmente curioso se a coisa tivesse sido escrita no no chat de PT. Tem um meme, não sei se vocês viram que é assim: "Ah, o chat é maravilhoso. Eu escrevi duas linhas e ele transformou no e-mail de três páginas pro meu chefe e o quadrinho do lado é o chefe falando: "Chefe PT maravilhoso,
recebi um e-mail de três páginas, ele transformou em duas Linhas." Então ele tá fazendo, desfazendo um trabalho, não é, que era no fundo era desnecessário. Então ele tá criando um, ele tá resolvendo um problema que ele criou, basicamente. E é muito interessante você falar isso porque parece que acho que um dos religiosos que difundiram essa encíclica do Papa aqui no É Brasil, ele pediu para os fiéis não jogarem a encíclica na inteligência artificial para fazer resumo. >> Sério? >> Ele pediu >> que marav. >> Ele falou assim: "Não façam isso que vai ficar um pouco
ridículo". Tipo, lê ou não ou não lê, >> mas não joga na IA. Então, teve essa essa ironia que você tá falando. Eu, eu socorro. Não, muita coisa. Eu quer >> É porque você é entusiasta de IA também, >> não é? Que eu acho que tem um dilema aí, tá? Tem um tem um paradoxo mesmo, porque Quando você descreve uma máquina que pode ler tudo, eu eu sempre gostei de ler e acho que estamos aqui entre pessoas que gostam de ler e tem um tem uma angústia que que para mim foi uma angústia que acho
que me bateu, sei lá, na minha adolescência, mas que imagino que seja comum, que eu não acho que temha nada de muito extraordinário nisso, que é quando você se dá conta de que tem tanta coisa que já foi escrita e que será escrita e que você não vai ler Tudo, que não tem nenhuma vida que seja, a vida não dá conta de ler tudo isso que já foi escrito e você olha para aquela biblioteca enorme e fala: "Meu Deus, nunca vai acabar, eu nunca vou conseguir". Eh, então quando você me descreve isso, Bruno, uma máquina
que pode ler tudo que já foi escrito, eu olho para isso e falo: "Ai, eu quero essa máquina. Eu entendo o encantamento com essa capacidade de processamento de informação e de coisas, de te trazer, Porque tem algo de mágico mesmo em em imaginar que essa essa esse corpo de conhecimento e e e que é muito maior do que cada um de nós individualmente é capaz de processar se torna talvez um pouquinho mais acessível. E e eu sinto que isso vai ter de fato utilidade. O que me preocupa não é a falta de utilidade da inteligência
artificial, porque eu acho que útil ela já é e continuará sendo. E se a nossa discussão for ser sobre utilidade, eu acho que ela É menos interessante. O que me, o que eu sinto é que tem duas coisas muito diferentes. Uma coisa é querer saber o que tá escrito num livro em linhas gerais. Outra coisa é passar pelo processo de lê-lo. E as duas coisas têm seu papel. Tem momentos que talvez você só queira saber o que tá escrito na encíclica do Papa, que tem muitas e muitas páginas em linhas gerais. E você quer de
fato o resumo, o resumo já existia antes da inteligência artificial E ele já tinha utilidade. Eh, ter o fichamento, o me dar só o o essencial disso daqui, isso é útil às vezes. Isso não é um substituto, não é nem substituto, não é nem a palavra, isso não é a mesma coisa. não tem nada a ver no fundo com o processo de ler, porque ler uma coisa do início ao fim é entrar num processo junto com aquele autor, é viver uma jornada. E acho que parte dessa ansiedade conclusiva do eu preciso saber do que que
isso fala tem a ver com A nossa obsessão com produtividade e com o resultado e não com o processo. E a gente vendeu isso muito antes da inteligência artificial. A escola é assim, é estruturada assim. Não é sobre te guiar num processo de leitura com exceções. Tem professores maravilhos. A escola, eu digo a sua formação quase militar, né? Não tô falando de do dos educadores que, apesar desses limites e das provas e das avaliações cada vez mais desumanizadas e desumanizantes, Encontram caminhos para levar os seus alunos para um processo. Por favor, mas a gente foi
criando uma série de maneiras de avaliar tanto os educadores quanto quem é educado, né, quanto os alunos. eh em outros momentos no mercado de trabalho, em vários lugares, a gente foi criando maneiras de eh valorizar o processo. Aí falando só da leitura, que tem muito mais a ver com o resultado. Você entendeu o que tava escrito aqui, você sabe me dizer, você sabe responder Essas quatro perguntas de múltipla escolha do que a gostosura do processo de ler. Então tem tem um tanto também nessa discussão sobre a IA desumanizante que diz muito sobre o quanto a
gente já estava se desumanizando. >> Perfeito. Porque ela só não substitui ou ela só de fato substitui as funções que os homens estavam executando como máquinas. Aquilo que a gente executa como pessoa, ela tem muito mais dificuldade de substituir. >> Hum. Está eh tem muita coisa a dizer, Tomu. Mas eu concordo muito com você em alguns aspectos. Eu acho que existe, mas em outros não. Eu acho que existe um mito que, aliás, ferrou muito a nossa cabeça da nossa geração nos anos em 2000 e poucos, que foi Matrix. Num Matrix vocês lembram como é que
você aprende coisas, como é que o Neil vira um superhomem? >> É um download >> através de um download. Aquilo ali era Para mim o símbolo de um pensamento dos anos 2000, de uma utopia futurista na qual centraria uma coisa, ele bota um chip aqui e ele aprende kung gfu e ele aprende todas as línguas do mundo e ele aprende tudo através de um chip que baixa. Eu lembro de adolescente, ah, ficar assim, meu Deus, é isso assim, eu não vou precisar porque eu tava aprendendo a tocar guitarra e é insuportável você aprender um instrumento.
Aprender uma língua nova é Dolorido, que você vai demorar e vai ser dolorido no seu corpo. E ler livros vistos também é uma coisa dolorida, não saber as coisas. E de repente eles propõem uma panaceia para todos os problemas da humanidade. Ali se é você aprender tudo através de um download, mas tem algo ali que é uma utopia péssima e que não revela e ela ela erra a essência do aprendizado que tá no tempo, porque não existe aprendizado fora do tempo. E aí e não existe leitura Fora do tempo. A leitura, como você bem falou,
é uma experiência corporal. Ela não tem a ver com aquisição de conteúdo, ela tem a ver com um processo emocional que não existe fora do tempo. Não há download possível paraa leitura. Não há. E quem acha que há não entendeu o que é ler. E tem uma coisa que me incomoda eh profundamente, que é essa ideia de que você tem, vai pegar o que um texto tem. Você não pega o que ele tem, porque ele também é forma. E tem uma coisa que só Quem e a prova disso é quando você gosta de um livro,
você retarda o final da leitura. Você lê devagar, não porque tá chato, mas porque tá gostoso e você tantricamente prolonga aquelas últimas páginas. E só quem gosta de ler sabe o que é isso. Uma pessoa que usa inteligência artificial nunca vai entender o que que é prolongar o fim do livro, demorar, ler as últimas páginas demoradamente, porque você não quer que aquilo termine. Não vai entender, porque Não é não é é não é um desejo você não ler para chegar no final, gente, pelo amor de Deus. >> É. depois de terminar de ler, quer ler
sobre o livro, depois falar com as pessoas sobre o livro. >> Ah, total. O, e tem, mas, mas o que eu, o que eu acho que você falou também, aonde eu discordo, é na questão de que a, o IA vai substituir o que o ser humano fazia como uma máquina, porque eu acho que até para ser máquina o ser Humano é melhor. >> Não tem nada que me irrita mais do que ter que lidar com máquinas, fazendo coisas que eram consideradas maquináis, mas que não são, porque a IA não entende. Então, as pessoas reclamavam de
telemarketing, eu acho muito melhor uma atendente do que eu não suporto falar com robô. Eu não suporto porque o robô é burro. O robô ele é insuportável, ele não entende o básico, ele faz você dar voltas e Voltas, ele é ele é estúpido. E todo mundo já teve lidar com robô robô. Sentiu uma saudade enorme da pessoa, do ser humano, fazendo uma função que era burocrática, mas que era muito melhor exercida por um ser humano. Porque o robô, justamente ele não entende as especificidades, ele não entende o tom de voz, ele não entende o que
tem de humano ali por trás. E não tem nada que nos, pelo menos que mim me enlouqueça mais do que a interface robótica. Então, Até para funções burocráticas, eu acho que o ser humano exercia eh melhor, eu tenho impressão, do que a máquina. Para mim, pelo menos, é enlouquecedor. E inclusive tem uma coisa que acontece muito, não sei se é uma coisa muito no Brasil, mas eu tô porque eu não sei como é fora, tô, então não sei como é essa discussão, mas sempre que automatiza um processo, deixa uma pessoa do lado ali te ensinando
a usar, né? O guichê tem sempre isso. É o Eu adoro. Não tem mais No Rio de Janeiro, pelo menos, tem nos estacionamentos, tem eh agora é automático, não tem mais uma pessoa no guichê que te dá a coisa, é um botão que você aperta, mas não dá para alcançar o botão. Então fica uma pessoa pegando o papel e dando para você no carro. Então a máquina, o ser humano, ele virou um garçom da máquina. Autopagamento também na no supermercado tem uma pessoa meio vendo se você não tá enfiando na sacola sem passar na tem
uma pessoa vigiando o Auto guichê ou te ensinando a usar o autogichê. Então as pessoas estão ensinando você a usar a máquina que teoricamente estaria lá para substituí-la. Então eu acho que quase sempre é é algo que nos dá mais trabalho, como dizia meu avô, preguiçoso, trabalho é dobrado. Isso para mim vale para Iá também. Se você, ah, não, porque é mais rápido de ver um texto de iar, porque você não tá lendo ele depois, você não tá checando, porque Você não vai dar mais trabalho que se eu pedir para alguma coisa para ir, eu
vou ficar tão nervoso, ela tá falando merda, que eu vou ter que ler, checar e eu vou estar virando um assistente de IA e eu vou est e é o que as pessoas são volta e meia, as pessoas pedem para e depois ficam relendo e reescrevendo, você tá trabalhando para ela e a pessoa não percebe isso. Ela tá tendo dobro do trabalho. Então, né, desculpa ser meio ludista, mas eu concordo você, mas nessa Questão eu eu tenho muita saudade do ser humano e em defesa dos eluditas, que eu tenho uma raiva de como esse termo
ele é usado pejorativamente. Ah, você é um eludita, como se fosse apego ao passado ou antitecnologia. queria fazer uma defesa dos eluditas é originais que eles não eram de modo algum anti tecnologia ou anti avanços que facilitem a vida das eh pessoas. Se você for vertos e no movimento Quando ele aparece, ele é o reconhecimento de que as máquinas, o problema não é que elas existiam, é que elas tinham donos e eram poucos donos, que era na hora em que se cria uma máquina que é capaz de aumentar a produtividade, ou seja, meios de produção,
e eles são de poucas eh poucas pessoas, eles não estavam com medo de perder o emprego, eles estavam com medo de perder perder poder, na verdade, >> a concentração de riqueza >> de perder poder, de poder e perder a capacidade e o valor que eles tinham em o processo produtivo. Então, muitas das demandas do movimento é original que eles que eles é que eles é que eles é arrebentavam máquinas era para falar, elas têm que ser nossas, elas têm que ser públicas, tem que ter uma outra regra. É mais ou menos isso que o PAP,
muita gente tá falando em relação à inteligência e artificial. E é muito interessante pensar Na encíclica que ele cita quando lança essa encíclica, que é uma outra encíclica que foi muito importante que o Leon 13, o antecessor, >> o Gregorio mencionou no início, >> mencionou no início, ele ele a lançou na revolução na revolução industrial que era exatamente tava aparecendo uma tecnologia que ia reconfigurar não simplesmente o o é trabalho, as relações econômicas, mas o sentido de valor que o ser humano dava a si mesmo. Que é se definir através do trabalho. E hoje a
tecnologia ela entra em áreas muito mais ser profundas do que a produtividade e meio que por simplesmente são nessas áreas relacionais que é e quando eu falo que a máquina lê e o que me preocupa, eu não tô preocupado que ela vai ler servantes e me resumir o shot ou ou acabar com o prazer que a gente tem de ler um baita romance. Eu tô falando de coisa bem mais Básica mesmo, de pegar o o guia de insetos para ver se aquele ali ou não entendeu? Tipo para você pesquisar o que você precisa saber em
relação ao remédio que você toma, ao caminho que você vai tomar para ir para um lugar, entendeu? O que fazer numa cidade que é que é você chega, que é uma leitura muito mais é muito mais é cotidiana, mas muito mais ativa dessas coisas. E o que tá na encíclica e o que eu acho que tá acontecendo é que sem Perceber, mesmo sem usar chatbot para terapia ou para namorar, que são os exemplos mais óbvios assim, mas o que a gente tá fazendo é a gente tá estabelecendo uma relação com uma máquina que simula humanidade,
sabe? Essa simulação, por enquanto, ela é principalmente baseada em texto, em leitura, escrita, produção de texto ou produção de e a leitura. Mas a simulação que se produz no final >> é de um relacionamento com uma máquina >> que cria intimidade, cria hábito, cria novas formas da gente pensar e da gente pesquisar coisas. >> E só uma última ressalva, a gente volta e meia trata como burocráticas ou pior despolitizadas eh tarefas que eu não considero que sejam. E eu, eh, por exemplo, o resumo, eu não acho que o resumo seja isento de agência. Não tem
nada mais político do que a maneira que você resume um texto, mas o indexamento, Né, ou indexação, perdão. Eh, tem um livro, aliás, ótimo, index, a história de do do índex, acho que pela fósforo e outro que é o como organizar uma biblioteca. Mais bonito ainda do Roberto Calasso, que ele narra, é lindo, é um livro só sobre as maneiras possíveis de organizar uma biblioteca por afeto, por obras queridas, obras afins, obras que se odeiam. Você pode botar um autor para conversar com o outro. Você pode botar, existem miliras poéticas, práticas. Não Há não há
até hoje um, uma verdade absoluta sobre a maneira mais eficiente de se organizar uma biblioteca, porque não há eficiência quando você tá falando de organização de uma biblioteca. Quando a gente bota a máquina para organizar o saber, ela não vai achar a maneira mais eficiente. Primeiro porque não há. Segundo porque cada um tem uma maneira. Terceiro, porque ela vai tá eh ela vai tá fazendo a melhor parte da leitura, que é também essa organização, porque Ler é também organizar a biblioteca mental. Então, quando a gente, eu acho que quando a gente terceiriza a parte chata,
a gente acaba perdendo a melhor parte, entende? E no caso da da literatura, sobretudo, é, e eu acho que a gente volta e meia trata, e eu sei que não era isso eu tava falando, pelo amor de Deus, mas eu sei que as pessoas volta e meia falam e elas acreditam nisso, que existem algumas atividades políticas e outras não. Existem algumas atividades Criativas e outras não. Isso que eu quero dizer. Como se a organização da biblioteca não fosse criativa, ela fosse só burocrática e deixa ela. E não vou nem falar da importância de você ter
uma pessoa humana na na burocracia. Quantas pessoas foram salvas na Segunda Guerra? Por causa de um burocrata, né, que viu aquilo ali e que falou: "Eita, viu a criança no colo da pessoa e fingiu que não viu e anotou outra coisa, não é? Quantos burocratas salvaram milhões de Vidas por serem um ser humano não maravilhoso, não incrível, mas apenas humano." >> Uhum. >> E coisa que o robô nunca saberá ser. Então eu acho que a gente tem que lembrar que tudo que o humano faz é humano. Faz. É. É ridículo. Mas >> claro, não, mas
não é ridículo. No entanto, sim. Tudo que o ser humano faz uma parte de humano ali porque tem um ser humano fazendo. Mas a gente passa Sim por um processo de desumanização que tem também a ver com limitação da agência. A o exemplo da da pessoa no call center, ele é muito interessante, que é, por um lado, é melhor do que ter uma máquina, porque você tá falando com uma pessoa e é menos enlouquecedora. Eu compartilho da experiência. Por outro lado, é muito humilhante para ambas as partes nessa relação, quando você tem alguém numa posição
de atender um outro, Né, que em geral é um consumidor nessa experiência do call center. Então, atender o consumidor que na verdade não tem nenhum poder de agência naquela relação. Então, uma pessoa que tá ali supostamente como pessoa, mas cuja cuja humanidade também lhe negada na própria relação de trabalho, né? Não só porque ela tá muitas vezes numa numa em um ambiente de trabalho muito ruim, é, e desumano em vários sentidos, né, sem intervalo, sem poder beber água, sem Poder ir ao banheiro, sendo mal pago no outro lado do mundo, mas também porque no fundo
os problemas que as pessoas estão trazendo para essa outra pessoa são irresolvíveis por ela. Ela não pode tomar decisão. E é nesse sentido que eu acho que ela se assemelha como a máquina, porque o o mais complicado da inteligência artificial hoje, o mais complicado é muito difícil dizer o que é o mais complicado, mas uma outra complicação é que a gente tem a gente tá Colocando máquinas em processos, muitas vezes em em posição de tomada de decisão ou de criação dos anteparos que vão servir de subsídio para uma tomada de decisão. o resumo, a a
o a resposta final, a indexação, tudo isso ajuda a a tomada de decisão, mas a gente tá colocando algo que não tem responsabilidade, inclusive jurídica, assim, né? Eh, a decisão tomada pela máquina, ela é a decisão perfeita, porque ela é uma decisão que não foi Tomada por ninguém e ao mesmo tempo ela foi tomada por alguém. Ela é executada no mundo de forma estranhamente não passional. Eh, dando um exemplo da Segunda Guerra, se não fossem burocratas e se fossem máquinas, seria muito mais difícil condenar alguém no processo. Você de alguma maneira e e a defesa
que muitos desses burocratas usaram para tentar se salvar de qualquer tipo de condenação foi que eles eram máquinas. Eu tava ali cumprindo ordem, Eu não tinha nenhum tipo de agência, eu não podia tomar uma decisão contrária, o que só não é verdade porque eles são pessoas. Eh, mas à medida em que a gente vai introduzindo as máquinas ali, a gente gera um outro problema. Então, eu acho que a gente não pode ignorar essa parte de desumanização, porque ela vai criando condições para as máquinas nos substituírem, não de maneira menos política ou menos perigosa, de maneira
mais perigosa, mas mais fácil também. Eh, e aí me lembra um outro aspecto que que também tem a ver com o tema religioso e com uma palavra muito usada em contextos religiosos, que é a palavra mistério. Eh, o mistério, né, como uma parte importante da vida. Tem um outro aspecto da inteligência artificial que me fascina, que é o fim do mistério, eh, e demandado da pessoa. Porque para que a inteligência artificial possa servir para alguma coisa, eh, no contexto, vários Contextos, né, desde um uso mais individual ou talvez esse uso do Tinder, do seu chatbot
do Tinder que vai fazer um date com outro chatbot, até um uso mais empresarial, até um uso num governo ou numa grande ou numa grande empresa que já tem quase uma estrutura burocrática de governo. É, para que ela possa servir para alguma coisa, ela precisa saber tudo que há que pode ser sabido sobre aquilo. Então, o que eu vejo sobretudo numa geração mais jovem Que já tá começando a se entender subjetivamente com inteligência artificial, e eu tenho observado isso muito nas minhas interações com o pessoal uns 10 anos, 15 anos mais novo do que eu,
é que já existe um esforço por parte dessa geração de se fazer conhecer pela máquina. A máquina precisa saber tudo sobre mim. Ela precisa saber quem é meu pai, quem é minha mãe, o que que eu gosto, o que eu não gosto, o nome do meu pet, como que eu escrevo, qual Que é o meu tom, se eu gosto, eu não gosto dessa matéria, porque quanto mais ela sabe, quanto mais eu organizo quem eu sou de uma maneira que é inteligível pela máquina, mais ela vai gerar resultados que atendem as minhas especificidades. Então, a gente
tá se formatando em base de dados, se autoforatando. É isso que o que, né, que as plataformas é voltadas pro consumidor, que são essas que a gente tá usando, então Cloud, chat GPT, etc, Fazem quando elas te pedem para configurar aquele sistema, né, dar as suas instruções, explicar as palavras que você quer, as palavras que você não quer, como você quer que aquilo seja. Ela tá te conhecendo em alguma medida, quanto mais ela te conhece, mais vantagem competitiva nesse nesse mundo obsecado com produtividade e competitividade você ganha. E o fim do mistério me preocupa demais.
Sem falar do aspecto que você trouxe, Greg, que eu Concordo. É, é evidente que essas decisões da própria máquina são elas mesmas políticas. Eh, e a gente vai começar a tomar, já tá tomando decisões de alvo de guerra, de eh enfim, né? Política pública que afetam milhões de pessoas com base em input da máquina e que ao mesmo tempo é desresponsabilizada e profundamente política. A gente não tem uma resposta para isso, porque a gente não tem eh não tem uma maneira de responsabilizar uma máquina, não tem Nada que que esteja no léxico, tanto punitivo quanto
restaurativo. Todos os léxicos de justiça que a gente criou, dos mais, vou te colocar na cadeia, aos mais restaurativos, vamos entender o que aconteceu aqui. Vamos entender o que pode ser reparado, como que você pode reparar essa vítima ou a família dela. Nenhum desses léxicos é apropriado para uma máquina. Você não prende o Cloud. você também não pede para ele, sei lá, resolver o problema que ele criou. Eh, Então é uma é uma impossibilidade de responsabilização que também me preocupa muito e e que também tem a ver com com o aspecto transcendental e religioso, porque
esse também é um é uma função da moral religiosa na sociedade, né, que é criar essas possibilidades de responsabilização e no caso do cristianismo, mas não apenas, de eh de penitência, de arrependimento e e de reparação. >> É, mas e aí vem o meu problema com a com O papa. para não falar que é o >> que vem o problema com o papo. >> Vem o problema com o papo. Não, porque assim, ao mesmo tempo que eu acho que é eh significativo e desesperador ver, né, a disputa do anticristo, assim, eh, na home do wall,
eu falo: "Não é possível, cara, eh, que a gente tá nesse debate". Mas ao ao mesmo tempo ele eles eles estão eh tão lidando dentro de um de dentro do mesmo arcaboo assim que quer dizer estão todos Colocando o ser humano em referência a Deus, a uma narrativa é grandiosa, uma narrativa é transcendente, é uma questão metafísica. Então de um lado, o papa tá falando: "O ser humano é criado à imagem e semelhança de Deus". Então assim, não é pouca coisa, né? É bem assim, se acha bastante, né? Então, colocou lá, os outros falam: "Não,
a gente tá criando Deus, a nossa imagem e semelhança aí de poucos homens, assim, de quatro, cinco caras que estão criando que eles acham Que Deus vai existir." Mas a análise que eu acho que falta na encíclica e na maneira como a gente tá conversando disso, acho que ela tá emergindo com muita força, mas que é a verdadeira torre de Babel enfiada nesse negócio todo, que é o modelo econômico e o próprio capitalismo, entendeu? que essa conversa deixa de ser transcendente a hora que você lembra de algo mais inquestionável do que tudo, que nem o
Papa questiona de maneira frontal. Ele Fala sobre exploração, sobre é poder, mas ele não fala sobre a finalidade final disso e do tamanho do volume de capital que isso gera, que é a verdadeira força imanente, que o Greg falou e agora a pouco, né, que o capitalismo é a força que colocou esses caras numa posição é divina e o capitalismo é o sistema operacional dessa inteligência artificial. Então, tem um aspecto teológico imanente, tem uma sede mitológica que tá sendo que tá Sendo matada com essa essa essa conversa toda. Mas o Papa ele ele ele vai
na doutrina social, ele fala do sofrimento material, mas ele não entra na teologia da libertação mesmo, né? Ele não chega e e fala que o problema é o modelo de produção e de reprodução de lucro que tá baseando tudo isso, que a torre de Babel que ele teme ser criada com inteligência artificial, ela já foi criada, ela já tá instalada nessa linguagem que ninguém fala, que é a lógica do próprio capital Que tá operando esses algoritmos. >> Ele não ele certamente não fala com essas palavras, >> não. Mas, mas eu eu acho, talvez não seja
papel dele mesmo, né? Mas eu acho que a fronteira de questionamento disso não é tanto no nosso hábito, mas do questionamento do verdadeiro sistema operacional que não é digital, que ele é sobretudo econômico e psicológico. Mas é isso. O o Papa é o único chefe de estado que tá tentando chegar no âmago disso. >> É, ele é o único que tá falando assim: "Todas as pessoas têm dignidade porque elas são pessoas humanas, elas são dignas por isso". E não, e e a gente precisa salvaguardar essa dignidade primeiro. Isso independe de trabalho, isso independe outras outras
maneiras que a gente criou de conferir dignidade, né? A gente já nasce com ela. Já me parece, parece pouco, mas eu não tô achando pouco no mundo de hoje, não. >> Não, não é pouco, não é pouco. É o que, Enfim, acho, acho que pro Papa tá ótimo. Mas é, a minha agonia é que eu queria que o Papa tivesse só falando isso. Ah, tudo bem, é mais um documento contra IA. e que esses documentos tivessem sido produzidos com mais acidez e mais profundidade, mais viabilidade e é política pelos nossos chefes de estado >> que
não estão fazendo is >> e a gente tá aqui literalmente tentando fazer uma regulaçãozinha michuruca do Que que pode ou não fazer com IA, assim, de onde é que instala o data center, um pouco de imposto que vai, não sei o quê, como se isso fosse regular, como se isso fosse o que dá para fazer politicamente. E quando você fala assim, não, vamos regular um pouquinho assim vem o Peter Ti e fala: "Você é o anticristo". Então a nossa ambição é política não tá do tamanho que ela precisa ter em relação a isso, assim, precisa
vir, não em cíclicas, mas assim, um projeto é Político mais claro que enfrenta isso que tá se colocado hoje hoje em dia. >> Claro. E e eu acho que um dos motivos que não tem é porque ele realmente parece invencível, né? Ele parece e é de alguma maneira assim, eu não vejo muito como é muito difícil lutar contra essa força que é a força do assim, nunca se acumulou tanto dinheiro e como a gente vive nesse mundo em que capital é dinheiro, parece realmente invencível. É curioso que no clube do livro, clube de Cultura do
calma, a gente tá fazendo todo mês a gente lê um livro, ele sempre sangra um pouco paraos nossos calma urgente. >> Eu ia falar dele >> e o desse mês tem tudo a ver com isso, que é Os Imortais, livro lindo da Pauline Tort sobre o primeiro encontro assim imaginado, né? Claro, é ficção totalmente. É porque é o primeiro encontro dos Neanderes com um grupamento sapiens. Então é sobre esse convívio Entre Neandertes e Sapiens. E o livro acaba sendo uma indagação sobre, ó, tá ali isso aí. Lindo livro, recomendo. Ele é uma indagação sobre o
que é humano, o que é o que é ser humano, basicamente, né? Então vai lá para essa infância da humanidade tentando entender o que que nos faz humanos. E então eu fiquei pensando isso o tempo todo, não sei se vocês também tá aqui conversando e eu tô pensando, tô pensando muito nesse livro, >> no livro assim, é, eu pensei muito nele. Eu acho que é o livro que eu recomendaria é hoje mesmo, não é porque é o clube, mas porque eu acho que ele dialoga exatamente com essa angústia que eu sinto entre a conversa do
Peter Ti com o Papa. Os dois estão referenciando a a gente em relação a a Deus. E o que eu acho que esse livro faz e a literatura faz como um todo mesmo assim, é uma humanização que não precisa de referência é divina, é uma investigação pura do do Da nossa vulnerabilidade, nossa imperfeição, da nossa condição biológica, da nossa não superioridade em relação aos outros animais, né? do fato de que a gente não foi criado imagem e semelhança de nada que não sejam todos os nossos outros primos que >> na Terra estão, né? E acho
que esse livro puxa de maneira muito radical para uma história muito inacessível, mas para um núcleo eh humano altamente acessível, não só pela Literatura, mas por essa honestidade de introspecção é possível que hoje em dia, eu acho que é o ato o ato inicial de uma certa rebelião para >> para >> é a rebelião se se dará pela leitura, Não, só, né? Mas assim, eu eu mas eu acho eu acho que tem a ver pressando alto aqui, tá gente? Sei lá, mas eh >> sem compromisso, >> sem compromisso. Eu eu acho que uma das coisas
que o e aí não é só a Inteligência artificial, mas é o mundo do conteúdo, né? o conteudismo, a gente tá livrando tempo de leitura, de trabalho, de produtividade para ficar no rios vendo vídeo vertical de outras pessoas, sei lá, alguma coisa meio esquisita, mas que é a morte da introspecção mesmo, da investigação subjetiva, livre e corajosa, mesmo, sem referenciais divinos necessariamente, mesmo que se já é buscado dentro, no Final, mas não como ponto de partida, que é o ponto de partida da cidade de Deus, de tudo isso que que tá na encíclica e no
que eu acho que a literatura não é o o ato de rebeldia em si, porque é fácil falar falar isso, mas eu acho uma condição eh básica e não final. >> Sim. É que para muitas pessoas essa é exatamente a linguagem da espiritualidade, né? As religiões, todas elas têm algum tipo de prática, não Gosto de falar assim, todas, porque talvez uma não tenha, mas muitas delas eh tem algum tipo de prática introspectiva eh que é que é ritualizada. Então, é o é o é o monastério, é o retiro, é o vipna, é a meditação, é
o é o shabat. Você tem alguma maneira de assegurar um espaço de introspecção regular em que você se desconecta do do mundo mais material. você muitas vezes inclusive não fala tanto ou você se desconecta da própria Linguagem ou ou ela fica só no seu discurso interno e e você vive esse momento de introspecção. E e não quer dizer que você precise fazer isso a partir de uma prática espiritual ou porque você acredita em alguma em alguma religião organizada, mas o que você tá sentindo falta e falando que deveria est na na semente dessa rebelião é
só ponderar que é uma prática espiritual como nérrima a várias a várias religiões Humanas. E só uma coisa que senão a minha produção vai me matar. Gente, a gente falou do Clube do Livro várias vezes. A gente tá no meio do ano com o Clube do Livro. A gente vai abrir uma segunda turma pro segundo semestre. Tem gente que tá com a gente o ano todo, tem gente que gosta de entrar no segundo semestre. A gente começa a ler os livros do segundo semestre agora em julho, começa a discutir luz em agosto. Eh, então quem
quiser entrar no clube do Livro pro segundo semestre, pode entrar em calmorgente.com. É isso. Fiz o jabá, né? >> Arrasou. Obrigado por lembrar. entre lá pra gente discutir que os livros estão muito legais do segundo semestre. E bom, por fim, concluindo, é terminar talvez com os imortais, não é? Tem isso que é bonito, porque você falou realmente a introspecção como algo que a gente tá perdendo, mas também a comunhão, curiosamente, que é o contrário do Parece o contrário da introspecção, mas não, não acredito que seja, porque tem algo bonito no livro que, aliás, é o
contrário, e aí também falando contra o Papa, é o contrário da narrativa teológica de origem, na qual Deus teria criado um homem e uma mulher da costela do homem e todos os outros descendentes seriam dessa pessoa. inclusive é estranha meio racista. Por que que tem várias raças? Porque é um é uma eu nunca entendi direito esse mito de origem. Eu Acho ele ruim. Acho pobre. E não tem nada mais distante do que isso na realidade, porque a realidade é o contrário desse mito real em que havia um casal e que havia o que faz a
força do hominídio. Tá precisamente no na comunhão e no fato de que nós éramos numerosos e nós sobretudo sapiens másal conseguiam se unir em grupos muito grandes graças à linguagem. Então, nossa grande tecnologia foi precisamente a fogueira, mas sobretudo o que acontecia Em volta dela, que é a linguagem que nasce junto com fogo >> e em volta do fogo. Então essa narrativa compartilhada que nasce em volta do fogo, presencial obrigatoriamente, ela é a Isso é muito bonito o livro da Pauline, não é? Ela parece um grande elogio mesmo, me parece a essa habilidade do hominídio,
antes mesmo do sapiens, antes do ser humano, de se reunir em volta da fogueira e debater o que viu e a partir do que viu planejar o Que virá. E eu acho que é isso que eu tenho mais medo ainda que se perca, sabe? O a comunhão é um lugar de uma narrativa compartilhada. Porque o problema do algoritmo é que cada um tem hoje uma versão da realidade feita para você no seu bolso. Então hoje não tem mais a realidade compartilhada. Você você viu uma notícia ontem que certamente eu não vi, não do jeito que
você viu e a pessoa do seu lado menos ainda. E cada um tem Acesso a uma versão da realidade muitas vezes conflitante. Então não existe mais essa fogueira ancestral em torno da qual a gente reunia e ouvia um pouco a mesma história. Pelo menos o mesmo clã, ele dividia uma mesma história. E hoje a impressão que dá que ninguém divide, nem você com seu clã, nem você com a sua família. Cada um tem uma narrativa da realidade feita sob medida para você. Para te agradar? Não necessariamente. Às vezes é para te deprimir, é sobretudo Para
te capturar. Então não é nem necessariamente para te deixar feliz, não. Pessoas falar não, porque o algoritmo é feito para te alegrar, indignar, >> para te indignar, para te revoltar. É para te ferrar. Basicamente te ferrar saúde mental. Digo, porque não tem nada que te pendure mais na tela do que a sua fragilização mental. Então, o que eles querem basicamente é trabalhar mesmo com a fragilidade mental e te pendurar ali. Então, o que mais me preocupa mesmo e lendo o livro, pensando nisso, é também, se falou introspecção, que é muito importante, mas é também a
morte da comunidade e da comunhão, que eu acho que é isso que nos faz fortes, foi isso que nos fez eh invencíveis por muito tempo, né? É basicamente a comunhão em grandes números. É, ó, quando eu falei isso, só para encerrar, eu acho que quando eu falei de introspecção, não fal nem dos Personagens, falando da própria é Paulini, que acho que fez um fez um exercício muito forte de ir dentro da nossa humanidade para escrever algo tão >> radical e tão, né, essência. Mas o que eu acho que os personagens têm nesse livro e que
eu acho que é a antiencíclica e a antiá, de um jeito que eu acho que é o que mais humaniza mesmo, é que eles não se submetem ao que os deuses esperam deles, assim, sabe? Eles eles são não conformistas. Tem uma coisa Muito bonita na mitologia grega, na mitologia ancestral que ela narra e é tudo mais, que é a não submissão ao deus criador, que assim o o é destino deles ali era um só, era muito claro. E tem uma certa rebeldia que tá ensejada na citação que ela coloca ao longo do próprio livro e
tudo mais, que é não aceitar o grande algoritmo do céu, né? que é não aceitar a mensagem que vem de um lugar que não é humano, entendeu? Eu acho que isso tá no Livro e tá em algumas, é isso que eu quero dizer com introspecção. >> A gente faz depois essa discussão em relação a >> Sei. Alessandra é fervorosa. Eu falo a gente, >> gente, já estão sinalizando pra gente terminar porque vão ter outros eh outros eventos. Então fiquem vão ter vários eventos aqui. Fiquem aqui porque tem um monte de coisa incrível nessa feira do
livro. Muito obrigado a todos vocês. >> Obrigada, queridos. Muito obrigada. O Calmor, gente, é uma produção da Peri Produções. Na produção temos Carolina Foratini Igreja e Sabrina Macedo. Na assistência de produção, Léo Tony Costa. Na pesquisa e roteiro, Luía Miguez. Na edição e mixagem, Víor Bernardes. Na Ilustração e Design, Ana Brandão. Na sonoplastia, Felipe Croco. Na edição de cortes, Júlia Leite. Nas redes sociais, Gabi Biga. Na gestão de comunidade, Marcela Brandes. Na identidade visual, Pedro. E uma consultoria de comunicação por Luna Costa.
