Inteligência artificial na educação: quais os limites?

[Música] para falar um pouco com a gente sobre as tecnologias na educação nós recebemos o professor da Unicamp Walter carnielli Professor Walter muito obrigada por sua participação aqui conosco obrigado a vocês pela oportunidade Professor quando a gente fala hoje do contexto da educação o a desinformação faz parte de uma das palavras chave devido ao contexto da presença das tecnologias no dia a dia de cada um de nós do ponto de vista da educação da sua prática como que a tecnologia tem interferido nesse contexto da educação brasileira eu acho que mais mal do que bem porque

claro que por um lado a tecnologia permite a democratização por exemplo a inteligência artificial se democratizou podemos falar um pouco depois disso né Eh até Poucos Anos Atrás ninguém tinha acesso nem aos mais aos profissionais da Computação não tinha acesso hoje em dia qualquer um tem meu neto 12 anos já fala com o GPT e tal então isso é bom Por um lado mas é ruim por outro né é igual invenção eu tava falando ont com um colega como a invenção da Pólvora né você pode fazer túneis mais rapidamente e pode matar a gente muito

mais rapidamente também então eu acho que faz bem mas faz mal ainda E por que que faz mal porque nós estamos na mão de um contexto mercadológico muito forte muito poderoso que é um um uma maneira eh nova de fazer negócio onde Primeiro as grandes empresas pulverizam o negócio e fazem todo mundo ficar dependente e depois elas controlam como querem né isso acontece de todo lado não é só no Uber é um caso o Uber o o sei lá o ou outros plataforma de de aluguel de car e etc várias coisas desse tipo e o

Microsoft fez assim também primeiro distribuir de graça depois né Então vale aquela história de que se você não sabe quem é o produto o produto é você né já ficou famosa essa frase Mas é bom relembrar E aí acontece o seguinte as plataformas distribuem as coisas aleatoriamente a inteligência artificial foi um caso né o é claro que aquela Open ai sabia do risco de est disseminando essa tal de Inteligência Artificial que no meu ponto de vista não é inteligência né Eu até vou falar hoje na palestra eu vou vou enfatizar o meu ponto de vista

que isso não é inteligência e por não é professor eu vou só dizer porque que não é mas só vou des terminar o o o o golpe de mercado que a gente tá sujeito então por exemplo o que que a Open ai fez disseminou esse negócio livremente gratuitamente aquilo entra na sociedade todo mundo começa a usar todo mundo fica acostumado E aí fica muito difícil de ser regulado não dá reg gera essa dependência gera uma dependência quando eu fui lá no Congresso participar de uma de um evento sobre regulação da ia e tal o Marco

legal da Inteligência Artificial e tinha gente Contrário primeiro tem gente que quer que quer proibir né Isso aí é um absurdo também não dá não se trata disso outras pessoas eram contrárias a qualquer tipo diz não isso aí é é prog o progresso tem que andar não é não é verdade isso tem que ser regulado e tem que ser regulado pelo pelo governo ou talvez por uma agência privada mas uma agência pública né não precisa ser o Senado etc mas tem que ser regulado agora voltando a sua pergunta por que que não é inteligência porque

inteligência envolve basicamente criatividades invenção análise análise filosófica pensamento crítico pensamento argumentativo geração de dúvidas modo digamos assim eh entrar em uma maneira de não acreditar nas coisas de maneira que elas são duvidar um pouco de tudo né E e aí acontece o seguinte e a inteligência artificial não cria nada não inventa nada invenção é Einstein inventando por exemplo a física contemporânea invenção é o teorema de gedel invenção é a cura da covid essa é uma invenção invenção na Biologia invenção na química é isso sim é invenção o chat GPT não inventa não cria ele copia

copia bem copia bem e por isso é um risco pra educação é é um risco paraa educação Mas também eu posso perguntar para ele o que que é que que é antropoceno uma uma expressão que tá sendo Aparecida agora não sei que que é direito eu pergunto para GPT ele fala antropoceno é isso tá sendo discutido aqui ali me dá algumas referências algumas erradas algumas certas ele Alucina no meio da história etc mas eh isso não é inteligência isso é um Engenho né Isso é o engenho eu até até ia propor de chamar Engenho artificial

mas como todo Engenho já é artificial é a gente pode chamar de Engenho avançado que que é uma caixa de ferramenta é como uma nova uma nov nova ferramenta imagina uma chave de fenda que ao mesmo tempo tira qualquer parafuso Philips é parafuso de fenda é uma nova ferramenta é inteligente não é legal é funciona funciona mas chamada Inteligência é golpe de mercado é golpe de mercado porque empurra um guela baixo para todo mundo que a inteligência é só isso e a inteligência não é só isso se todo mundo começar a acreditar que a inteligência

é só esse tipo de coisa copiar a a compilar compilar e copiar a gente vai baixar o nível não é que a inteligência artificial nos vai superar é que nós vamos nos rebaixar a ela Professor nós estamos gravando a entrevista no momento de debate sobre formação de professores né Por que que é tão caro fazer essa relação entre as tecnologias educacionais e essa formação dos professores e essas novas plataformas que surgem no caso a defesa da do uso da Inteligência Artificial nas diferentes esferas da nossa vida Ué eu acho que tem que isso tem que

ser levado em conta tem que ser discutido tem que ser os professores têm que acostumar com essa ferramenta nova ela tá aí eu uso a ferramenta eu uso para para traduzir texto para corrigir gramática eu uso por exemplo para quando eu quero fazer um programa não tá dando certo não sou grande programador mas eu faço uma coisinha ou outra minimamente não dá certo peço para ele arrumar ele arruma direitinho porque ele já viu esse tipo de erro né é como uma grande plataforma pública onde você pergunta e Alguém responde só que se alguém tá centrado

no tal do GPT Então eu tenho usado o GPT 3,5 que é o que tá por aí E o GPT 4 que você paga um pouquinho e usa também mas não uso mais do que isso ele é muito bom para traduzir para português pro inglês pro espanhol pro inglês etc direitinho faz bem mas e só é um é um secretário né É como eu digo é um é um coleguinha eh eh ET né é um extraterrestre seu colega que tem algumas informações na cabeça que te dá um apoio em algumas circunstân e os professores tê

que aprender a fazer isso porque os alunos estão aprendendo estão aprendendo a usar tem uma porção de coisa copiada e tal então os professores tem que tem que aprender também tem que entender o que que é né E que desafios então que a gente tem ao se pensar na inclusão desse dessa modalidade de Tecnologia na educação para o trabalho docente e também para esse processo de ensino aprendizagem Professor Ah eu acho que os professores digamos assim a educação em geral tem que entender que isso tem que ser regulado não porque seja uma grande ameaça maravilhosa

é porque é uma ferramenta de mercado que tá dominando né É como Tem que regular banco Tem que regular agência de de de empréstimo de Dinheiro Tem que regular tudo tem que ser regulado porque senão acontece fal comat tudo lado Então os professores ou a educação em geral tem que primeiro lutar para que isso seja regulado e depois secundariamente tem que entender o negócio como é que funciona porque todo mundo vai usar né É É como assim depois que foi inventada a imprensa ninguém pode passar sem a imprensa não é isso é parecido é uma

revolução do mesmo tipo professor dentro dessa problemática então de pensar a regulação como o senhor pontuou né que Desafios que as escolas têm e e a quem essas escolas devem recorrer para ter esses instrumentos para conhecer o chat GPT e conseguir essa regulação para os procedimentos pedagógicos por exemplo Ah eu acho que isso tem que ser uma Iniciativa popular né porque até na Europa não tem ainda isso não tá claro tão trabalhando nisso ninguém sabe direito alguns países estão proibindo menores de idade menores de 16 anos aconteceu na Itália de usar o ch CPT que

eu acho que é um absurdo também né porque eles vão usar de qualquer maneira não adianta Então eu acho que tem que é movimento social que demora um pouco para fazer efeito não tem nada Pronto né quer dizer eu tenho me disposto por exemplo não só eu mas muita gente colegas meus eh da Unicamp da USP da Unesp de vários outros lugares tem tem tem se disponibilizado a explicar aquilo que eles sabem mas a gente sabe um pouco porque também tem muita coisa que tá em segredo a gente sabe como é que funciona o algoritmo

também tem a evolução é ele evolui e essa evolução também é um pouco fake né porque eles eles prometem mais do que do que do que cumprem eh vendem para você mais do que entregam Tá certo isso aí tudo inclusive muita coisa que que que que ficam dizendo assim que é o grande perigo da inteligência artificial tem um perigo tem mas esse perigo é exagerado porque cria o medo e ao criar o medo aumenta a lucratividade do produto tem que levar em conta isso também então acho que a gente tem que levar em conta um

pouco tudo isso ISO que a gente tá fazendo aqui é um trabalho para educação que tomara que muitos professores Ouçam respondam critiquem né e entendam que que a coisa tem que ser participativa não tem ninguém do governo que sabe não tem ninguém da sociedade que sabe tudo quem tá dominando são as bigtech por enquanto e dentro desse contexto da tecnologia nós acompanhamos um movimento político social majoritariamente no contexto da pandemia da onda de desinformação e uma desinformação sendo propagada majoritariamente por aplicativos de mensagem Como que o senhora avalia né esses aplicativos esse espaço de difusão

de desinformação E como que isso reflete no dia a dia né dos cidadãos e claro de quem tá na escola tá eu acho que isso é muito complexo Eu até tô escrevendo um artigu um pequeno artigo que vai sair mostrando o seguinte a verdadeira estratégia do ódio né lá eu mostro que a verdadeira estratégia do ódio não tem ódio nenhum gera ódio nos outros pode gerar ódio em mim em você porque eu vejo uma coisa que não gosto Fico chateado e repito aquilo para todo mundo passo pra frente porque me incomodou mas aquilo A Estratégia

do ódio to tal do gabinete do ódio por exemplo não é ódio é engenharia social pura ele sabe como é que funciona a rede social ele sabe que tipo de coisa tem que fazer e não é verdade que as pessoas passam fake News ou caem em fake News porque são ingênuas porque não porque não sabem porque são ignorantes algumas são Mas não é verdade absoluta o que acontece como eu já vi acontecer é gente que fala assim não eu sei que é falso eu sei que é falso mas me interessa então eu passo pra frente

ou seja as próprias pessoas agem como sócios das redes sociais dos geradores de fake News porque elas passam para frente porque elas acham que aquilo vai ajudar na na na política na na na atitude política delas na atitude religiosa na atitude de crença que ela tem então não é só ignorância não adianta ensinar só eu tenho o curso eu e uma outra professora professora Juliana Bueno Soler que que estudou na Unesp tá na Unicamp nós temos um curso na rede curera dado pela Unicamp sobre pensamento crítica e argumentação esse curso ensina como você argumentar melhor

como você pensar como você organizar seu raciocínio como você partir de hipóteses avaliar premissas Como chegar à conclusão Bá B Bá e tem até um item lá que é como se defender de fake News então ajuda isso ajuda e tal Claro mas não é só isso não adianta a pessoa ser ser um um as em pensamento crítico e argumentação porque muitas vezes ela quer errar E aí tem um componente então de ordem psicossocial no meio da história um é um perento um pertencimento ao grupo A Bolha epistêmica e tudo isso então aí há uma uma

pesquisa que tem que ser feita também que não é só educar educar a racionalidade tem que educar um pouco também a atitude social talvez sei lá as Ciências Sociais A psicologia de massas tem que se ocupar disso a economia não sei outras coisas também é um grande esforço Global né não é um esforço de uma classe só e pensando no ambiente escolar Professor O que que você tem observado dessa manifestação dessa presença dessas informações falsas e como que isso tem eh atrapalhado vamos assim dizer a dinâmica da transmissão do conhecimento pelo professor né daquele modo

de transferência mas agora de construção colaborativa de um conhecimento é eu reparo o seguinte existe uma um crescimento da descrença na ciência e Por que que muita gente não acredita na ciência porque existe uma uma eu V vou dizer uma uma tentativa ou uma coisa que tá acontecendo no momento que é substituir a sua crença pela ciência organizada então muita gente acha o seguinte bom se sei lá se a Teoria da Evolução não é perfeita se a Cosmologia não é perfeita se a matemática também não é perfeita né tem problemas até que de fundamentos e

tal então eu posso substituir o que não é perfeito pelo que eu acho né E aí substitui a ciência por uma crença mas crença não é teoria Então existe essa esse tipo de coisa essa descrença na ciência e e esse desânimo ciência que passa por substituir uma teoria científica que não é perfeita que tá sempre em evolução por a minha crença porque eu a minha crença religiosa a minha crença política a minha crença em certos grupos a minha crença na sei lá na globalização que é muito perigosa Pode até ser não sei eu não tô

não tô entrando no mérito de quem crê Posso Crer no Saci pererea também não H problema nenhum né só que passar disso para substituir né ensinar na escola e e fazer e já já tem movimentos no no no Congresso Brasileiro a respeito disso para substituir certas teorias por outra né ninguém substituiu ainda a mecânica quântica por outra porque ninguém entendeu mas como a gente pensa que entende sobre a Teoria da Evolução fica fácil trocar uma coisa pelo pelo criacionismo né professor dentro desse contexto escolar e dessa desse debate né que tem se feito sobre o

uso das tecnologias o título do nosso programa é nós professores A partir dessa relação que se estabelece com a desinformação o termo popular fake News o uso do chat GPT quais desafios os nossos professores temos Olha é até difícil saber que desafios a gente tem porque eh a gente tem que primeiro entender primeira coisa é entender o que tá acontecendo primeira coisa é se conscientizar de que a inteligência artificial é um Engenho perigoso porque ele pode ser usado mal mas ele tá sendo vendido mais caro do que ele é né ele funciona funciona é muito

bacana para fazer coisas práticas é as empresas as usam usam vai gerar desemprego vai Isso vai acontecer agora que ele vai assim criar uma na superpotência rapidamente poderá um dia não sei o futuro é sempre difícil de prever n o passado é mais fácil mas eh poderá acontecer daqui a 50 anos 100 anos alguma coisa acontecer maravilhosa Imagino que quando juntar a computação quântica com a inteligência artificial poderá ter aí uma uma super aceleração não Então a primeira coisa é entender é entender o que que tá por trás como é que funciona o que que

são esses large language moduls né o llm os grandes modelos de linguagem que que tá por trás do que eles são capazes onde chega e tal primeira coisa é entender depois é se colocar e a partir daí eh entender os desafios é difícil para alguém digamos assim eh sozinho uma pessoa sozinha ou um grupo sozinho ou uma ala da soci edade ou os cientistas ou os políticos ou quem quer que seja ou os juristas né sozinhos em colocar a questão né lá no eu vejo que essa história por exemplo no no senado tem aí a

o Marco legal da inteligência artificial tem cientistas juristas famosos gente importante filósofos matemáticos eu mesmo fui convidado para dar um palpite lá e tal e esse todos esses palpites juntos vão formando uma relação porque os políticos também não sabem eles não entendem né então é os governantes não entendem o presidente não entende ninguém entende e os professores estão nessa outra ponta os professores estão juntos ali né estão juntos também formando o Batalhão dos que não entendem Vamos tentar entender é é a única coisa que eu Posso sugerir E se eu puder aconselhar muito obrigada viu

Professor Walter por sua participação aqui obrigado a vocês pela oportunidade acho muito bacana o evento que tá acontecendo acho que realmente tá de parabéns o nosso professores fica por aqui acompanha as entrevistas e o debate sobre a educação brasileira em nosso site e mídias sociais obrigada pela companhia e até a próxima [Música]