Inteligência Artificial vai destruir o futuro da educação

quando se fala sobre futuro da educação pelo menos em tempos recentes quase sempre essa discussão tá passando pelas tecnologias que vão ser incorporadas na aprendizagem computadores vão revolucionar a educação a internet vai dar acesso a todo o conhecimento que a humanidade já criou os tablets vão deixar todo o conteúdo na ponta dos dedos dos alunos muito mais leve do que livros celulares vão un isso tudo já que são computadores com internet que já estão na ponta dos dedos e agora vem a onda da Inteligência Artificial por cima disso tudo agora quem vai revolucionar a educação

são os grandes modelos de linguagem como Gemini stat GPT e outros ainda mais com alunos professores e sabe lá mais quem pensando em usar aliás usando esses geradores de texto para escrever perguntas respostas e avaliar Respostas como alguém que já se empolgou e já criticou várias soluções tecnológicas tem alguns pensamentos sobre essa tendência e um grande es ceticismo para compartilhar por aqui não tenho como saber o rumo que essa interação vai tomar mas pensando nos princípios envolvidos pessoalmente até aqui eu acho que esse tipo de Inteligência Artificial que tá no Hype recente tem muito mais

a atrapalhar do que a contribuir pra educação Ah mas antes de sair falando sobre o futuro um pouco do presente esse vídeo aqui tem o apoio da surf Shark que é o serviço de VPN que ajuda você a acessar o conteúdo que você quer enquanto mantém a sua privacidade a Surf Shark tem aplicativos e configurações pra maioria dos sistemas e você pode usar todos ao mesmo tempo mesmo tendo compartilhado a sua conta com outras pessoas ou seja isso torna o custo bem mais baixo também é rápida sem engasgo não mantém histórico de navegação e outros

dados e já passou por auditorias E como eu já disse por aqui eu uso a Surf Shark Principalmente quando eu tô em viagem quando eu tô acessando redes de wi-fi de hotéis eventos e afins Já que com a VPN o meu acesso é encriptado e eu fico com mais uma camada de proteção para acessar e-mails e outros serviços com dados sensíveis nesse meio e a Surf Shark tem outras formas de proteger além da VPN assinando o surf Shark One além da VPN você tem alerta de vazamentos dos seus dados busca com privacidade e ainda tem

um serviço como o alternativ ID que gera dados para você poder preencher Aqueles sites que pedem e-mail nome e outras informações como data de nas sem precisar disso assim você pode receber as mensagens de confirmação no seu e-mail real sem revelar o seu endereço e os seus dados e se aquele serviço for invadido ou se vendeu seus dados a sua informação real continua privada e protegida se você quer comprovar o que eu tô falando escaneia o QR Code que tá aqui na tela testa Surf Shark sem risco já que se você não gostar do serviço

eles dão 30 dias com devolução do seu dinheiro garantida e se você aproveitar o nosso cupom aa Você ainda vai ter qu qu meses extras grátis de assinatura da surf Shark Então aproveita para conhecer e garantir a sua privacidade com a Surf Shark toda nova tecnologia já foi idealizada na educação livros impressos Correios computadores todos iam substituir as salas de aula e revolucionariam a educação em 1920 o jornal Sider rapids evening gazette comentava como em 1995 as aulas de História usariam filmes para ilustrar o passado e não aqueles Fantasmas em livros essa é uma reportagem

da revista Science and invention de 1924 comentando sobre as inovadoras rádio aulas onde a pequena Mary Jane de fone de ouvido poderia ouvir aulas pelo rádio que tomaria o lugar de livros e material impresso pesado e desajeitado em abril de 1935 a revista shortwave Craft mostrava um professor da New York University dando aulas pelo telefone Bar rádio da sala de casa enquanto os alunos ouviam e perguntavam da sala de aula sim aula remota já tem quase 90 anos também tinha um esquema mostrando como no futuro furo as Universidades usariam a televisão para transmitir imagens além

do áudio O Que resolveria o desafio de ensino remoto de matérias como geometria que precisavam de gráficos várias tecnologias acabaram ajudando e ficaram só que nenhuma delas realmente mudou radicalmente um processo que é essencialmente humano de aprender a gente evoluiu aprendendo com outras pessoas e por mais que a nossa tecnologia e a nossa cultura avancem muito rapidamente o cérebro de quem tá aprendendo não mudou muito nos últimos 1000 anos a tutoria e a relação entre quem ensina e quem aprende continuam essencialmente mais importantes do que a tecnologia de suporte um processo humano que pelo menos

os modelos atuais de Inteligência Artificial não podem substituir mesmo eliminando as pessoas que fazem ele para chegar no porquê dessas críticas eu vou explicar rapidinho como esses programas funcionam como eles não funcionam Quais são os erros que são inerentes e inevitáveis do funcionamento deles e por que esses erros são muito mais complicados e nocivos do que parecem e como devem afetar a educação só que antes de partir para essa parte técnica Vale parar para dar uma pensada em qual é a motivação para se colocar a inteligência artificial pelo menos as que a gente tem atualmente

em prática na educação e quanto isso deve fazer com que passem por cima desses erros já reparou como enquanto uma TV de tela plana ficou mais barata desde quando foi lançada serviços ficam cada vez mais caros como um show um corte de cabelo ou um atendimento médico particular tem um economista chamado William balmo que propôs uma explicação que ficou conhecida como efeito de balmo ou Doença de balmo para explicar o porquê disso segundo ele a ideia para responder isso começou na década de 1960 estudando economia da arte quando ele reparou que músicos ganhavam muito mais

nessa época do que 100 Anos Antes mas não produziam muito mais música a explicação que o balm achou a tal da doença do custo de dele seria que o resto todo da sociedade se tornou muito mais produtivo graças a máquinas computadores e ferramentas e com o tempo nessas outras áreas que ficaram mais produtivas os salários aumentaram com essa produtividade enquanto os produtos que são criados com Essas tecnologias se tornaram mais baratos os pregos por exemplo já foram tão custosos para se produzir à mão que eram transmitidos como herança e recuperados de escombros enquanto hoje em

dia são feitos por máquinas aos milhões por uma fração de centavo enquanto no mercado de serviços a produtividade não pode aumentar desse jeito um cabeleireiro ainda leva os mesmos 40 minutos ou mais para cortar o cabelo de alguém enquanto uma pessoa pilotando uma colheitadeira de grãos pode colher uma área cada vez maior a cada ano um parto ainda leva horas para acontecer e uma aula presencial ainda consome o mesmo tempo e forma o mesmo número de alunos por sala segundo bmal pro mercado de serviços continuar atraindo profissionais que poderiam ganhar cada vez mais em outras

áreas os preços precisam subir e o custo dos serviços tem que aumentar pagando mais pela mesma baixa produtividade o que faria os serviços que não ganham produtividade com tecnologias tão rápido como educação saúde segurança e outros ficarem cada vez mais caros do que a inflação média eu não sou economista e por favor apontem os erros óbvios do que eu vou cometer agora só que para mim a teoria do balmo tem alguns buracos como o fato de que os salários de quem presta muitos serviços principalmente os salários de quem dá aula não subirem mais do que

a inflação mas nem de longe eu não sei onde esses profissionais estão exigindo salários maiores mesmo com serviços ficando mais caros aliás eu não sei nem se os salários de quem trabalha em áreas que realmente ganharam produtividade com tecnologia aumentaram conforme a produtividade aumenta porque pelo menos nos Estados Unidos os salários deixaram de crescer proporcionalmente a produtividade a partir da década de 80 Desde quando cresceram 4,4 vezes menos do que a produtividade e eu já deixo aqui a recomendação da conversa com o Rui Braga sobre o futuro do trabalho onde ele explica esse fenômeno só

que certa ou errada o que realmente importa é a percepção de que é doença do custo de bmol Olha a conotação doença de custo vem do fator humano errado ou certo acreditar que esse fenômeno explica o custo de serviços aumentando faz você ver o fator humano como o gargalo econômico para fazer serviços em escala serviços que cresçam em produtividade como cresce a produção de celulares então eliminar esse fator humano a limitação de quem faz seria uma forma de aumentar muito mais o lucro digo de tornar esses serviços bem mais acessíveis a um custo muito mais

baixo para muito mais gente o que é o grande propósito claro então toda a explicação que eu vou dar daqui pra frente Depende de qual vai ser a direção da mão invisível da Inteligência Artificial se ela tá sendo usada para dar mais educação e de mais qualidade a um custo menor para mais gente ou se ela vai ser usada para eliminar humanos do processo de forma que o processo possa crescer em escala sem custar mais dando mais lucro mesmo se a educação resultante for pior do que a que temos hoje e tão cara quanto dito

isso então vale entender que a inteligência artificial que a gente tem no momento agora os grandes modelos de linguagem como o Gemini e o chat GPT não são inteligentes eles não raciocinam são processadores e derivadores de informação no vídeo sobre quem tem medo do chat GPT eu explico que o t é de transformer explico a sigla e como os algoritmos que movem esses programas vem de tradutores que podem ser treinados ingerindo informação e relacionando melhor as palavras dentro de um contexto para fazer uma tradução mais coerente e que depois precisa de pessoas avaliando O que

é produzido e reforçando o que ficou bom ou inibindo o que fica ruim esse tipo de ferramenta é muito poderosa para gerar um texto como uma resposta a uma pergunta ou até criar uma imagem ou um vídeo ou o que for usando os dados de treino só que ela não tem raciocínio isso é muito diferente como a gente aprende como nós podemos interagir com o que a gente tá aprendendo seja falando com outras pessoas ou manipulando objetos no mundo real nós humanos somos capazes de absorver muito mais informação com um treino muito mais simples do

que os modelos de linguagem que precisam de Cent as de milhares de livros para treinar relacionamento entre palavras entender que o processo Como Nós aprendemos é fundamentalmente diferente de como os modelos são treinados é muito importante para entender que eles sempre vão gerar conteúdo errado a gente chama um texto sem sentido ou uma imagem de uma pessoa com a mão toda bagunçada cheia de dedo torto de Alucinação porque isso não faz sentido pro nosso julgamento humano mas pro programa que gerou essa imagem ou esse texto Tanto faz você pode reforçar o treino do modelo com

mais imagens de mãos pode passar mais tempo recompensando imagens com cinco dedos e ele pode gerar mãos mais precisas mas não porque ele aprendeu uma regra dizendo que as mãos humanas TM um número X de dedos por exemplo eu testei o gemin do Google para poder fazer o tipo de trabalho que eu mesmo faço para encontrar convidados pessoas para trazer pro não ficção ao invés de vasculhar publicações em português para encontrar encontrar pesquisadoras que estudam a área que eu queria tratar no caso a cultura da pirataria no Brasil eu pedi para ele sugerir nomes de

pesquisadoras com o link delas já que Teoricamente o Gemini também faz buscas na internet todos os nomes e todos os estudos que me devolveu foram inventados todos fazem sentido os títulos São coerentes mas não existem o único nome que realmente corresponde ao link que foi apresentado foi de uma pesquisadora da Universidade Federal do Ceará chamada Juliana Lima Só que o link é de uma outra UFC da lutadora Juliana Lima Pode até ser que em inglês em áreas que tem muito conteúdo na internet esse tipo de pedido até funcione bem só que quanto mais particular é

o contexto quanto mais ele foge dos dados de treino como é o caso do contexto Educacional no Brasil ou qualquer país fora dos Estados Unidos e da Europa maiores as chances de erros ah e uma entrada à parte aqui desculpa Inclusive eu tá com roupa diferente do resto do vídeo Mas entre gravar esse vídeo aqui e publicar ele o Google lançou o overview ai ou ai overview nas buscas que meio que confirma esse vídeo e o vídeo onde eu falo que a busca que a gente conhece do Google tá acabando ou vai acabar porque agora

eles TM uma ferramenta que resume a informação e te apresenta no topo da busca sem você ter que acessar os sites e clicar nos links que estão depois que era o que eu falava que ia acontecer no fim do Google e esse ai overview inclusive porque agora pode ler os comentários do redit apresenta informação de uma maneira tão errada que joga tão fora o que o Google construiu por mais de 20 anos de busca que meio confirma o que eu tô falando aqui porque ele indexa inclusive comentários do RIT com brincadeiras e outras coisas e

apresenta isso como se fosse uma informação real então tem gente buscando por exemplo por quantas pedras alguém pode comer por dia e ele fala Ah mais ou menos uma ou duas pedras tá tudo bem ou como eu deixo a minha pizza de queijo mais Apetitosa e aí tem um comentário de alguém que escreveu há anos atrás ah coloca cola no meio do queijo na hora de fazer a pizza que ele vai ficar mais esticadinho e ele apresenta isso como se fosse uma resposta normal pra sua pergunta e e a cereja no bolo o CEO do

Google já falou que Inteligência Artificial delira mesmo e não tem o que fazer e agora eles estão tendo que manualmente achar Quais são as buscas que dão resultados absurdos e tirar esses resultados do meio da apresentação Então você sabe a empresa tá tendo que prever o que as pessoas vão buscar para tirar a desinformação de lá no meio porque a ferramenta que eles construíram que acaba com a outra ferramenta de busca deles apresenta resultado falso como se fosse verdadeiro por definição o tempo todo então meio que confirmando tudo que tá aqui mas enfim esse vídeo

continua válido o vídeo deo Google também segue a conversa desculpa a interrupção e quanto melhor e mais bem treinados forem esses modelos GPT 4 Gemini um email ou o que for melhores eles vão ficar em fazer erros mais coerentes que não parecem erros isso é só uma Alucinação porque o nosso julgamento avalia que aquilo não faz sentido aplicar esse tipo de programa para criar aulas para guiar alunos para responder dúvidas ou afins enfim para substituir a tutoria humana é expor quem tá aprendendo aos erros mais difíceis de notar ao invés de fazer uma combinação poderosa

de humanos e tecnologia que seriam Centauros poderosos que deixam humanos julgarem e criarem e a tecnologia checar os nossos erros e acelerar o processo dando produtividade a gente vai acabar fazendo o Centauro reverso que o cor doctoral sempre cita onde um programa Toma decisões e comete erros e nós perdemos o controle da situação e temos que ficar correndo atrás de revisar cada linha do que ele gerou para encontrar esses erros e quanto mais coerentes forem os erros mais difícil vão ser de achar Qual que é a dificuldade que os alunos teriam é só ver o

que acontece com as pessoas teóricamente mais qualificadas para encontrar erros que são cientistas porque para uma publicação científica ser aceita disponibilizada Teoricamente ela precisa ser uma ideia original escrita por pessoas super qualificadas que submetem um trabalho que vai ser lido por editores que vão encaminhar esse trabalho para pelo menos duas suas especialistas daquela área técnica que vão ler esse trabalho com todo cuidado avaliar as ideias e os resultados apresentados julgar se são coerentes e só no melhor dos casos aceitar que essa publicação aconteça artigos científicos Teoricamente foram escritos recebidos lios e revisados pelas pessoas mais

competentes para julgar aquela informação se tem algum meio onde a poluição gerada por modelos de linguagem de Inteligência Artificial não deveria aparecer em publicações acadêmicas Teoricamente porque na prática não faltam artigos científicos com sentenças que começam com a resposta padrão do chpt ou de outras ferramentas O que é o indicativo de que quem escreveu não se deu ao trabalho de copiar e colar a partir do ponto certo da resposta e quem revisou o trabalho não leu isso nem quem publicou buscando entre artigos científicos por temos como as of My Last knowledge updates que é algo

como até a última atualização do meu conhecimento que é uma resposta padrão deles mostra uma série de artigos a analisando o chat GPT análise justa Claro descrita mas também tem uma série de outros artigos com essa sentença e alguma porção do texto indicando que aquela resposta foi copiada e colada lá e que até a última atualização do meu conhecimento já tem pelo menos dezenas de artigos escritos com essa ferramenta onde nem quem escreveu nem quem avaliou sequer leu o que tava ali mesmo ignorando o que poderiam ser esses pequenos erros de copia e cola já

apareceu até artigo aceito e publicado com figura adas por Inteligência Artificial que não fazem sentido com vias e nomes que não existem e com o rato com uma anatomia perturbadoramente errada com nomes que não fazem sentido células que não existem e pelo menos alguns testículos a mais do que um rato costuma ter não sou muito especialista mas né Sem falar em outros órgãos bem bizarros alucinações de Inteligência Artificial que apareceram no que deveria ser o último lugar acontecer isso uma revisão diária depois de passar pela revisão de pessoas que deveriam ser as mais qualificadas para

reparar nesses erros isso no caso de sinais óbvios de alteração quando a gente checa evidências Indiretas do uso de modelos de linguagem como palavras que não são muito usadas pelas pessoas mas que aparecem frequentemente em respostas geradas por Inteligência Artificial a situação é muito pior palavras como notável intrincado meticuloso louvável passaram a ser muito mais usadas a partir de 2003 quando os modelos ficaram disponíveis ou as pessoas mudaram o que elas escrevem de uma hora para outra ou né aliás os comentários dos revisores que avaliam artigos também tem um aumento ainda maior dessas palavras e

a partir de 2024 agora me fala se as pessoas que estudaram por décadas depois de uma graduação deixam passar erros em conteúdo gerado por Inteligência Artificial o que que vai acontecer com o material didático que for criado assim para ensinar quem não sabe avaliar provas e redações também é algo bastante problemático para se terceirizar para um chat GPT porque a cap ade de entender o contexto do que ele interpreta tem a ver com os dados de treino e não com o contexto de onde um aluno vem e quanto mais particular é o contexto de alunos

quanto mais ele foge da situação ideal mais complicados são os erros para usar uma situação onde a gente tem como comparar e sabe exatamente quando e onde um erro acontece Vale ver o caso do Whisper que é a ferramenta da Open Ai que transcreve áudio em texto usando essa mesma abordagem de grandes modelos de linguagem é um programa que foi treinado para interpretar falas com muita precisão ele tem uma taxa de erros que parece muito boa tem um estudo comparando transcrições com falas originais que viu que cerca de 1% só das gravações foram transcritas com

algum erro até aí ok parece ótimo para ser usado em contextos da doença do custo do bmol e dando escala para serviços humanos que são limitados e muito caros como de repente fazer uma triagem rápida de centenas de pacientes para encaminhar ele pros Profissionais de Saúde certos ou monitorar a chamada telefônicas de milhares de pessoas para levantar nomes de suspeitos de crimes pra polícia investigar alguns a questão é qual é o tipo de erro que aconteceu nesse 1% dos casos Principalmente ao interpretar a fala de pessoas com afazia que é uma disfunção que gera falas

mais pausadas com dificuldade de comunicação o Whisper acaba entendendo momentos de silêncio Principalmente quando tem barulho de fundo como informação e aí ele alucinava falas transcrevendo coisas que as pessoas não tinham dito erros Como inventar medicamentos que um paciente toma ou pessoas com quem um suspeito teve contato ou até inventar que a pessoa tinha matado alguém outras alucinações inclusive entregam Como que o Whisper foi treinado quando ele seria chamadas para links do patrocinador ou agradecia aos inscritos por terem acompanhado o vídeo como se a pessoa que tava sendo transcrita tivesse apresentando um vídeo de YouTube

pior ainda como a geração de conteúdo obedece contexto muitos desses erros não soam Absurdos até estereótipos são repetidos como tem uma pessoa inventando que tava assustada com moradores de rua e essas alucinações não são consistentes transcreve o mesmo áudio não gera os mesmos erros Nem nos mesmos pontos o que é consistente é o contexto onde elas acontecem na transcrição principalmente da fala de pessoas que usam linguagem mais informal com vocabulário mais simples com distúrbios de Fal f e outras pessoas que forem da norma dos dados de treino o tipo de tecnologia que se for usada

na segurança pode alucinar que Você cometeu um crime que se for usada na saúde pode alucinar que você tá fraudando um pedido para um plano de saúde e o que que ela vai alucinar alucinar na educação até na última ponta de uso de ia que seria avaliar competência eou desempenho de alunos Seria algo muito complicado quando os modelos atuais parecem neutros já que eles são programas de computador rodando e não humanos julgando só que eles ainda reproduzem os vieses dos dados de treino usando o chat GPT para avaliar currículos fictícios para uma empresa só trocando

os nomes das pessoas dos currículos para ter pessoas com a mesma qualificação mais com sobrenomes mais típicos de brancos negros asiáticos ou latinos a Bloomberg Conseguiu ver que currículos com nomes típicos de negros tinham uma avaliação pior do que todos os outros também avaliaram currículos femininos mais favoravelmente só em posições mais estereotipam femininas como para carreiras em Recursos Humanos de novo quem tá nas situações mais vulneráveis sofre mais com a poluição desses modelos que se dizem neutros Resumindo para cada aplicação que programas de Inteligência Artificial atuais poderiam ser usados preparo de material assistência e avaliação

de alunos e outros eles cometem erros cruciais que só devem ficar mais difíceis de notar conforme os modelos ficam melhores e só tendem a ser ignorados quando são tratados como alucinações como desvios do que seria uma função normal quando são uma parte essencial de como programas que não raciocinam geram conteúdo Pode ser que programas futuros funcionem de uma outra forma e solucionem isso só que os grandes modelos de linguagem atuais são fundamentalmente falhos como fonte de informação e eu nem discuti efeito a longo prazo de ter alunos usando ferramentas que geram respostas prontas e quando

apresentam as fontes faziam parte delas isso a gente vai descobrir quando E se esses efeitos acontecerem e aparecerem usar essas ferramentas e atividades guiadas vai ser importantíssimo para alunos entenderem como elas geram conteúdo incluindo conteúdo falso como elas erram e onde erram agora adotar essas ferramentas como substitutas de humanos pode simular bem o que a gente faz a ponto de eliminar as pessoas que fazem isso mas não substitui o trabalho humano que elas fazem ou seja inteligências artificiais atuais vão ser adotadas se o ponto for aumentar o lucro e não acesso a serviços que dependem

de julgamento humano em casos como educação recursos humanos ou até segurança a pressão pode ser simplesmente baratear ainda mais um serviço no qual já se investe pouco ou baratear o serviço que é oferecido para pessoas nas quais se investe pouco mesmo eu sendo um grande entusiasta de tecnologia entre colocar meu filho em uma escola com muitos computadores e muito conteúdo criado e avaliado por Inteligência Artificial ou uma escola com mais professoras e mais professores mais bem pagos e com mais tempo de preparar aulas e avaliar e orientar alunos eu não tenho dúvida nenhuma que eu

fico com a segunda opção se você gostou desse conteúdo e quer mais conteúdo criado por humanos produzido por humanos apresentado por humano e dirigido a outros humanos aproveita se inscreve aqui no canal assim você recebe os próximos vídeos e os próximos podcasts oou não ficão o nosso podcast de ciência do dia a dia com onde eu converso com outros humanos interessantíssimos para trocar boas ideias a gente se vê no próximo