Implicações éticas e sociais da inteligência artificial - Dora Kaufman - USP Talks #48

[Música] Boa tarde a todos muito obrigado pelo convite É uma honra tá participando eu fiz o meu doutorado na USP e é uma sempre um motivo de honra tá participando de algum evento promovido pela Universidade de São Paulo então muito obrigada pelo convite bom fala sobre em 15 minutos falar sobre inteligência artificial e os impactos éticos e sociais é o primeiro desafio então começar eu acho pegar algumas suas questões que eu vejo que talvez seja importante de a gente começar a pensar né No início do nosso debate primeiro a inteligência artificial é distinta ela é

uma tecnologia digital Mas ela é distinta das outras tecnologias digitais porque ela é o que é considerado como tecnologia de propósito geral então só para dar uma ideia as últimas tecnologias consideradas de propósito geral foi o carvão que iniciou a Revolução Industrial a eletricidade e a computação então o que que caracteriza pela definição uma tecnologia de propósito geral ela ela reconfigura ela muda lógica de funcionamento da economia e da sociedade então ela é diferente das demais né então quando a gente fala que muda a lógica é porque se a gente pensar o que que Quais

são os modelos qual é o modelo de negócio macro né que tá predominando hoje e que tem de predominar cada vez mais no século 21 Qual é a matéria-prima desses modelos de negócio então tanto nos modelos novos da plataforma de aplicativos que a gente usa chamadas bigtecs como também na transformação digital das empresas já constituídas Claro a transformação digital uma convergente de várias tecnologias mas a base é a inteligência artificial então o que que qual é a matéria-prima dessas desses novos modelos de negócio e como eu disse das empresas constituídas mais recentes quanto as que

estão em processo de transformação é são os dados né na Revolução na época na economia industrial a matéria-prima central era o petróleo Agora nós estamos falando que a matéria-prima central são os dados então o que que tem os dados O que que significa os dados os dados significam informações sobre qualquer coisa né então os dados pessoais tem informações sobre as pessoas os dados capitados através de sensores a chamada fábrica inteligente no conceito de indústria 4.0 tem todo o funcionamento da fábrica e por aí vai né então qual é o desafio que se coloca nessa sociedade

Nossa hoje hiper conectada que a gente gera dados Praticamente todo o tempo toda vez que a gente interage no meio digital ou se a gente usa um dispositivo digital Qual é o desafio é como que eu acesso a informação como eu extraio informação útil desse conjunto Extraordinário de dados que todos nós eu acho que já sabemos que se chama Big Data Então esse é o desafio bom tradicionalmente pelo menos os últimos 30 anos nós já temos desenvolvimento cada vez mais sofisticados modelos estatísticos de probabilidade só que esses modelos tradicionais eles têm uma limitação de a

quantidade de dados que eles conseguem trabalhar consegue lidar Então hoje o que nós temos que permeia praticamente todas as implementações que a gente tem né na sociedade em geral é pega uma técnica de Inteligência Artificial que é um modelo estatístico de probabilidade qual é a diferença desse modelo que se chama Rede de negócio Profundas ou inglês de pilani qual é a diferença desse modelo em relação aos demais modelos estatísticos de probabilidade verdade é o fato exatamente que consegue lidar com grandes com esses volumes extraordinários de dados Então esse é o quadro Então essa tecnologia essa

técnica né que é uma técnica de aprendizado de máquina que é uma sub área da Inteligência Artificial que como eu disse ela permeia praticamente a maior parte das aplicações que nós temos as implementações hoje é essa técnica estatística de probabilidade essa técnica nos últimos 10 anos o que prendeu minou foram dessa técnica foram soluções chamadas e apreditiva talvez a gente possa chamar que é uma categoria dessa técnica que se o que que caracteriza não tem tempo de a gente entrar nos detalhes na conversa no debate a gente pode voltar esse assunto mas o que diferencia

cada solução é arquitetura é a maneira como você organiza os elementos que compõem essa técnica a rede de negócio Profundas então nós tivemos nos últimos 30 anos ou desculpa nos última década nós tivemos predominantemente o praticamente só tivemos arquiteturas que levaram levavam produziam soluções de a preditiva qual é o novo que nós estamos vivendo agora que é responsável em grande parte pelo Hype que nós né de repente Inteligência Artificial tá de fato na pauta da sociedade no mundo todo mundo afora é o fato de que nós temos uma outra categoria dessa mesma técnica que é

que são as viagens as soluções já generativa então também o fundamento é sempre fazer uma previsão né Mas além de fazer previsão essas novas soluções elas geram textos imagens vídeos códigos então o raciocínio por trás por exemplo do chat GPT é a mesma técnica com arquitetura específica chamado Transformer E qual é o raciocínio ele faz a previsão Qual é a melhor palavra qual é a probabilidade dessa palavra se encaixar melhor nessa sentença para responder de uma maneira mais assertiva a pergunta do usuário que está interagindo por exemplo com chat de PT então nós temos o

chá de GPT representou né que foi como eu acho que todos já sabem foi colocado para disponibilizado para integração pública e 30 de novembro do ano passado ele representa uma disrupção né porque basicamente por duas razões primeiro pela interface é a primeira vez que nós temos uma interface com um sistema de Inteligência Artificial usando linguagem diálogo Então até então mesmo já em 2014 foi proposta primeira arquitetura a primeira solução de agenerativa que foi a Gun mas para você interagir com a Gan que é tem vários benefícios na saúde na arte mas também através da grã-

se produziu digamos o lado maléfico que é a Deep fake né mas essa essa tem essa essa técnica essa solução essa arquitetura Instagram ela é um certo conhecimento para você interagir com chat GPT que eu imagino que ainda não experimentou o chá de PT todo mundo já experimentou então é uma interface fácil interface direta e isso deixou de ser invisível a inteligência artificial que já permeia a nossa comunicação em nossas responsabilidade ao menos na última década né É porque ela que a inteligência artificial que está por trás dos modelos de negócio das plataformas dos aplicativos

que a gente usa no cotidiano Então essa interface através da linguagem que é a maneira como nós humanos nos comunicamos não só a gente se comunica também de outras formas né tem as expressões Tem movimento corporal mais fundamentalmente pela linguagem e a outra a outra distinção que também é importante que ela é multitarefa né até então os modelos preditivos na categoria né nessa categoria E a preditiva para cada tarefa você tinha que desenvolver você tem que desenvolver um determinado sistema então se eu quero por exemplo reconhecer se uma imagem de uma tomografia computadorizada por exemplo

se aquela imagem daquele paciente é cancerígenor não eu queria um sistema específico que a inteligência artificial com esse propósito se eu quero reconhecer o ser uma imagem ser de cachorro ou não Eu queria um outro sistema se eu quero por exemplo fazer um mate entre o perfil de uma vaga de RH de contratação e o perfil dos candidatos Eu queria um outro sistema no caso da Eja negativa como todos nós temos experimentado ela é multitarefa eu posso usar para me divertir eu posso usar para consultar as mais variadas assuntos mais variados de questões e posso

usar e agenerativa para produzir vídeos distintos eh eh imagens distintos códigos né Então essa são as duas grandes assim do meu ponto de vista mudanças de relação que nós tínhamos até então desse conjunto dessa categoria dessa técnica de redes Profundas que é que a categoria de apreditiva né Então aí agenerativa é isso a interface é facilitada e o segundo ela é multitarefa bom Quais são as questões tem inúmeras questões que se coloca para a sociedade por um lado é um facilitador muito grande na nossa vida porque exatamente pelo que eu falei entre outras razões ela

permeia esses aplicativos e plataformas que de fato facilita a nossa vida ela tá presente vários outros o que se chama decisões automatizadas em processos na área de serviços de entretenimento e suma ela de fato tá fortemente no varejo no varejo no e-commerce mas ela também traz problemas né primeiro é uma tecnologia essa técnica muito recente né Nós estamos falando que 2012 foi o ano de reconhecimento tanto pelo mercado como pela academia dessa técnica de rede de negócio Profundas então de 2012 para cá nós estamos nos primórdios ela de fato começou a ser utilizada em larga

escala a partir de 2016/2017 agenerativa é mais recente ainda tirando o 2014 da Gun nós estamos falando de novembro do ano passado não desculpa Novembro mas durante o ano de 2022 saiu vários soluções várias aplicativos já usando e agenerativa mas de qualquer jeito nós estamos falando do ano passado então tem muita nós precisamos nós como sociedade pigmentar ainda muito Essas tecnologias e encontrando como o desafio é como é que a gente maximiza os benefícios e como é que a gente minimiza os potenciais danos eu até muito recentemente talvez uns três anos atrás eu era não

era a favor da regulamentação a partir de três anos para cá eu sou absolutamente não só a favor como eu tenho participado do processo desde a câmara O Senado comissão do Senado agora segunda-feira já vou para outra primeira etapa no senado como especialista convidado por que que eu acho que a regulamentação é fundamental porque Auto regulamentação tiveram várias iniciativas principalmente das grandes empresas de tecnologia no sentido de auto-regulamentar e elas falham porque toda vez que conflita com o interesse comercial 100% das vezes prevalece o interesse comercial então cabe ao estado ao poder público criar mecanismos

de proteção da sociedade e do Cidadão nesse sentido esse o propósito sempre das leis regulamentar a inteligência artificial não é simples não é à toa Na China tem um outro processo é diferente o exercício do Poder mas no ocidente não tem Até agora nenhum marco regulatório nenhum lugar do mundo não é sim não é à toa não é uma coincidência é de fato reflete a dificuldade de você regulamentar por exemplo todos os processos regulamentação até 30 de novembro consideráveis um exemplo o chatbot como de baixo risco e a única a única obrigação que o provedor

de um chatbot tinha que cumprir era avisar para o usuários se era um chat se ele tava interagindo com chatbot ou com uma pessoa né A partir do momento que é lançado que existe um produto chamado chat GPT e todos os outros congêneres né que são vários outros lançamentos o baile ainda não tá disponível para integração pública no Brasil mas já tá em outros países que é o similar do Google por exemplo Isso muda radicalmente abordagem regulatória em relação ao chatbot né e tem vários mudanças né a velocidade de avanço dessa tecnologia é muito grande

e num espaço num ambiente democrático em países Democráticos a alimentação precisa ser discutida para vocês terem ideia a regulamentação que é mais avançada que é da Comunidade Europeia que a aposta né A Promessa é que em junho vai ser votado ela começou em 2018 então o processo Então se a gente pensar de 2018 para hoje tem uma mudança radical substantiva da do avanço da Inteligência Artificial Então essa defasagem de time é um complicador o outro complicador é a simetria de conhecimento entre os reguladores e quem desenvolve a tecnologia então e a outra a outra Talvez

assim para só para ressaltar a dificuldade a própria definição não existe definição consensual sobre o que que é inteligência artificial então eu já fiz um artigo que vai sair no livro eu levantei várias definições de vários lugares Aliás a minha coluna eu tenho uma coluna na época negócios saiu na sexta-feira passada eu levanto algumas dessas definições também e mostrando como não tem consenso e como são disparas em algumas situações Então como é que você já é dificuldade como é que você vai regulamentar porque para o desenvolvedor da tecnologia Isso não é um problema você não

precisa ter uma definição Mas quando você vai regulamentar você tem que definir qual é o objeto que você está regulamentando Então essas são dificuldades se a gente pensar do ponto de vista é meu tempo está terminando Eu imagino do ponto de vista ético eu acho que a questão da ética eu eu prefiro discuti-la específico por domínio né Eu acho que as questões éticas implicadas quando a inteligência artificial tá na educação na saúde na segurança no RH na área financeira são distintas né tem questão Claro tem questões Gerais a privacidade dos dados Mas o que importa

sim para a gente analisar e tem alguma atitude de proteção acho que tem que dizer analisado especificamente por domínio né que é uma outra eu tô falando as dificuldades Porque de fato essa tecnologia é eu acho que é mais complexa que a gente já teve do ponto de vista e tecnologia então não nada é fácil Além disso como eu já falei ela tava avançando aceleradamente do ponto de vista social para mim o maior impacto É sobre o trabalho né então eu acho que é falacioso quando argumento que o número de funções que estão surgindo compensa

os que estão sendo automatizadas acho que isso ia falar ansioso não faz sentido aí tem vários discussões que a gente pode ficar Que horas é papo várias pesquisas mas nós temos então só para concluído ponto de vista dessa questão sobre o trabalho eu vejo três impactos um é óbvio deslocamento então o que que a gente está vivendo é uma aceleração é uma expansão melhor dizendo do que já tem o que já vinha em processo desde meados do século passado que é automação programada né então no Brasil por exemplo nós temos quatro setores com maior Estácio

de empregabilidade a indústria automobilística o governo varejo e o setor bancário se a gente pegar os números bom não precisa nem ver os números busca lá no Google no YouTube um vídeo hoje como é que se faz um carro são máquinas fazendo carro né se a gente pegar por exemplo o mercado bancário no primeiro plano de estabilização da moeda em 1986 tínhamos 900 mil bancários hoje nós temos 300 mil em média e podia ter menos né na verdade porque tem um custo desmobilizar todas as investimentos em agências feito pelos grandes bancos Então essa questão é

assim por que que tá expandindo porque tá entrando automatizando funções cognitivas que a automação programada não atingia segundo Impacto é sobre a renda na medida que sobram menos funções preservada para os humanos dados às condições atuais da tecnologia por oferta e demanda até tem mais gente buscando aquelas funções a remuneração daquelas funções tende a cair então também tem vários exemplos no mundo o impacto não é negativo sobre a renda e o terceiro Impacto é que essas funções novas ou a mudança de conteúdo porque tem várias funções continuam com o mesmo conteúdo mas mudaram desculpa com

o mesmo nome mas mudaram de conteúdo requer uma qualificação E requalificação então vou dar um exemplo motorista de caminhão de carga continua sendo um motorista caminhão de carga né então o motorista que dirige muito bem a 10 15 20 anos o que que tá acontecendo agora os equipamentos os caminhões estão vindo com tecnologia embarcada e parte dessa tecnologia embarcada é inteligente artificial em geral isso acompanha bem de perto durante um ano e meio esses motoristas não estão tendo condições de lidar com a tecnologia embarcado com equipamento de tecnologia embarcar não é uma questão de treinamento

é uma questão de Formação né então se a gente se a gente pensar em praticamente todas as áreas essa mudança de interface entre homem e máquina requer uma tipo de Formação que em geral aí a gente vai cair na questão da educação que é já era complexa tá ficando cada vez mais complexa né Então essas são as questões importantes de serem discutidas no ponto de vista de impacto o último preocupa também comentar que eu acho muito importante é que eu acho que hoje nós não estamos a humanidade não tá ameaçado como alguns às vezes propagam

pela Inteligência Artificial eu acho que hoje nós temos uma ameaça é as mudanças climática essa é uma graça uma ameaça real né esse essa tecnologia ela tem um impacto sobre o meio ambiente muito forte e negativo é um paradoxo na verdade ao mesmo tempo que a inteligência artificial ajudou a e o colabora em fortemente para o entendimento da mudança climática melhor porque permite lidar exatamente pelo que eu falei é uma técnica que permite a grandes volumes de dados então não sei se vocês já viram tem um documentário muito interessante que é mundo conectado na Netflix

e um dos episódios mostram uma antena monumental na Amazônia essa antena capta por sensores várias informações a partir daquelas daqueles dados usando o sistema de Inteligência Artificial você consegue acompanhar por exemplo que tá acontecendo na Amazônia então ao mesmo tempo que a inteligência artificial permite os especialistas entender e acompanhar melhor as mudanças climáticas ao mesmo tempo ao fazer isso e daí tá o paradoxo ela ela necessita Ela usa uma quantidade enorme de energia consequentemente emite muito CO2 né então outros grandes poluidores do tão concentrado nesses nos data Centers então tem todo uma discussão sobre isso

Pelo que eu saiba eu já tentei achar Já falei com várias especialistas não existe pelo menos assim um Trader off um estudo desses quanto que tem de ganho em relação ao meio ambiente pelo entender melhor o meio ambiente e quanto tem de impacto negativo Então são essas as questões quando nós estamos lidando com uma tecnologia de propósito geral complexa e de evolução acelerada não é Um Desafio fácil mas é o que nós temos que enfrentar Muito obrigado [Aplausos]