SOCIEDADE DIGITAL - 01 - Inteligência Artificial e Nós | Café Filosófico Expresso | Dora Kaufman

[Música] se a gente vai ser substituído pela máquina ou não primeiro que nós estamos fazendo as máquinas né então assim eu eu não consigo ver esse momento que isso para mim tá nos filmes de ficção científica que as máquinas vão dominar porque nós estamos construindo essas [Música] máquinas [Música] Nunca acredite quando alguém diz acordou Bel di teve uma ideia genial que muda tudo é sempre vai é um acúmulo eh de descobertas um acúmulo de novos conceitos é difícil delimitar assim quando começa a história da Inteligência Artificial alguns momentos foram importantes por exemplo o turing é

importante não só aquele artigo que é o mais famoso dele de 1950 mas em 1938 ele já publica um artigo levantando essa questão a possibilidade de uma máquina eh eh produzir digamos alguma parte do do pensamento da forma da cognição humana né o Marco assim que é reconhecido como início eh da Inteligência Artificial do campo de conhecimento da Inteligência Artificial é um evento de verão de 1956 foram dois grandes pesquisadores da época que é o mard e o minsk eles convocaram oito outros também pesquisadores eminentes para passarem dois meses juntos e ali é o Marco

da Inteligência Artificial e essa expressão esse termo Inteligência Artificial surge pela primeira vez com esse conceito no convite de convocação para esse evento e esse evento tinha uma pretensão muito grande eh era eles achavam que juntando aqueles 10 durante dois meses eles iam conseguir eh de fato eh descobrir como fazer com que as máquinas eh reproduzissem algumas das capacidades cognitiva dos humanos como nós sabemos historicamente isso não aconteceu mas o evento foi importante porque ele criou o campo de conhecimento e ele também colocou em contato aqueles pesquisadores que ao longo das das próximas décadas desenvolveram

projetos juntos Por que que tem esse nome né esse nome também essa expressão ela é muito controversa tem muitas críticas em geral a gente não considera que não é nem artificial nem inteligente mas ficou é o a exess que designa o campo então o que que tem no campo da Inteligência Artificial é um campo de modelos empíricos que que é o modelo empírico você constrói um sistema para uma determinada função uma determinada tarefa você aplica e ele dá certo ele tem o Resultado positivo que que significa que ele dá certo tem Resultado positivo Visa Visa

as outras possibilidade para resolver aquela mesma tarefa ou enfrentar aquela mesmo aquele mesmo desafio tem toda uma longa história ele foi se desenvolvendo na década de 60 70 eh tinha duas correntes assim eh conflitantes uma que achava que ia conseguir concretizar a ideia de trazer pra Máquina parte da cognição humana através de de programação né O que a gente conhece como programação são modelos simbólicos e outra parte que achava que isso não era possível e que o caminho é uma subárea da Inteligência Artificial do campo que é ch chamado eh aprendizado de máquina que também

foi criado em 59 1959 Porque nessa área e do do simbólico da programação estavam esses grandes pensadores da época esses grandes eminências ela foi uma área que teve mais agregou mais recursos de financiamento né então foi muito difícil a outra área outro forma outro caminho que era a máquina aprender a partir de dados se desenvolver na década de 80 eh um grupo grupo também todo um processo em consequência de outras descobertas três pesquisadores do Canadá pensaram um modelo que é uma técnica que a máquina aprende o sistema aprende maquínico a partir de dados e essa

concepção essa técnica ela foi sendo aprimorada foi 2012 teve um evento e que essa técnica ela foi reconhecida tanto pela academia quanto pela fo o mercado né foi uma um concurso e para reconhecimento de imagem Esse grupo é alguns dos pesquisadores alunos de doutorado dessa desse centro de pesquisa no Canadá eles participaram e tiveram melhor em relação a ao segundo terceiro lugar uma diferença enorme em assertividade né no reconhecimento das imagens do concurso E aí usando essa técnica Então nesse momento foi assim o e a academia descobriu uau tem alguma coisa diferente aí e a

partir de 2012 ela começou a se desenvolver 2016 2017 eh que para mim começou a ser usado em larga escala então então nós temos hoje quando a gente fala de Inteligência Artificial e nós Praticamente tudo que hoje usa Inteligência Artificial é essa técnica uma técnica específica que chama redes Neris Profundas em inglês Deep learning e praticamente permeando quase tudo é uma única técnica e essa técnica é o quê é um modelo estatístico de probabilidade e ela a partir dos dados de grandes volumes de dados ela faz projeções E por que que só em 2012 eh

foi possível ela se concretizar por quê pelo por volume de dados né que então ela precisa de grandes volumes de dados nós não tínhamos antes o volume de dados que nós temos e segundo porque eh a capacidade eh de do rá da máquina né então a capacidade da máquina junto com a quantidade de dados concretizou essa ideia que já tinha sido pensada na década de 80 também em função de outros outras descobertas que tinham sido feitas anteriormente por outros cientistas né como eu disse o processo de conhecimento é sempre [Música] coletivo essa técnica ela tem

duas categorias né uma Foi a que prevaleceu durante essa última década que chama modelos de A preditivos então eu se eu tenho por exemplo eu eu eu treinei um sistema para reconhecer se uma imagem de uma tomografia computadorizada era cancerígena não então eu treinei como é que eu treino eu crio um sistema com essa finalidade eu coloco o sistema em contato com um conjunto muito grande de de tomografias com câncer e tomografias sem câncer com imagem depois quando eu entro uma nova imagem no novo paciente Qual é a lógica do raciocínio eh do sistema que

claro não raciocina dado é um modelo estatístico mas é como se ele pensasse aonde eu já vi isso aí ele faz uma correlação com a nova imagem do do novo paciente aí ele compara faz correlação comparando com conjunto de imagens que ele que ele viu antes né que foi mostrado pro sistema com câncer e não câncer aí ele é mais próximo daquele que tá com câncer vamos supor aí ele v a probabilidade é x de esse paciente ter câncer Então essa técnica que é uma técnica modelo estatístico probabilidade ela tem duas categorias ela ela se

constrói em duas categorias a i a preditiva que aconteceu ao longo dessas últimas 10 anos e agora a i a generativa qual é a grande diferença entre uma e outra aí a generativa ela não só faz a previsão como ela gera imagem som áudio eh códigos né mas a lógica é o que tá por trás não é só a lógica o que tá por trás é a mesma técnica então por exemplo o que que acontece no no chat GPT vou usar o Chap GPT tem várias outras soluções parecidas Mas porque é o mais popular hoje

o que que ele faz o sistema do Chap GPT Ele busca a palavra que melhor se enquadra naquela sentença para dar melhor resposta para você mas é sempre um raciocínio de probabilidade a técnica de rede Nis profunda ela pode se organizar em Aras diferentes O que que é uma arquitetura é o conceito que a gente tem de arquitetura a arquitetura de um prédio Aqui a decoração arquitetura da sala é como que se organiza os elementos que compõem aquela técnica então basicamente essa técnica ela é composta de neurônios artificiais de correla de relações entre os neurônios

são como eles se relacionam e camadas né e por isso que por que que chama Rede neuros Profundas porque foi inspirada no no na estrutura do cérebro biológico cérebro humano não reproduz nem de longe a complexidade no nosso cérebro que é o a parte óbvia por razões óbvias a parte mais complexa do ser humano do corpo humano mas ele reproduz a lógica no sentido assim como que se dá cognição humana eh também com por camadas nós temos por exemplo dentro da nossa cabeça cada um de nós tem 86 bilhões de neurônios os nossos neurônios eles

são organizados em camadas e cada camada se conecta com a outra e ela vai passando em camada camada até que se completa Nossa cognição então é essa estrutura que foi pensada que foi inspirada que foi fonte de inspiração para essa essa técnica cada camada Tem uma função vai melhorando a imagem por exemplo no reconhecimento de imagem vai melhorando A ideia o texto que que se quer produzir e ela vai melhorando longo do tempo essa técnica ela faz como eu disse correlações então ela um modelo estatístico que faz correlações ela não tem elementos fundamentais eh da

Inteligência humana ela não tem intuição ela não tem causalidade né ela não tem eh contrafactual Então como é que nós eh raciocinamos tudo por causualidade né como a gente pensa a gente tá pensando alguma coisa O que que aquilo vai causar né então quando a gente decide fazer alguma coisa a gente pensa e e e naturalmente a gente pensa assim Ah não isso vai causar isso a gente faz uma outra coisa e a gente pensa com contrafactual Ah se aquilo acontecesse o que que seria não então vamos fazer isso não porque isso acontecer então tem

um um uma forma a gente entende o significado né então pra máquina eh entender significado e ter intuição eh precisa de mudanças que ainda não se sabe não tem se a menor ideia pelo que eu acompanho do ponto de vista científico como é que introduz por exemplo a questão casualidade como é que você muda da correlação que é a única coisa que estabelece hoje pra causualidade que é uma mudança radical para aproximar da Inteligência humana a inteligência artificial ela já tá na nossa vida há pelo menos 10 anos né então se a gente pensar assim

todos as plataformas e os aplicativos que a gente usa no cotidiano o modelo de negócio delas é baseado em Inteligência Artificial como é que nós seres humanos e instituições organizações tomamos decisão a gente a vida inteira a gente toma decisão com base em informação né Quanto mais importante uma decisão mais informação a gente busca é esse que a gente sempre funciona assim pode ser a gente vai para uma festa convidado para uma festa a gente já começa a pensar a gente já quer saber e quem vai tá Qual é a roupa que a gente vai

onde vai ter a gente busca informação tudo eu vou fazendo projeções com base em informação então sempre funcionou Assim eh a maneira como a gente nós e organizações funcionamos Qual é o novo o novo é a sociedade hiperconectada grande parte do que a gente faz a gente tá gerando dado Então essa quantidade extraordinária de dados que se chama Big Data é o novo os modelos estatísticos tradicionais não conseguem lidar com grandes volumes de dados com o Big Data essa técnica estatística de inteligência artificial é a única técnica estatística que consegue lidar com grande volume de

dados então se eu sempre tomei decisão com base em informação que são Dados e hoje eu tenho um conjunto Extraordinário de dados o que que implica aumenta não necessar ente mas aumenta a chance de eu ter decisões melhores toda a linguagem ela nunca foi se a gente diss assim ah ela é natural porque o humano não sempre foi junto com a tecnologia né a expressão a linguagem e sempre o que que é a escrita é uma tecnologia a impressão que levou os livros é uma tecnologia tudo isso é uma tecnologia né então Eu acho que

o o o chat GPT voltando ao exemplo mais popular hoje ou qualquer outro sistema de Inteligência Artificial ele ele não é artificial assim como não é natural assim nessa nessa dualidade né É sempre é uma uma híbrido né então nós humanos nos manifestamos eh através usamos tecnologia todo o tempo e nos manifestamos nos comunicamos a nossa sociabilidade ela é mediada por tecnologia há muito tempo nenhum sistema Inteligência Artificial ele se produz autonomamente ele é produzido pelos humanos ele e ele é usado pelos humanos e todo o processo é permeado pela subjetividade humana são os humanos

que decidem por exemplo vai vou montar um sistema de Inteligência Artificial Então os humano que identifica qual é a finalidade daquele sistema que vai ser desenvolvido isso na ia preditiva humano que define o que se chama as variáveis iniciais são os humanos que constroem as bases de dados são os humanos que eh escolhe qual base de dados vai ser treinado são os humanos que fazem por exemplo a visualização do resultado são os humanos que interpretam esse resultado são os humanos que usam a interpretação do resultado também não pode ser considerado artificial porque primeiro para você

rodar o sistema inclusive é toda uma discussão que tem um impacto tremendo sobre o meio ambiente aliás aí tem um paradoxo ao mesmo tempo que a inteligência artificial permitiu estudar o entendimento hoje que a sociedade tem sobre a mudança climática e que ela hoje define o estágio de conhecimento de acompanhamento de monitoramento das mudanças climáticas pelos especialistas que usam a inteligência artificial ao mesmo tempo ao fazer isso ela tem efeito Negativo me ambiente por quê Porque Exatamente porque ela usa grandes volumes de dados ela precisa de máquinas Poderosas e que usam muita energia e emite

muito CO2 isso é um exemplo só que não pode ser considerado artificial porque impacta o meio ambiente impacta o mercado de trabalho impacta su uma série de de questões sociais e éticas reais Então essas separações a real artificial natural eu acho que tudo isso está ultrapassado é tudo híbrido há muito tempo já é hbito existem questões por exemplo hoje a os soluções como o chat GPT aumenta enormemente a a produção de desinformação né Aí nós perdemos o controle da da produção de desinformação mas aí não é que estamos perdendo o controle da máquina né mas

tem uma diferença muito grande nisso Digamos que surja uma regulamentação que diz ch CPT tem que Open ai deixe de oferecer esse produto então ela não tá ela não fugiu com controle dos humanos ela continua sendo comercializada por uma empresa porque tá permitido agora o que ela faz de fato ela a gente tá perdendo o controle de algumas eh algumas eh possibilidades por exemplo a questão da desinformação Então ela tem uma Capacidade ela tem uma propensão a aumentar a desinformação em larga escala E isso tem impactos tem impactos na democracia tem vários impactos né mas

daí é uma diferença entre você perder o controle do efeito ou você perder o controle da tecnologia como é que eu regulo o efeito negativo Que ela possa ter da sociedade então são questões diferentes Então não vai ser um dia assim isso só em ficção científica que um dia a gente acorda e as máquinas tomaram o controle e hoje o que que é a inteligência artificial ela é um parceiro do Especialista humano quando a gente pensa assim Quais são os dilemas éticos da Inteligência Artificial eu acho que é difícil generalizar né Eu acho que cada

setor cada domínio de aplicação tem os seas questões éticas não dá para dizer que são as mesmas questões éticas por exemplo eh no no modelo de stream né todos lá os problemas éticos são totalmente diferentes se ele recomenda um filme que você não gostou não tem problema nenhum você não gostou e né não tem nenhuma implicação profunda na sua vida agora se eu tô aplicando inteligência artificial na área de saúde por exemplo na educação na segurança tem problemas éticos muito sérios né E que são distintos um dos desafios da Inteligência Artificial É exatamente esse que

cada cada aplicação ela envolve no mínimo dois domínios de conhecimento o domínio da Inteligência Artificial que é o campo da Inteligência Artificial e o domínio Onde você tá aplicando né então isso já é uma questão são o junção de dois domínios de dois conhecimentos né então se é inteligência artificial e a saúde inteligência artificial educ Inteligência Artificial e e e a arte Inteligência Artificial e a cultura sempre são domínios no mínimo dois domínios e regulamentar hoje eu acho que já é consenso né nenhum lugar no mundo e ninguém que esteja contra regulamentar a inteligência artificial

existe uma diferença básica da Inteligência Artificial das outras tecnologias digitais ela é uma tecnologia de propósito geral O que que significa uma tecnologia de propósito geral é uma definição da tecnologia de proposto geral é uma tecnologia que ela tem a capacidade de mudar a lógica de funcionamento da sociedade e da economia né então pra gente ter uma noção assim Quais foram as últimas tecnologias de proposta geral considerada foi o carvão que deu início a Revolução Industrial a eletricidade que deu início à segunda fase da revolução industrial e a computação e agora no século XX Tudo

indica que a tecnologia proposta geral é inteligência artificial Então ela tá mudando a lógica de funcionamento Então acho que todo mundo concorda já acho que é consenso a regulamentar o problema é como fazer isso processo mais avançado de regulamentação é o europeu que começou em 2018 em 21 de abril de 2021 eh a comissão europeia colocou em consulta pública a a proposta de regulamentação em novembro do ano passado já tinha 3.000 emendas porque em consulta pública qualquer um do público pode propor emenda E além disso ela tem que conciliar osos interesses de todos os países

membros da Europa que não é nada simples olha quanto tempo porque não tem como ser diferente para você criar um arcabouço regulatório num num ambiente democrático você tem que fazer isso você tem que discutir com a sociedade com todos os envolvidos aí qual é o a questão logo que surge e por outro lado é a velocidade de avanço dessa tecnologia esse processo não é simples tempo é importante para discutir com sociedade mas também pra familiaridade dos reguladores é um problema que tá sendo levantado no mundo inteiro em todos os os painéis que que eu participei

não é uma crítica é uma constatação é difícil como é que um parlamentar vai entender essa tecnologia tão complexa né Então essa falta de conhecimento e é muito importante como é que eu vou regulamentar alguma coisa um objeto do qual eu não tenho a menor ideia como é que funciona o que de que se [Música] trata [Música] [Música] h [Música] [Música] h [Música] [Música] h [Música] essa dualidade a separar o que que é humano o que que não é humano o que que é artificial o que que é natural Eu acho que isso tudo tá

superado e não é de hoje eu acho que tá superado há muito tempo né quando a gente pensa assim eh existe o ser humano desvinculado da tecnologia não não existe existe tecnologia desvinculado do humano não existe se a gente pensar historicamente é uma coevolução o humano desenvolve a tecnologia te hoje transforma humano que por sua vez transforma aquela tecnologia é isso é uma [Música] coevolução [Música] l