[Música] Olá, sejam muito bem-vindos e bem-vindas ao FGV em Company Insites, em parceria com a revista GV Executivo. Esse é um espaço de conexão entre a pesquisa, o mundo acadêmico e o mundo corporativo. E hoje a gente vai falar sobre ética e inteligência artificial.
Como saber se a IA está sendo usada de forma responsável e ética nas empresas e mais, qual o papel dos comitês de ética e inteligência artificial? Para discutir esse assunto, eu converso com o Guilherme Forma Clafic, que é professor de direito da FGV de São Paulo e é líder de projetos no CEP, que é o Centro de Ensino de Pesquisa e Inovação de Direito da FGV. Obrigada pela sua participação, Guilherme.
Olá, Érica. Olá todas as pessoas que nos escutam e nos vem, né? E é um prazer estar aqui com vocês.
Explica pra gente como é que funciona o CEP. O CP é o Centro de Ensino e Pesquisa em Inovação da Escola de Direito de São Paulo, da GV, e ele é um centro de pesquisa. O objetivo é realizar pesquisas na área de direito, tecnologia com essa relação na sociedade, futuro das profissões jurídicas e também ensino superior.
Então o que a gente faz é basicamente responder perguntas de pesquisa usando metodologia consistente que são importantes para quem tá na prática jurídica do dia a dia e que afetam o mercado, afetam a sociedade, afetam a política e o direito de uma maneira mais ampla. Quer dizer, a IA, a explosão da IA, né, generativa nos últimos tr anos aí eu imagino que tenha fomentado aí muita pesquisa, muito trabalho e também mexido muito com os escritórios de advocacia, com as empresas que trabalham com direito. Qual que é a influência eh disso no teu trabalho e no CEP?
Sim, a gente percebeu que houve uma grande quantidade de casos indo parar nos escritórios de advocacia sobre como que eu trago inteligência artificial para dentro do meu produto, para dentro do meu serviço, o que que eu preciso me preocupar. E aí dentro dessa agenda de pesquisa, né, a gente realizou esse trabalho que é governança em Iá nas organizações com o objetivo de começar a explorar questões que afetam organizações, afetam empresas, afetam o governo sobre esse trabalho de incorporar a inteligência artificial no dia a dia. Então essa pesquisa, né, que foi a pesquisa sobre comitês de ética, a gente realizou numa equipe grande, né, eh, esse artigo que a gente publicou recentemente foi feito uma coautoria entre eu, a professora Marina Feferbal e o pesquisador Lucas Latini também lá da GV.
E o que a gente procurou explorar foi justamente um desses pontos que estavam surgindo, que é como eu lido e como eu consigo trazer uma estrutura que controla e fiscaliza problemas éticos numa empresa, por exemplo. E só pra gente ter uma ideia, né, como é que funciona um comitê de ética, né, e como é que ele pode ajudar a mitigar esses desafios que as empresas enfrentam. Eu acho que é interessante perceber um pouco de qual é o conjunto de desafios éticos que essas empresas enfrentam.
Então, a gente tá falando desde questões de negócio, para onde eu vou direcionar o meu negócio, eh como que eu vou incorporar a inteligência artificial no que eu tô oferecendo pro consumidor. E aí existe toda uma parte de interação com consumidor, existe uma parte inteira de interação com fornecedores, até a parte mais sensível de falar: "Olha, esse viés, esse sistema, todo sistema tem viés, mas esse viés discrimina um grupo e não discrimina o outro". ou então esse viés gera um prejuízo aqui pra empresa e gera um lucro ali pra empresa.
Então existe todo um conjunto de questões que a gente depois pode explorar aqui éticas e ter uma estrutura e várias estruturas dentro da empresa que são capazes de identificar, avaliar e propor soluções para esses problemas se torna algo muito importante hoje em dia para qualquer empresa, especialmente na área de tecnologia. É um desafio muito grande, né? vai ser um desafio muito grande, porque como é muito novo, pelo menos esse boom que a gente teve recentemente é muito novo, o que acontece é essas empresas elas acabam fixando seus próprios parâmetros, fixando seus próprios padrões e não tem uma resposta universal que já tenha sido consolidada, mesmo a legislação ainda não tá criada.
Todos os desafios que a gente tá enfrentando, a gente busca quais são as respostas mais adequadas para enfrentá-los, né? Quer dizer, a ética ela tem que andar passos bem largos, bem rápidos para poder acompanhar toda essa revolução que a IA tá fazendo nas empresas, nas organizações. Agora vocês fizeram, né, um artigo pra revista GV Executivo, que é baseado na pesquisa, que apresenta um framework, um passo a passo, né, para guiar a implementação desses comitês, né?
Explica pra gente quais são esses passos, por onde começar. A pesquisa que a gente fez sobre comitês de ética foi uma pesquisa extensa. A gente avaliou mais de 3.
000 artigos na literatura e a gente fez uma triagem para cerca de 40. E o que a gente percebeu é que esses artigos não tratavam de todos os aspectos que comitês de ética precisam ter. E aí o que a gente percebeu é que havia uma discussão muito grande sobre quem deve estar no comitê de ética e isso epsava outras questões.
Então o que a gente primeiro constatou foi por fazer um comitê de ética. E existe uma publicação do Fórum Econômico Mundial, comitês de ética para se Level de empresas, em que eles fazem uma defesa bastante enfática da criação dessas estruturas. E a gente pode constatar algumas importâncias que uma estrutura como um comitê de ética tem para uma empresa.
A primeira razão, talvez mais importante, é ter um espaço onde questões éticas podem ser discutidas a partir de diferentes perspectivas numa empresa. Por isso que a importância de um comitê, você reúne pessoas diferentes, que t opiniões diferentes e que tem visões de risco diferentes e padrões éticos diferentes para que elas sentem junto e conversem. E aí você tá falando também que a gente tem que ter gente de compliance, de TI, proteção de dados, né?
Quais são essas áreas que teriam que estar envolvidas nesse comitê? Grande parte da literatura discute esse problema, quem deve estar no comitê, quais áreas. E o que a gente constatou é que a gente tem possibilidade de construir dois tipos de comitê.
um comitê que olha mais para dentro e um comitê que olha mais para fora. Então eu posso ter um comitê que se foca em agregar diferentes setores dentro da empresa, que é o que você mencionou, Érica, de ter o profissional de TI, o profissional de compliance, o profissional do jurídico, o profissional do marketing, das áreas fim, né, dos produtos, todos sentados e reunidos para discutir questões éticas que tenham aparecido. Por exemplo, eu posso treinar o meu sistema de inteligência artificial com uma base de dados que eu construí que é antiga?
Sim. Não, o que que isso vai trazer de viés e por aí vai? Então essa é uma primeira questão.
O comitê que olha para fora, ele é um comitê que traz gente de fora para dentro da empresa. Então tem uma grande empresa de telefonia que tem um comitê de ética e a propaganda que eles fazem do comitê de ética, trouxemos os maiores especialistas em temas de ética, de inteligência artificial para estar nesse comitê. Então eu trago gente de fora para estar num comitê dentro da empresa, porque eles vão trazer uma visão de fora da empresa para discutir as questões.
E aí surgem vários problemas operacionais. Então essas pessoas têm que assinar um NDA, obriga elas a não revelar segredos. existe uma discussão sobre se vai remunerar ou não essas pessoas de fora.
Então, a gente começa a descer nos detalhes operacionais do comitê quando a gente define qual é a composição dele, por exemplo. Essa é a primeira grande discussão, a composição. Mas aí você tem um passo a passo aí, né?
Eh, por onde começar? O que a gente percebeu lendo a literatura é que, a nosso ver existe uma melhor forma de estruturar essa construção de um comitê. Essa melhor forma passa por uns seis passos que a gente defende no artigo.
Eles são bastante lógicos entre si. A primeira ideia é eu tenho que atribuir responsabilidades, ou seja, eu tenho que definir quem é que vai ficar responsável por pensar essas situações, pensar esses comitês e tudo mais. A segunda ideia é uma parte de diagnóstico.
E aí os dois passos seguintes estão focando essa parte de diagnóstico. Uma primeira que fala quais são as soluções que eu tenho na organização e que usam inteligência artificial. E um terceiro passo que fala: "OK, agora que eu sei as soluções, quais são os riscos que estão envolvidos nisso, que é fazer esse relatório geral.
Depois que eu tenho quem é responsável, qual é o diagnóstico, eu posso pensar qual é o conjunto de estruturas que eu já tenho na minha organização, quais são as políticas que eu já tenho na minha organização para combinar com essa discussão ética. E aí vem o quarto passo, que é mapear a política e estruturar uma política de governança. Então, esses quatro primeiros passos são passos bastante de diagnóstico, de fixação de responsabilidades.
E aí tem o quinto e o sexto. O quinto é fixar princípios éticos que possam servir de guia para o sexto passo, que aí sim é você montar essa estrutura, definir quem está, onde que ela vai est locada na no organograma da organização e por aí vai. A gente sabe que esses seis passos eles não são mandatórios e que dependem do contexto de cada organização.
Então, quando a gente lançou essa pesquisa, teve um advogado de uma bigtech que falou: "Olha, para a gente o caminho foi diferente. A gente começou lançando princípios éticos e depois a gente foi desdobrando tudo o que a gente queria a partir desses princípios. " É isso que eu ia te perguntar.
Não tem um padrão universal ainda estabelecido na pesquisa que vocês fizeram? Vocês encontraram dificuldades em em encontrar parâmetros universais? E quais são as principais dificuldades que as empresas, as organizações enfrentam hoje para poder estruturar esses comitês, né?
Porque você tem exemplo de uma empresa de telefonia que fez um outro caminho, vocês indicam o framework por esses passos, mas as empresas devem eh apresentar para vocês algumas dificuldades. Que dificuldades são essas para estruturar esses comitês? tem uma preocupação muito grande com o fenômeno do ethic washing, né, que é aquela ideia de olha, eu crio um comitê e eu tenho uma necessidade de fazer esse comitê funcionar e ter realmente voz sobre as coisas, né?
Então o primeiro grande problema é o problema de como fazer o comitê ter força dentro de uma organização. Um segundo tópico ou uma segundo desafio, quais são os padrões éticos que esse comitê vai usar? Como que eu fixo esses parâmetros?
como que eu fixo esses princípios. E aqui tem uma coisa que é muito importante do que a gente pesquisou, que é a importância de se fixar um conjunto de orientações que esse comitê já tenha tido, quase como precedentes de discussão desse comitê. Um terceiro problema, uma terceira dificuldade é o que fazer quando o comitê tiver opiniões que são diferentes das opiniões do negócio.
E esse talvez seja o ponto mais sensível. teve uma grande empresa de equipamentos de segurança, de câmeras e tudo mais, que ela criou um comitê de ética e quando ela resolveu colocar armas de choque elétrico em drone, o comitê foi contra e ele publicizou essa opinião contrária, o que demandou uma resposta do CEO, que também era uma resposta pública, e gerou esse atrito entre quem era do comitê e quem fazia a gestão do negócio. Então, quem cria um comitê tem que saber muito claramente quais são as funções e quais são os possíveis desafios que aquele comitê vai trazer para as decisões de negócio para que possa ter realmente uma estratégia de ouvir as recomendações, de ponderar as recomendações e de dizer o quão vinculante e obrigatórias são essas recomendações.
A gente tem um assunto que é governança, que é super importante para para para pros comitês, né? e tem o comitê de TI e tem o comitê de ética. Quais são as principais diferenças aí que a gente pode ter pensando em quem já tem um comitê de governança em TI e a governança em IA?
Quais são as vantagens, né, para as empresas que investem nessa estrutura? No checklist do Fórum Econômico Mundial, uma das perguntas que eles colocam é justamente a pergunta sobre eh você já tem uma estrutura que poderia funcionar como um comitê de ética? Por que que a gente diz que ter um comitê de ética sobre inteligência artificial, a parte pode ser interessante?
E a gente tá falando comitê, não precisa ser necessariamente um comitê. Existem outras estruturas. Pode ter umbutsman, pode ter um escritório de ética em inteligência artificial, um escritório de IA responsável, mas é importante ter uma estrutura dedicada porque os problemas que surgem vão ser problemas dedicados.
A governança de TI, ela vai procurar colocar tecnologia de informação dentro de uma empresa alinhada com os princípios éticos, negociais e de mercado daquela empresa, né? Dentro do contexto. Quando eu falo de governança de inteligência artificial, ela é um pouco mais específica.
Eu quero alinhar todas as propostas e soluções de a que são usadas dentro da empresa, aos objetivos da empresa, ao contexto que a empresa, às normas que a empresa tá sujeita. Então o que que acontece? surgem problemas que eles não vão lidar apenas com a parte tecnológica, eles vão lidar com uma questão maior, que é uma questão de marketing, que é uma questão de posicionamento no mercado, que é uma questão de reação do público consumidor e reação das autoridades regulatórias.
Então, se eu faço um sistema que incentiva, por exemplo, um assistente pessoal, que quando a pessoa pergunta sobre eh um exemplo que foi bastante famoso, suicídio, eu tenho que ter travas nesse assistente pessoal para que isso não aconteça. Então, travas aos resultados que o sistema traz. Esse é um tipo de exemplo que apenas as pessoas de TI talvez não sejam capazes de mapear todas as possibilidades.
Então, uma das grandes vantagens que a gente menciona sobre os comitês de ética seriam três, assim. Uma vantagem é trazer uma visão melhor sobre riscos pra empresa, sobre produtos e serviços. Dois, trazer uma versão mais diversificada dos problemas, das situações.
Você pode ter diversificação por área, você pode ter diversificação por expertise, por eground das pessoas profissionais, tá? Essa é uma segunda eh vantagem muito importante. E a terceira é você concretizar discussões éticas, soluções éticas, porque conforme o comitê vai decidindo, ele vai ajudando a empresa a ter mais clareza sobre como resolver problemas e dilemas.
E isso vai se espalhando pra empresa desde o nível mais alto até os níveis mais baixos, né? É uma segurança maior pra empresa, né? E um trabalho de prevenção também muito grande, né?
Exatamente. Uma das funções que a gente coloca como principais em comitê de ética é a função preventiva. É evitar que problemas surjam.
Guilherme, essa pesquisa, a gente tá chegando aos minutos finais, ela continua, né? Vocês já estão numa segunda etapa dessa pesquisa. Fala rapidamente aí quais são os próximos passos eh desse estudo.
Eu acho que aqui o primeiro ponto é agradecer aos financiadores, né, da primeira parte. a gente teve o financiamento de empresas grandes do mercado, a gente teve B3, DASA, Hubandic, a Faico, né? E agora na segunda etapa a gente continua com a B3.
Eh, o Banco do Brasil entrou com a gente, o BV entrando com a gente, Mercado Livre, Kangu. Então, a gente percebe um um interesse grande do mercado. E nessa segunda fase, se na primeira a gente discutiu estruturas, na segunda a gente tá discutindo conteúdo.
E o que a gente tá discutindo sobre conteúdo é vies. Quais são vieses legítimos? Quais são vieses ilegítimos?
Quando eu tenho dois vieses que conflitam, o que que eu faço para resolver esses conflitos? E por aí vai. Então, a gente tá se dedicando a uma questão muito importante nos sistemas, que é quando o resultado se desvia do que era esperado, né, que são os vieses algorítmicos.
E essa pesquisa tá para sair, aí a gente finalizando esse dia. Aí quando sair você vem contar pra gente de novo, a gente vem comentar um pouquinho mais. Guilherme, muito obrigada pela sua participação aqui no nosso videocast.
Érica, eu que agradeço em nome também do CEP, de todo mundo que participou da pesquisa. É uma ótima oportunidade estar aqui. E se você quiser saber mais sobre esse assunto, é só ler o artigo Comitê de Ética em A, por onde começar na revista GV Executivo.
Eu espero você nos próximos episódios. Até lá.
