[Música] no saber direito desta semana Túlio Silveira apresenta um curso sobre a implementação da Inteligência Artificial na advocacia e nos tribunais o professor aborda os desafios éticos legais a eficiência as tendências e perspectivas para essa ferramenta no universo jurídico começa agora a aula 4 Olá seja muito bem-vinda seja muito bem-vindo ao programa saber direito da TV Justiça esse é o nosso encontro número quatro Eu me chamo Túlio Silveira sou advogado Professor mestre em direito doutorando em direito e estamos falando sobre o uso da inteligência artificial no sistema judicial brasileiro se você ainda não segue o meu perfil lá no Instagram siga @adv tlio Silveira e se você ainda não baixou o aplicativo da TV Justiça a mais baixa agora e tenha na palma da sua mão acesso a todos os conteúdos da TV Justiça no Encontro de hoje nós falaremos sobre os desafios éticos e Leais da inteligência artificial no direito quero discutir aqui com você os principais desafios que a inteligência artificial apresenta no campo jurídico com foco na privacidade segurança de dados no viés algorítmico e na responsabilidade legal nessa aula nós trataremos principalmente sobre a privacidade e a segurança dos seus dados O que é o viés algoritmo algorítmico e quais são as suas implicações as responsabilidades legais associadas ao uso da Inteligência Artificial a necessidade de uma regulamenta específica para o direito as iniciativas regulatórias atuais e a preparação dos profissionais do direito para esses desafios privacidade de dados e segurança da Inteligência Artificial talvez você não perceba mas diariamente você está aceitando os cooks quando você acessa um determinado site O que são cooks são dados de memória para que você dê a ciência de que aquele site pode coletar aquelas suas informações quando você acessa um determinado site de compra aparece uma mensagem lá abaixo aceitar os cooks de memória rejeitar todos os cooks ou quando você vai acessar um determinado programa você coloca lá um caption você seleciona o checkbox que você não é um robô ali naquele momento você está Você está interagindo com uma inteligência artificial mostrando que você não é um robô mas ele está reconhecendo que você não é um robô muito embora se discuta que eh hoje esses captas não sejam tão úteis quanto no passado porque as próprias inteligências artificiais já estão reconhecendo como tratar um humano como um robô e automatizar esse tipo de aceite na prática O que que significa isso nós estamos falando em dados pessoais dados de comportamento dados de consumo Você já percebeu que ao pensar falar ou pesquisar sobre um determinado assunto logo na sequência a timeline do seu Facebook do seu Instagram ou até mesmo quando você acessa o Google já aparece uma infinidade de anúncios colocando magicamente aquela tua necessidade na sua frente já parou para pensar nisso Isso significa que estão utilizando os nossos dados os nossos gostos os nossos comportamentos os nossos costumes para direcionar determinados produtos e serviços à nossa disposição O que que significa isso na prática eu ouso dizer que às vezes o Facebook me conhece melhor que eu mesmo eu penso em comprar um tênis daí um pouco chega na timeline a marca daquele tênis eu sequer chego fazer a pesquisa mas eu comento lá em casa que eu gostaria de comprar uma determinada um determinado eletrodoméstico e de repente chega anúncio desse eletrodoméstico para mim isso não é bruxaria isso é tecnologia associada a quê aos nossos comportamentos aos nossos gostos aos nossos e eh eh a a costumes e isso diz respeito ao tratamento de dados quando você acessa uma rede social Você concorda com a coleta daquelas informações quando você acessa uma inteligência artificial Você concorda com os termos de uso e privacidade para aquela ação para aquela determinada informação para aquela determinada situação nesse caso nós precisamos entender que no ato de regulamentação da privacidade e a segurança dos dados para o treinamento da Inteligência Artificial isso fique muito claro de acordo com a nossa lgpd nós precisamos consentir com esse com essa com esse fornecimento a lgpd estabelece que nesse nesse aspecto com quando eu estabeleço um consentimento informado eu estou em conformidade com a lgpd se eu não trouxer um consentimento informado a pessoa coletar esse dado indevidamente ela incorrerá nas infrações previstas na lei geral de proteção de dados então quando o assunto é dado Pessoal esse é um Desafio que nós precisamos enfrentar em relação a inteligência artificial porque se eu sei que a inteligência artificial Depende de quantidades de dados para ser treinada incluindo informações confidenciais eu preciso estabelecer ali Quais são as regras para a coleta desses dados a meta a inteligência artificial do Facebook entrou com atraso de 3 meses no Brasil por quê Porque a meta não estava de acordo com a lei geral de proteção de dados e ela precisou ajustar os seus termos de uso e políticas de privacidade para poder atender a legislação brasileira uma situação interessante quando você acessa o o chat GPT lá nas configurações tem um campo específico que você deixa sinalizado ou não quando você sinaliza quando você ativa aquele Campo você está autorizando a Open utilizar os seus dados pessoais as suas informações para você melhorar o modelo o que é melhorar o modelo é aprimorar a base é aprimorar o treinamento diante daquela base de dados que ela fornece então fica a dica Aí presta atenção nessa sinalização se você vai manter sinalizado ou não como eu estou realizando uma pesquisa profunda sobre inteligência artificial e direito eu deixo sinalizado para que aquela Inteligência Artificial possa utilizar as informações que eu ali apresento exceto as informações de dados pessoais porque eu não incluo as informações de dados pessoais para poder melhorar o treinamento do modelo Então quais são os nossos desafios atuais em relação aos grandes modelos de linguagem natural no que diz respeito à privacidade e segurança de dados consentimento informado a inteligência artificial precisa te informar que está coletando os seus dados para trabalhar para ser treinada para ser informada a inteligência artificial precisa realizar o o vamos lá o servidor da Inteligência Artificial precisa realizar o armazenamento seguro para evitar vazamento e acesso indevidamente aos seus dados o acesso indevido às suas informações agora o ponto de discussão aqui a meu ver diz respeito aos dados judiciais e a necessidade de proteção via de regra o processo judicial é público e todos os atos são acessíveis ao público de maneira geral você advogado mediante o seu token ou a sua senha vai e consegue acessar aquele processo judicial segredo de justiça é uma exceção não então a legislação prevê Quais são os ã processos judiciais que estão sob o segredo de Justiça nesse ponto de inflexão sobre a perspectiva dos dados judiciais a necessidade de proteção a regulamentação precisa prever sim a responsabilidade a quem der causa ao vazamento desses dados Muito provavelmente você já ouviu falar no golpe do falso advogado O que é o golpe do falso advogado uma pessoa se passa por um advogado se passa pelo advogado de um processo pois tem acesso às informações do process acess acesso às partes ao valor da causa e uma série de outras informações que estão lá no sistema judiciário lá no pje noage no eproc eles estão lá e eles utilizam de forma criminosa essas informações pedindo dinheiro para liberar por exemplo um alvará esse tipo de acesso a dado tem que ser muito bem protegido se nós estamos falando que manualmente criminosos conseguem acessar esses dados para praticar crimes perante aquelas determinadas vítimas que sá se não tivermos um sistema estruturado de proteção desses dados para que essas informações não caiam em mãos erradas então fica a dica aí para você prestar muita atenção se você tem um caso na justiça use os meios usuais de comunicação com o teu escritório de advocacia nunca repasse valores específicos sobre o pretexto de que está levantando o avará judicial isso não acontece tá isso você não tem que repassar nenhum dinheiro tô só deixando um alerta aqui na nossa aula para você ficar muito Atento e dar essa informação a uma pessoa da sua família porque talvez ele ou ela precise disso então esses dados de segurança tá esses dados judiciais precisam ser protegidos e o sistema de Justiça na regulamentação que está sendo revisada pela 332 um dos pontos fundamentais é justamente eh identificar como esses dados serão protegidos como não expor por exemplo dados financeiros em uma determinada transação processual dentre outros modelos como evitar que esses dados não Sigam a risca a lei geral de de proteção de dados e qual é a minha reflexão aqui pesquisando sobre o tema e é fundamental que não se e não apenas a legislação regulatória esteja em conformidade com a lgpd mas os sistemas de proteção internos estejam de acordo com a lgpd trazendo tudo o que é necessário para a proteção individualizada do cidadão e aqueles dados que ali estão informados nessa pers dos Desafios que nós temos hoje eh estudamos com muita profundidade a questão relacionada ao viés algorítmico Muito provavelmente você já ouviu falar que uma determinada pessoa tem um viés eh eh político um viés religioso um viés futebolístico o que que esse viés traz na prática a tendência de um determinado indivíduo ser direcionado uma determinada concepção issoão viés é aquele direcionamento em uma determinada situação no caso da Inteligência Artificial nós temos uma grande preocupação com o viés algorítmico quando é que acontece veja não é para acontecer e se acontecer precisa ser mitigado se isso terc rapidamente precisa ser identificado mitigado e corrigido esse viés o viés ocorre né o viés algorítmico ele ocorre quando a inteligência artificial começa a exibir preferências ditas como injustas preferências injustas ou que coloquem um determinado grupo em desigualdade todo o algorítmico todo algoritmo Ele é tratado considerando um grande volume de dados e informações que Teoricamente é para ser Imparcial se ele deixa de ser Imparcial ele começa a adotar uma determinada tendência ele começa a estabelecer uma determinada eh indução de erro a desigualdades dentro de um determinado grupo social isso No que diz respeito a a ao tratamento da personalidade aos direitos fundamentais é um instrumento perigosíssimo se você quiser segregar um determinado grupo ou uma determinada condição é só você incluir um viés algoritmo nesse banco de dados que a inteligência artificial irá ser treinada mas volto a dizer o objetivo aqui é identificar quando existe um viés quando existe um viés discriminatório ou um viés algorítmico discriminatório nós podemos identificar facilmente quando aquelas decisões algorítmicas começam a prejudicar grupos específicos o exemplo prático desse viés discriminatório no algoritmo é simplesmente quando eu utilizo o sistema de a para tratar ou traçar perfis que possam reforçar determinado estereótipo E aí o estereótipo seria considerado como um fator determinante para se realizar aqueles julgamentos considerando aquele determinado grupo social uma vez identificado este viés algorítmico a autoridade precisa imediatamente corrigir como é que nós trabalhamos essa correção dentro dessas causas de viés e eh do algoritmo ou de uma Justiça enviesada algoritmico nós temos dados que foram utilizados para treinamento e um design algorítmico que levou a essa tendência lembre-se que a inteligência artificial reproduz o pensamento humano Túlio a inteligência artificial não reproduz o pensamento humano ela simplesmente compartilha aquilo que foi treinado previamente exato mas em termos simbólicos ela procura trazer uma representação do cérebro humano uma representação daquele ser pensante e mediante as suas equações matemáticas ela consegue desenvolver o raciocínio e apresentar um resultado nesse momento eu identifico que eu homem trouxe para esse treinamento esse enviesamento e coloquei em cheque toda a segurança do ordenamento na Minha tese de doutoramento em direito eu estou trabalhando justamente essa perspectiva a hipótese de que não se trata de quando porque nós seremos julgados por robôs mas se trata de como nós seremos julgados por robôs E aí esse julgamento por Inteligência Artificial se detectado esse viés algorítmico imediatamente precisa ser corrigido Então quais são as causas de viés dados de treinamento e design algoritmo propositalmente inseridos como eu vou mitigar esse viés trabalhar uma auditoria interna e uma transparência e levantamento dessa diversidade de dados que foram apresentadas a identificação do viés algorítmo algorítmico só é capaz se for supervisionada por um humano porque talvez se nós pensássemos que uma inteligência artificial iria auditar outra Inteligência Artificial quem me diz que essa essa inteligência artificial que está auditando a outra Inteligência Artificial também não traz consigo esse viés comportamental ou esse viés aspas de estereótipo então a supervisão humana mais uma vez é colocada como necessária e Fundamental volto a dizer o que a gente tá encontrando aí fora realmente é desafiador para tentar conseguir realizar uma auditoria algorítmica essa auditoria algorítmica e isso já foi até objeto de manifestação da própria eh desenvolvedora do xat xpt Por exemplo quando ele foi a público e disse olha nós não sabemos como o chá de GPT funciona ele declarou noem público olha se ele não sabe como o chá de GPT funciona quão seguro nós estamos em relação a possíveis vieses algorítmicos por isso que quando da criação da inteligência artificial para o sistema de justiça e para as decisões é fundamental que o sistema de Justiça esteja antenado em relação antenado atento em relação a essa perspectiva porque o viés exige sempre a supervisão humana em relação a responsabilidade legal sobre a inteligência artificial Quais são os desafios que nós identificamos hoje olhando para a regulamentação a as Vertentes de regulamentação as minutas que circulam né O que que a gente identifica assim como primazia primeiro Quem é o responsável quem será responsabilizado segundo esta responsabilização é objetiva ou subjetiva essa responsabilização demanda da comprovação da culpa ou dolo ou demanda a comprovação da culpa ou dolo quem será o responsável o desenvolvedor o operador ou a instituição que está utilizando a inteligência artificial um uma responsabilidade que a gente precisa analisar é o seguinte perceba um erro em um diagnóstico médico ou em um processo judicial que foi gerado por Inteligência Artificial quem será responsabilizado a quem será dirigida essa responsabilidade a quem defenda a necessidade de uma cadeia de responsabilização e ações regressivas para isso Eu me filio à tese de que há necessidade de uma cadeia de responsabilização e uma cadeia regressiva de responsabilização em relação às aos resultados gerados pela Inteligência Artificial essa semana eu conversava com um colega médico que também com inteligência artificial e ele me relatou o seguinte depois do Boom do uso da inteligência artificial para a análise de laudos médicos o que está se percebendo uma significativa amostragem vem trazendo alguns erros de diagnóstico por óbvio que todo laudo precisa ser supervisionado por um médico por um profissional da á médica assim como toda petição inicial toda sentença precisa de um responsável precisa de uma intervenção humana para ser analisada Agora nisso tudo como é que a gente vai trabalhar essa essa condição de segurança pro indivíduo e segurança pra sociedade atualmente a nossa legislação não cobre todos os aspectos D essa responsabilidade é por isso que na aula passada eu comentei o projeto de lei eh 2338 e aqui vou fazer um overview sobre a minuta de resolução do uso da inteligência artificial generativa no âmbito do poder judicial entendo que precisamos fazer uma reflexão crítica em relação a esse ponto da responsabilidade legal não é prudente sair responsabilizando tudo e todos que você pode criar um entrave regulatório mas é necessário que você Estabeleça dentro dessa cadeia de responsabilização o que compete a cada um e quais são os mecanismos para mitigar cada vez mais os efeitos negativos ou os efeitos deletérios do uso da Inteligência Artificial se você é usuário do chat GPT Observe que na na página inicial tem um disclaimer o chat PT pode cometer erros por isso Procure sempre a a observar e avaliar o resultado porque a inteligência artificial é um produto no acabado e se ela é um produto no acabado ela precisa estar sob constante vigilância sob constante observação e é nisso que a gente estuda e analisa a necessidade de regulamentação da inteligência artificial no direito várias normas postas Normas vigentes em tese alcançariam a o sistema regulatório de Inteligência Artificial porém eu particularmente entendo que há necessidade de uma Norma própria para que você entenda você cidadão entenda onde está caminhando para que nós operadores do direito possamos entender Onde nós estamos caminhando nessa perspectiva de regulação a pergunta é por que que nós precisamos de regulamentação regulamentação significa Organização das atribuições e organização do passo a passo organização de todo o nosso sistema regulamentação não significa entrave na utilização da Inteligência Artificial eu entendo que regulamentar todo esse procedimento inclusive via o CNJ para o sistema eh jurídico brasileiro os objetivos aqui dessa regulamentação são claros para mim proteger a privacidade evitar discriminação e estabelecer responsabilidade se isso aqui tiver definido de forma objetiva estou protegendo a privacidade do usuário estou protegendo eh contra vieses discriminatórios estou estabelecendo a responsabilidade cada agente de Inteligência Artificial que faz parte desse processo já tem ali objetivamente Quais são as suas atribuições Quais são as suas responsabilidades o modelo europeu de regulamentação propôs uma regulamentação rigorosa da inteligência artificial no Brasil os projetos de lei em andamento para o uso da Inteligência Artificial estão trazendo alguns pontos dessa regulamentação Europeia acredit dito eu que não basta se fazer um copia e cola é necessário buscar sim pode-se buscar um modelo mas é necessário se colocar de acordo com as nossas necessidades locais e de acordo com as nossas características buscando sempre sempre sempre a preservação de direitos fundamentais e a garantir a segurança jurídica no Brasil Comentei na aula passada o projeto de lei 2338 e fiz um breve relato sobre a resolução 332 do CNJ estabelecendo princípios éticos para o uso da i no poder judiciário algumas iniciativas internacionais são bem interessantes a o CDE já propôs algumas notas regulamentares e a união europia regulamentou uso da Inteligência Artificial naquele continente agora em Julho passado Então essas iniciativas globais garantem uma de uniformização para uma PR manutenção de uso ético da Inteligência Artificial gente se você chegar hoje na Inteligência Artificial Qualquer que seja a inteligência artificial e começar a dialogar com ela e realizar algum tipo de pergunta você notará que ela se recusará a responder isso é isso é muito comum então se você chega para uma determinada inteligência artificial Qualquer que seja ela e você tende a colocar alguma questão que traga algum tipo de viés discriminatório ela vai se recusar a responder Túlio Mas isso é uma premissa verdadeira bom de acordo com as pesquisas que eu realizei utilizando algumas algumas hipóteses não muito ortodoxas ela se recusou a responder por quê que ela já entendeu que se ela trabalhar esse viés discriminatório E aí ela entendeu por por si só não os dados as informações que nela foram lançadas foram Justamente direcionadas a não trazer nenhum viés discriminatório ou que pudesse ali trazer alguma incoerência com o resultado almejado atualmente o Conselho Nacional de Justiça realizou Três audiências públicas para trazer receber informações receber propostas sobre a regulamentação e nós temos uma minuta de regulamentação do uso da inteligência artificial no poder judiciário que é muito interessante eu quero trazer aqui algumas algumas disposições para vocês tá atualmente a resolução 332 é de 2020 e não faz previsão a respeito do uso da deligência artificial generativa pelo Poder Judiciário mas o que isso implica pessoal eh implica em sim dar luz a um assunto de extrema necessidade e mais a mais tentar se atualizar ao momento em que nós vivemos talvez a nossa o nosso processo legislativo ou os atos administrativos do executivo ou do Judiciário ou do próprio legislativo não tenham não consigam correr tanto quanto corre-se a evolução tecnológicas ah correm as evoluções tecnológicas mas nesse aspecto é fundamental que você entenda comigo algumas disposições que foram propostas aqui por exemplo o artigo primeiro da minuta de resolução a ser eh utilizada para regulamentação né que ainda encontra-se em discussão estabelece a presente resolução estabelece normas gerais para o desenvolvimento a governança auditoria o uso responsável de soluções que adotem técnicas de inteligência artificial no âmbito do Poder Judiciário com objetivo de promover a inovação tecnológica e a eficiência dos serviços Judiciários de modo seguro transparente isonômico e ético em benefício dos jurisdicionados então o que que a gente percebe aqui que o centro O objetivo dessa regulamentação sim é o usuário final é a culp regação é o jurisdicionado e aqui ele faz o qu ele tende a trazer uma regulamentação protetiva que diga-se de passagem é muito interessante já o artigo sego na proposta de regulamentação estabelece que o desenvolvimento a governança auditoria e os responsáveis de soluções de a pelo Poder Judiciário tem como fundamento e olha que interessante Quais são os fundamentos que eles estabelece aqui primeiro o direito o respeito aos direitos fundamentais e aos valores Democráticos o segundo a a promoção do bem-estar dos jurisdicionados o terceiro e que a meu ver é muito importante é a possibilidade do desenvolvimento de inovação de tecnologia no setor público com ênfase no estímulo a colaboração entre os tribunais no Brasil nós temos um desafio que é o seguinte em termos de repartição de competência até Nem tanto mas se a gente for pensar que Até recentemente nenhuma das 27 juntas comerciais do Brasil se falava Até recentemente nenhuma das 27 juntas comerciais eram capazes de realizar transações digitais que que a gente percebe E por que que eu trouxe o exemplo das juntas comerciais porque recentemente né com o processo de eh eh desburocratização da abertura de empresas houve uma unificação de informações é aqui que se propõe a a uniformização e o estímulo a colaboração porque é que eu preciso todas as vezes informar os meus dados pessoais para acessar vários sistemas se Teoricamente eles precisam colaborar entre si aqui faço um apelo E aí como profissional do direito é hoje eu advogo em várias unidades da Federação utilizo alguns sistemas eletrônicos de Justiça utilizo o pje agem e o eproc Ainda bem que o poder judiciário está trabalhando uma uniformização para acesso por uma única máscara mediante um login e senha acessar essas esses outros portais porque não tem lógica se não houver colaboração entre os tribunais e o Conselho Nacional de Justiça um outro fundamento muito importante que o CNJ apresentou foi a centralidade da pessoa humana Ou seja a pessoa humana continua sendo o centro decisório continua sendo o foco o essencial nessa relação a centralidade na pessoa humana Faz com quê faz com que a participação e a supervisão de um indivíduo ocorra em todas as etapas do processo outro fundamento muito importante é a promoção da Igualdade da pluralidade e da Justiça decisória O que que significa isso na prática promoção da Igualdade pluralidade Justiça decisória Será que todas as decisões até então estão alcançando o seu objetivo primordial aqui ela Traz essa possibilidade dentre outras e uma que eu quero mencionar com vocês aqui é a proteção de dados pessoais ou acesso à informação e o respeito ao segredo de Justiça o artigo 2 A da resolução a da minuta de resolução estabelece os princípios pelos quais deve passar o desenvolvimento a governança a auditoria e o uso responsável de utilização de soluções de Inteligência Artificial e aqui o que me chama atenção é o seguinte a justiça a Equidade a inclusão e a não discriminação abusiva ou ilícita determinados grupos ou se buscarmos o conceito do princípio da Igualdade né é tratar os iguais dentro da sua igualdade e nunca desigual se estiverem na mesma condição isso é um atrativo muito interessante a segurança jurídica e a segurança das informações jurídica é para dar o grau de previsibilidade que o nosso sistema de justiça é seguro é viável é previsível e não se trazer ali várias situações Onde eu posso colocar em cheque essa dita segurança jurídica ou qualquer tipo de pensamento que possa inverter a situação dando a ententender que aquele sistema seria inseguro ainda que nós estejamos falando em uso da inteligência artificial em Sistemas decisórios ou de uma Justiça algorítmica tá deve ser observado o devido processo legal ampla defesa e o contraditório com as prerrogativas e os direitos dos atores do sistema de justiça aqui o que eu o que eu acrescentaria né os atores do sistema de Justiça e todos aqueles que colaboram direta ou indiretamente com a a o seu funcionamento Ele trai ela traz aqui alguns conceitos sobre a inteligência artificial e um bem interessante que eu acredito que será copiado logo com alguma com alguma medida pelo congresso nacional quando da Eu só não me lembro se ainda tá tem prazo de propositura de emendas né mas Eu acho que eu acho eu acho penso que seja interessante unificar os conceitos que quando nós temos uma Norma prescritiva que estabelece conceitos pro usuário se você unificar o conceito é mais simples a compreensão se você não unificar o conceito essa compreensão Deixa de ser simples e passa para uma complexidade desnecessária a meu ver mas ele adota aqui como um conceito sobre o sistema de inteligência artificial sistema baseado em máquina que com graus diferentes de autonomia que que é o grau diferente de autonomia né ou nós nós falamos em uma de nossas aulas da ia fraca e da i forte ou a ia geral aqui graus de diferentes autonomias eu entendo que a ia fraca não tem autonomia ela ela é regida segundo os padrões algorítmicos que são apresentados a ela a ia geral ou a ia forte sim teria uma tendência de ser uma ia autônoma mas o que tá um pouco longe da nossa realidade e para os objetivos explícitos ou implícitos infere a partir de um conjunto de dados ou de informações que recebe como gerar resultados em especial previsão conteúdo recomendação ou decisão que possa influenciar o ambiente virtual físico ou real aqui já tá trazendo o o conceito básico de a de a generativa para a o sistema de Justiça ou para as decisões o nos termos da minuta apresentada o artigo quarto estabelece o respeito aos direitos fundamentais me permita ler aqui para você rapidamente o artigo quto no desenvolvimento na implantação e no uso da inteligência artificial os tribunais observarão sua compatibilidade com os direitos fundamentais especialmente aqueles previstos na Constituição ou em tratados de que a República Federativa do Brasil seja parte acrescenta-se o artigo 5º com uma nova redação a adoção de aplicações que utilizem modelos de Inteligência Artificial deve buscar garantir a segurança jurídica e colaborar para que o poder judiciário respeito os princípios previstos no artigo 2 A dessa resolução E aí vem uma questão muito interessante sobre os dados sobre o compartilhamento dos dados os dados utilizados no desenvolvimento Ou treinamento da Inteligência Artificial devem ser representativos Ou seja eu preciso ter um critério estatístico para trazer uma representatividade desses dados em uma nossas aulas eu expliquei sobre o conceito de algoritmo então aqui ele faz a referência de que devem ser esses algoritmos devem trazer um certo grau de representatividade e observar as cautelas necessárias quanto ao segredo de justiça e aos dados pessoais Aqui nós temos um desafio a ser superado como separar o que é segredo de justiça e não submeter ao treinamento da máquina ou se submeter ao treinamento da máquina como realizar o tratamento desses dados e do outro lado estabelecer ah a como não disponibilizar os ditos dados sensíveis e os dados pessoais se aprovada for essa resolução certamente a utilizarei na Minha tese de doutorado porque ela traz um dispositivo muito interessante da da não discriminação eh quando nós falamos em decisões algorítmicas ou decisões que aplicam algoritmos para mediante um processo decisório se chegar a um resultado nós temos que combater o viés algorítmico o viés algorítmico perdão nós falamos ainda nessa aula sobre o viés algorítmico aqui na na minuta de resolução é apresentado uma questão muito interessante para proteger efetivamente contra esses vieses por quê Porque ela é Clara ao estabelecer que as decisões judiciais apoiadas em ferramentas de Inteligência Artificial devem preservar a igualdade a não discriminação abusiva ou ilícita e a pluralidade auxiliando no julgamento justo com criação de condições que visem a eliminar ou minimizar a marginalização do ser humano e os erros de julgamento decorrentes de preconceitos aqui é muito interessante por quê Porque quando ele traz a perspectiva desse viés discriminatório ou a incompatibilidade ou verificado esse viés discriminatório ou essa incompatibilidade de solução de Inteligência Artificial deve ser adotadas as medidas corretivas necessárias à suspensão correção ou eliminação da solução e os seus vieses da mesma forma como o PL 2338 está estabelecendo a perspectiva de se estabelecer a categorização dos riscos né os tribunais devem realizar avaliação preliminar das soluções que utilizem técnicas de inteligência artificial com a finalidade de definir o seu grau de risco baseando-se na categorização e nos critérios previstos no capítulo 3 A nesses critérios previamente estabelecidos tá Ah se aprovada essa minuto de resolução o artigo 7 B prevê o seguinte eu achei muito interessante quando é apresentado e vou explicar porquê são vedados ao poder judiciário por acarretar em risco excessivo a segurança da informação aos direitos fundamentais dos cidadãos e a independência dos magistrados o desenvolvimento a utilização de soluções que não possibilitem revisão humana dos dados utilizados aí vem ao encontro daquela necessidade da Transparência algorítmica eh que não possibilita a revisão humana dos dados utilizados e dos resultados propostos ao longo ao longo do seu ciclo de treinamento de desenvolvimento e de uso ou que gerem vinculação absoluta do usuário ao resultado proposto Outro ponto muito interessante que se essa inteligência artificial tá então ele tá vedando qualquer Inteligência Artificial que avali traços de personalidade características ou comportamentos de pessoas naturais ou de grupos de pessoas naturais para fim de avaliar o cometimento de crimes ou a probabilidade de reiteração delitiva lembra daquele exemplo lá do wiscon nos Estados Unidos onde eles utilizaram uma métrica para estabelecer de forma preditiva quão Reincidente pode se tornar o indivíduo ou não aqui justamente essa minuta estabelece que no caso do Brasil não se pode permitir esse tipo de conduta quando o juiz ao sentenciar o indivíduo ele deve observar o artigo 59 do Código Penal ele vai estabelecer a fixação da pena o artigo 59 do Código Penal estabelece o seguinte o juiz atendendo a culpabilidade aos antecedentes à conduta social personalidade do agente aos motivos às circunstâncias e consequências do crime bem como ao comportamento da vítima estabelecerá conforme seja necessário e suficiente para a reprovação e prevenção do crime as penas aplicáveis entre as cominadas a quantidade da pena o regime Inicial e o capt do 59 de certa forma já faz com que o juiz mas o juiz humano com a Sua percepção e de maneira motivada já Estabeleça a fixação da pena a minuta da resolução do CNJ estabelece de forma objetiva aqui no artigo s no séo B que é vedado ao poder judiciário estabelecer dentro do teu modelo de atuação qualquer ento ou traço de personalidade característica ou comportamento de pessoas naturais para fims de avaliar o cometimento de crime o 59 estabelece a fixação da pena pelo crime cometido na forma tentada ou consumada tentada ou consumada aqui ela di o seguinte olha não dá para fazer análise preditiva ou para quem assistiu aquele filme do se chama Minority Report vai entender muito bem o que eu tô dizendo ali naquele filme ele já mediante o algoritmo já chegavam na pessoa e dizem Olha você tem uma séria tendência a cometer crime Então você tá preso e é isso a resolução prevê que é vedado ao poder judiciário estabelece estabelecer esse tipo de Conduta estabelecendo então a preparação dos profissionais do direito para o uso ético e efetivo da Inteligência Artificial na Esfera do doos tribunais e para os operadores nós identificamos uma necessidade muito importante que é o desenvolvimento de novas habilidades profissionais o emprego de habilidades para uma nova era é fundamental porque o conhecimento técnico do operador do direito hoje vai além da aplicação simplesmente da Norma é um pós-positivismo tecnológico onde não apenas a norma hoje será aplicada como era aplicada outrora ou como um em algum tempo ela foi aplicada a necessidade a meu ver a meu sentir no conhecimento técnico de uma atualização jurídica ética e responsabilidade e como é que nós profissionais do direito devemos nos preparar participar de cursos de capacitação baixar um aplicativo da TV Justiça mais para ter acesso a Palma da sua mão de todos os conteúdos da TV Justiça participar em debates estabelecer parcerias com profissionais e a preparação pro uso ético da Inteligência Artificial é só o Começo porque se nós estamos em um momento nunca antes visto na história da tecnologia muita coisa está por vir e agora nós passaremos ao nosso Quiz [Música] qual é um dos principais desafios éticos da inteligência artificial no direito alternativa a melhoria da eficiência processual alternativa B garantia de privacidade e segurança dos dados alternativa c automação de tarefas administrativas alternativa d aumento da publicidade jurídica e a resposta correta é a alternativa B garantia de privacidade e segurança dos dados na medida em que nós nos comunicamos via rede sociais utilizamos os nossos dados para aprimorar os modelos de linguagem natural ou utilizamos as nossas informações privativas para alimentar qualquer banco de dados nós estamos sujeitos a que esses dados sejam tratados adequadamente com a inteligência artificial não é diferente ela precisa garantir que os dados pessoais e a nossa privacidade seja garantida conforme determina a lgpd e essa privacidade de dados ela vai além de disponibilizar basicamente os nossos dados como RG CPF endereço geolocalização elas devem preservar com que esses dados não cheguem a serem eh eh imputados ou comercializados ou chegarem a mãos erradas preservando assim a nossa dignidade e preservando os nossos direitos [Música] fundamentais O que é viés algorítmico alternativa a uma tendência das inteligências artificiais de serem imparciais alternativa B uma tendência das inteligências artificiais de serem neutras alternativa c uma tendência das inteligências artificiais a de refletirem preconceitos humanos alternativa d uma tendência das inteligências artificiais de serem infalíveis e a resposta correta é alternativa c uma tendência das inteligências artificiais refletir em preconceitos humanos o sistema de Justiça deve ser Imparcial a nossa atuação deve ser Imparcial sobre alinto já dizia que o advogado é o primeiro juiz da causa esse advogado deve ser Imparcial o juiz deve ser Imparcial o algorítmico também precisa ser Imparcial em qualquer decisão algoritma que nós estejamos manuseando se notarmos que ela adotou uma tendência específica a praticar qualquer ato discriminatório é dever da autoridade constituída imediatamente sustar o ato e refazer todo o caminho de verificação dessa informação pra correção desse viés porque tanto em decisões e prolatadas por humanos por juízes humanos por magistrados humanos em decisões prolatadas por inteligências artificiais deve sempre haver a imparcialidade e uma vez constatado esse viés essa tendência automaticamente Esse ato precisa ser sustado e revisto [Música] Qual é a necessidade mencionada na aula para lidar com os desafios da i no direito alternativa a redução do uso de tecnologia alternativa B regulamentação Clara e específica da Inteligência Artificial a alternativa c aumento de processos judiciais a alternativa d descentralização das decisões judiciais e a alternativa correta é a letra B regulamentação cla e específica da Inteligência Artificial o ato regulatório ou nosso sistema regulatório para ser eficiente ele precisa observar os fundamentos os princípios os conceitos a responsabilização e todos os atos decorrentes da do que aquele eh eh determinado sistema irá se incumbir de regular isso traz uma paz social se a lei é o acordo moral razoável a regulamentação em termos de eh legislação ordinária ou por meio de resolução como no caso do CNJ é um ato necessário para que a gente Estabeleça essas relações sociais e a identificação da responsabilização do que cada agente envolvido nesse processo deve se submeter uma regulamentação clara e objetiva é a segurança jurídica necessária para as nossas relações e E com isso nós encerramos mais um episódio do programa saber direito da TV Justiça Eu me chamo tu Silveira meu Instagram é @adv tulios Silveira vai lá se você ainda não me segue me siga no Instagram e se você ainda não baixou o aplicativo da TV Justiça mais vai lá faz isso agora eu te espero no próximo encontro Muito obrigado por você ter ficado conosco até aqui quer dar alguma sugestão de tema para os cursos do Saber Direito Então mande o e-mail pra gente sabero @ stf. jus. br você também pode estudar pela internet acesse o nosso site rádio tvjustiça pj.
bradesco@servicosfps. com.
