SIMPÓSIO INTELIGÊNCIA ARTIFICIAL NA SAÚDE - Rio de Janeiro, 05 de setembro de 2024 - [1ª Parte]

Boa tarde a todos é com muito prazer que a academia Nacional de medicina começa hoje à tarde uma discussão Aliás não começa continua hoje à tarde a discussão sobre inteligência artificial na saúde desafios legislativos e impactos no avanço tecnológico no Brasil esse simpósio foi organizado e coordenado pelos acadêmicos Geovan Guido cherre e Marcelo Morales que eu convido imediatamente para tomar assento à mesa Por favor eh nós hoje contamos com a ilustre presença do senador astronauta Marcos Pontes que eu também gostaria de chamar para a mesa por favor e comentar com os senhores que na terça-feira

em São Paulo O acadêmico Giovan Cherry deu eh iniciou a cátedra em Nova HC extremamente concorrida eh e que nós tivemos eh eu estive lá várias pessoas estiveram lá el estava cheia e tem uma enorme Repercussão e uma uma enorme importância para a saúde do povo brasileiro Então eu queria cumprimentar e parabenizar O acadêmico Giovan Cherry pela iniciativa vou comentar de novo sobre isso a na quando nós iniciarmos a sessão da 6 horas e agora eu queria dar início ao nosso simpósio com a coordenação do acadêmico Geovan por favor eh Boa tarde a todos queria

cumprimentar a nossa presidente Eliete pela e também Ao nosso Senador astronauta Marcos Pontes prazer tê-lo aqui e a Marcelo Morales que eh foi o grande idealizador desse debate sobre os desafios legislativos o impactos no avanç tecnológico no Brasil eh essa discussão sobre a questão da regulação da inteligência artificial é uma uma discussão de extrema importância pra saúde nós sabemos que a inteligência artificial ela vai impactar e já está impactando eh na na na cadeia da Saúde Eh muitos equipamentos hoje já tem já já já já incorporam o algoritmo Inteligência Artificial e eh muitos muitos nossos

hospitais já Inteligência Artificial de forma bastante Ampla eh eh e Enquanto isto ocorre na saúde eh também avança um projeto de que regulamenta a inteligência artificial no Brasil eh e e Sem dúvida esse projeto pode impactar muito eh no no uso na no Grau né Eh de da utilização e principalmente eh nas pesquisas Relacionadas com inteligência artif social né Eh nós precisamos eh criar né Eh no Brasil uma eh um toda toda uma uma infraestrutura que permita né que nós possamos desenvolver nossos algoritmos que sejam adequados à nossa realidade populacional e e também eh que

possam eh eh reduzir né o impacto da tecnologia na saúde e nós temos competência para isso hoje nós temos eh eh vários centros que eh trabalham e Estudam Inteligência Artificial que tem competência para desenvolver toda uma indústria eh de algoritmos e inteligência artificial na saúde também em outras áreas eh por isso eu queria também pedir eh presidente que o Marcelo Morales também fizesse os comentários agora nessa nesse início de sessão Marcelo obrigado boa tarde a todos eh senora Presidente acadêmico Geovani terre Senador astronauta vos Pontes senhoras Acadêmicas acadêmicos bom a ideia como o Giovan muito

bem colocou é que nós discutamos aqui o marco regulatório que tá sendo discutido no Congresso Nacional eh do projeto de lei 2338 de 2023 que regulamenta a inteligência artificial em nosso país essa discussão é extremamente importante ela tem impactos ah significativos pro desenvolvimento científico tecnológico do Brasil também na sua aplicação na saúde e também no Desenvolvimento da Inovação então é um projeto que foi colocado a partir uma discussão de um comitê de juristas eh e quem fe é o autor dessa desse projeto de lei é o senador Pacheco mas esse projeto depois que veio dessa

comissão de juristas ficou bastante complicado eu diria é a palavra porque impede o desenvolvimento tecnológico e científico nacional e várias aplicações com várias distorções eu diria eh e e com por causa desse Impacto eh o senador astronauta Marcos Pontes junto com outros senadores discutiram na na comissão de ciência e tecnologia a importância de se fazer vários debates em relação a esse projeto que culminou na comissão eh especial né temporária de Inteligência Artificial a partir da comissão de ciência e tecnologia que tem debatido esse projeto e modificado esse projeto eh inclusive o senador colocou um projeto

substitutivo e vai ser Discutido aqui então a ideia é trazer a academia a discussão desse importante projeto de lei que tem impacto na saúde e no desenvolvimento científico tecnológico brasileiro obrigado senhora Presidente eu gostaria só de acrescentar que esse que esse tema é extremamente importante inovação porque nós estamos relativamente bem sobre o ponto de vista de produção científica mas estamos muito mal e continuamos muito mal no quesito inovação É eu acho que essa eh nós eh eh eu vejo que é extremamente importante pro pro país eh e paraa saúde eh nós desenvolvemos uma cultura de

inovação e empreendedorismo eh nós precisamos que essas novas gerações já eh desde a faculdade Já incorporem a necessidade de se envolverem com inovação empreendedorismo eh para poder criar uma riqueza nacional né para poder criar produtos paraa saúde que sejam adequados à nossa realidade eh como nós Vimos durante a pandemia a saúde É extremamente dependente eh de de importação n e e muitas coisas são importadas deveriam ser produzidas no Brasil hoje se fala muito da reativação do complexo industrial da Saúde mas as medidas têm que ser efetivas e eu vejo que sim a reativação do complexo

unival de saúde é importante mas mais importante ainda é criar cultura cultura de inovação olhando o futuro né fazer com que cada vez mais possamos ser menos Dependente eh somente da importação de tecnologias eh Podemos seguir então eh eu queria convidar o professor Juliano de Alburquerque Maranhão da Faculdade de Direito da USP para proferir a primeira palestra que é que está relacionado com aspectos jurídicos gerais do projeto de lei que regulamenta a inteligência artificial no Brasil PL 2338 de 2023 Juliano por favor eh Boa tarde a todos primeiro eu Gostaria de agradecer pelo convite e

registrar que para mim é uma honra abrir os trabalhos de discussão desse tema tão importante na Academia Brasileira de medicina meu pai era médico cirurgião pediatra eu tenho profunda admiração pelos médicos ou pela medicina em geral como ciência e também como prática né H que pelo que eu testemunhei do meu pai é uma prática de ah extrema doação e humanitarismo bom eu vou dar um Panorama daqueles que São os pontos centrais da regulação de tal forma que todos nós possamos refletir e debater eh sobre ele indicando já alguns problemas e pontos críticos que já foram

aqui ã inclusive apontados né então qual é a abordagem regulatória do do projeto de lei 2338 é uma abordagem muito semelhante o seu nascedouro tá eh enraizado no aia europeu que é a regulação europeia né e ah procurei organizar eh em torno de Quatro perguntas centrais como é essa abordagem né então Primeiro para que regular a regulação ela tem por eh objetivo proteger Qual o bem que se busca proteger com essa regulação São Direitos Humanos que podem ser impactados pela Inteligência Artificial né e podem ser impactados em função de riscos que a inteligência artificial eh

pode trazer em relação H aos cidadãos que tão ligados ao risco De erro que pode trazer impactos em particular em medicina graves naé vida saúde a o o risco de discriminação que pode ser incorporado em Sistemas de Inteligência Artificial opacidade ou falta de Transparência que pode afetar o exercício de direitos né quando os sistemas automatizados impactam direitos individuais e a privacidade tendo em vista que o processamento de dados pode trazer inferências sobre a identidades individuais então o objetivo é proteger Esses direitos e qual é o instrumento utilizado por essas legislações para proteção desses direitos o

instrumento é a previsão de medidas de governança e obrigações quanto a medidas de Gestão de Risco por organizações de todos os setores que desenvolvam sistemas de Inteligência Artificial ou que apliquem sistemas de Inteligência Artificial né e a ideia é adotar essas melhores práticas de governança quanto a esses riscos Mas como eu utilizo Esse instrumento a Solução apontada em diferentes legislações no eia no PL no PL 2338 é uma a chamada abordagem baseada em riscos Ou seja a a legislação traz como instrumento obrigações de governança mas essas obrigações de governança variam conforme o risco associado a

inteligência ao tipo de Inteligência Artificial né existem a a sistemas que são considerados de risco a inadmissível Esses são proibidos né Eh existem sistemas eh de Inteligência Artificial que são de alto risco aqueles ligados à aplicação no setor médico em grande parte pela legislação essa é uma questão também são ligados a sistemas de Inteligência Artificial de são considerados ou classificados como de alto risco e aqueles que não são de alto risco então sistemas que não são eh classificados como de alto risco estão sujeitos a determinadas obrigações de governança né H agora os de alto risco

são sujeitos a obrigações mais amplas a Mais obrigações e mais aprofundadas de governança para Gestão de Risco Então é assim que a lei tá estruturada né E quem aplica uma autoridade Central Nacional de Inteligência Artificial faz a fiscalização para verificar se as organizações implementam ou não aquelas medidas de gestão de riscos Essa é estrutura da Lei Ah mas existe então o se a ideia é comprometer as organizações com as melhores práticas de gestão de riscos e Quais são essas melhores práticas em geral há um certo consenso sobre Quais são as medidas né Por exemplo fazer

uma análise de impacto dos riscos do sistema realizar uma uma documentação do desenvolvimento eh do do sof o monitoramento da operação do software uma gestão de dados de modo a não violar privacidade e evitar discriminações né na na na representação da população eh que é objeto do domínio de aplicação dos sistemas dear ter transparência quanto Ao uso e quanto à explicação dos resultados medidas de cibersegurança e testes de validação e confiabilidade dos resultados Essas são as medidas em geral há um certo consenso até de de forma transversal que essas são medidas adequadas de gestão o

problema tá em especificar como implementar essas medidas para cada setor de atividade né O que que significa trazer explicação sobre resultados em Sistemas de a que são aplicados aos tribunais e o que que Significa trazer a explicação dos resultados com a eh Equipamentos Médicos que incorporam o ia em terapias ou então o uso de a para eh diagnóstico médico eu tenho respostas distintas para isso então existe aqui no ajuste no conteúdo da Lei seja da Lei europeia da lei brasileira da legislação americana Ah todas giram em torno eh eh desses dois eixos aqui né primeiro

em que medida eu especifico as regras de modo transversal Válido para todos os setores ou eu uso Regras mais Gerais e deixo paraa regulação setorial na área de Medicina na área do direito na área né Eh da aviação estabelecer Quais são as especificações das medidas de governança então Eh existe um equilíbrio se eu vou ser mais detalhado de forma transversal ou se eu deixo detalhamento paraa área setorial né a Europa fez uma opção de ter mais detalhamento de modo transversal nos no a regulação norte-americana tem diretrizes Principiológicas nível Federal e as agências reguladoras é que

especificam então o eh o fda a Sec estabelecem regras específicas pro setor financeiro pro setor de saúde etc h a Europa outro eixo é o que que eu deixo para uma regulação externa pelo Estado e o que que eu deixo para autorregulação das entidades das associações nos diferentes setores né privadas a os Estados Unidos Por exemplo tem uma Regulação externa da das agências reguladoras na Europa você tem Ah um pouco não é que tá errado aqui tá eh eu escorreguei um pouco para baixo a bandeira aqui da comissão europeia porque eles assumem um pouco de

autorregulação ao prever a possibilidade de códigos de condutas setoriais e prevê mecanismos setoriais também de certificação de sistemas de a mas boa parte das regras e obrigações de governança estão definidas de com certo Detalhamento eh inclusive maior do que o o o a regulação brasileira eh eh de modo transversal e no Brasil como é que é a nossa solução B no Brasil ainda é um processo legislativo né ah a regulação que veio da Câmara dos Deputados ela era principiológica e deixava eh para a regulação setorial né Eh já o projeto de lei que é o

2338 resultando da da do trabalho da comissão de juristas eu fiz parte mas também não respondo por todo o conteúdo eram 18 eh Juristas hã já é algo mais próximo da regulação europeia portanto regras transversais para uma regulação externa depois a gente teve a fase a proposta do do ilustre Senador ehos Pontes que tá aqui a que é uma proposta buscava dar mais equilíbrio em termos de princípios mais Gerais Isso foi para um debate na comissão temporária eh do Senado e a comissão temporária do Senado e aí como é típico do debate legislativo Foi incorporando

diferentes visões então Eh foi reforçado o lado setorial com atribuição de competências à agências reguladoras foi também reforçado o campo da autorregulação com uma previsão da autorregulação regulada previsão de programas de certificação e também então um capítulo só sobre autorregulação a previsão sobre certificação de tal modo que se reforçou o aspecto setorial e o aspecto de Regulação interna aqui o debate legislativo importante saber que a gente tá agora para no momento de votação né do prestes a uma votação no senado dos trabalhos da comissão temporária de a eh que já eh publicou três textos né

a eh eh e e o que eu abordei aqui nesse slide é o texto final da da comissão temporária eh quando vai a julgamento ainda não se sabe vem sendo prorrogado né em função dos esforços no sentido de Promover mais debate né né Eh eh existe uma diferença em relação ao do da o projeto de lei brasileiro e o europeu que nos que chama atenção e nós devemos tomar cuidado então o projeto brasileiro além da previsão de medidas de governança como obrigações perante a autoridade de Inteligência Artificial né então a as organizações se obrigam às

medidas de governança perante a autoridade Mas além disso que é modelo europeu o projeto de lei brasileiro tem Um capítulo sobre direitos e prevê uma série de direitos de uma forma relativamente detalhada de explicação ou de uma série de medidas de governança que estão traduzidas numa linguagem como direito dos cidadãos ou pessoas afetadas perante as organizações Qual a consequência disso você atrai o judiciário como aplicador da lei né porque além de uma uma não obedi da obrigação de medidas de governança e perante a autoridade eu posso com isso Violar um direito individual e alguém pode

acionar o juízo né uma a justiça para fazer valer um direito por exemplo a explicação do resultado de um sistema de Inteligência Artificial Ah isso pode ser um problema vou abordar eh isso ao final ah já falei da incorporação eh dos aspectos setoriais incorporação de mecanismos de autorregulação e também a a lei brasileira traz a algumas previsões interessantes sobre eh diretrizes para Investimento e e diretrizes para sustentabilidade ambiental e impactos sociais sobre o trabalho ali não tem obrigações mas diretrizes e programas em relação a isso mas deixa eu voltar sobre eh para os problemas para

reflexão aqui né uma delas é a previsão de direitos que pode levar à judicialização a outra é uma possível potencial insegurança jurídica isso pode afetar o investimento E também o desenvolvimento de pesquisa insegurança Jurídica pode ser um problema é um problema grave para inovação e para investimento onde tá isso a previsão de direitos também porque você atrai o judiciário junto a uma autoridade Você pode ter discrepâncias no na na definição e nos julgamentos sobre como implementar as medidas de governança ou não ah o conceito de pessoas afetadas é muito amplo potencialmente quem são as pessoas

afetadas que têm direitos a Reclamar por exemplo de um hospital a explicação sobre um resultado de um sistema de Inteligência Artificial o paciente todos os cidadãos quem é afetado né é quem sofreu um ano não tá claro isso o judiciário pode interpretar de uma forma a autoridade de A tá prevista pode interpretar de outra em segurança jurídica e outra é a transversalidade e abstração das medidas de governança as medidas de governança que estão Previstas a na legislação brasileira elas são bastante genéricas né E se o judiciário começar a interpretar e aplicar Isso vai ser um

problema por exemplo setor de medicina Imagina os juízes determinando como sim implementa a documentação de um software aplicado ou incorporado num equipamento médico né Além disso eh eu tenho então a e também a regulação a normatização pode então trazer dúvidas sobre como implementar como implementar por setor e Eu vou dar só um exemplo de uma dificuldade que pode aparecer aqui é o o tem uma uma Report sobre o uso de ia para com eh para detecção e diagnóstico de câncer de pele em que a a existem aplicações com uma acurácia bastante elevada nesse diagnóstico né

agora existe a obrigação de explicação que tá como uma das medidas de governança a deve haver medidas para Propiciar a explicação dos resultados casos por exemplo nesse caso do diagnóstico de câncer e além disso na lei brasileira existe um direito da pessoa afetada em receber a explicação sobre como o resultado é alcançado mas como gerar uma explicação de um sistema como esse ele tem acurácia a imagem é quebrada em Milhões de pixels que são invisíveis ao olho humano como eu explico não tem uma explicação causal Mas existe uma detecção o desse padrão com uma curaça

elevada para o usar eu tenho que garantir que eu consigo explicar Ô mas eu não posso garantir isso ainda mais perante um cidadão perante o paciente lei como eu explico então deixo de usar e deixo de ter o benefício de uma curá muito superior inclusive ao ao profissional de medicina Ah aqui outro exemplo de retinopatia Mas aqui é um é até um paralelo interessante Ah esse é um artigo também publicado na Na na academia de de medicina internacional de medicina sobre o treinamento de pombos para detectar em imagens eh eh a o diagnóstico de câncer

né no no pulmão e pelas imagens os combos cons T que tem determinadas propriedades capazes de detectar padrões eles têm uma acurácia significativa até superior Às vezes a a a a profissionais de medicina por uma propriedade de detecção de padrões de visão dos pombos que levam Esse resultado como explicar como os pombos chegam a esse resultado não tem como mas vamos supor que esse alcança uma curá tal eu vou eu deixo de usar né é a mesma situação em certos momentos na em aplicações médicas você não vai conseguir eh eh trazer a a explicação que

é demandada pela legislação por a legis nação brasileira se baseou no parâmetro de explicação de credit scoring e no setor bancário para conceder eh empréstimo Você tem o score De crédito Então quais são os parâmetros bom se eu posso ser afetado uma decisão que me tira o direito a um empréstimo eu preciso saber quais foram os dados utilizados Qual o modelo utilizado como ele chega a essa decisão E como eu posso contestar essa decisão trazendo mais informações sobre eh que sejam relevante sobre a minha pessoa para ter revisado essa decisão não dá para aplicar esse

parâmetro no campo da Medicina né então Eh Imagina eu oferecer essa Explicação para um diagnóstico de câncer baseado em imagens aqui aparece um exemplo do problema que foi apontado inicialmente na abertura da mesa né então como solucionar isso bom tem alguns caminhos um o engajamento das associações no debate legislativo é um é um processo democrático tá aberto inclusive o senador aqui abriu oportunidades fez esse esforço de abrir mais oportunidades para debate agora a gente chegou no senado num ponto de Maturidade que talvez seja mais difícil eh eh conseguir alterações ao texto Qual é outra saída

as associações de medicina elas podem se antecipar com iniciativas de autorregulação né Por quê que esse é um caminho porque as previsões apesar de tá lá previsto dever de explicação eh com a explicação sobre os dados etc sobre o modelo não tá definido como isso vai ser implementado então se o setor de medicina se antecipar e definir códigos De Conduta que interpretem o que significa explicação de dados O que que significa fica explicação do modelo O que que significa explicação do output ou de um resultado de um software de a aplicado à Medicina eh vocês

podem evitar ou mitigar o problema de insegurança jurídica porque a invés do regulador externo ou de um juiz determinar Como deve ser a documentação Como deve ser a explicação é o especialista Eh que desenvolve a o especialista no domínio de aplicação medicina e que também eh junto com eh especialistas que estão desenvolvendo a tecnologia de a aplicada ao setor de saúde é que podem especificar com mais competência qual que é esse caminho então a autorregulação tem um papel muito importante né Eh no preenchimento desse espaço de vagueza que tá na entre a linguagem da Lei

e a prática médica e a prática do uso de tecnologia ninguém em Melhor posição do que as próprias associações médicas e as entidades médicas para estabelecer essas definições então além de contribuir com o processo legislativo também não dá para ficar dando murro em ponta de faca o tempo todo vocês podem se organizar e promover a autorregulação então só para terminar eh existe eh na logaritm que é uma associação criada sem fres lucrativos criadas por Professores da USP de engenharia computação direito eu inclusive eh dentro do log ritm a gente criou o Fórum Brasileiro de inteligência

artificial responsável que discute parâmetros de governança em diferentes setores né E existe um núcleo específico de saúde que a a academia eh eh Brasileira de medicina participa abramed participa eh a anap participa eh Então nesse núcleo e todos aqui estão convidados a participar uma das ideias é Justamente começar a pensar como pode ser os seus códigos de Conduta como esses parâmetros de governança podem ser implementados de uma tal forma a fomentar a a fazer com que o setor se antecipe e defina as próprias medidas de governança se eu tenho isso já bem definido as autoridades

externas vão primeiro consultar as entidades especializadas sobre como implementar e não estabelecer de forma externa e com possíveis Prejuízos à inovação e ao desenvolvimento quais seriam essas regras obrigado muito obrigado Professor Juliano eh gostaria pedir que se sentasse à mesa por favor e agora em seguida nós vamos ouvir eh O Professor Fernando José Ribeiro ses da Universidade Federal de Pernambuco eh sobre impactos da regulamentação que afetam a pesquisa e a Inovação em Saúde Professor Fernando Boa tarde a todos e a todas vocês me ouvem bem sim ouvimos bem muito obrigado Fernando pela sua presença Boa

tarde professor Giovani em seu nome e da da presidente acadêmica Eliete cumprimento a todos os presentes e Agradeço pelo convite de est participando desse momento aqui deixa eu só compartilhar aqui um segundo Vocês conseguem ver minha tela vocês estão vendo minha tela tá ok Estamos vendo sim muito bem tá perfeito tá então eh o Juliano já fez um uma breve introdução muito deu essa visão Geral do processo legislativo de como nós estamos hoje nesse momento e a ideia é trazer aqui alguns Alguns dos impactos que a gente consegue identificar seja tanto na pesquisa em saúde

como na inovação tá eu sou Fernando eu sou engenheiro tá de Formação eletrônico lá pelo Ita eu sou Doutor em cardiologia pela Faculdade de Medicina da USP Atualmente Eu sou professor do curs Deia biomédica da Universidade Federal de Pernambuco e sou pesquisador lá no núcleo de gão do porto digital e secretário executivo da sociedade de brasileira de engenheiria biomédica eu gostaria de sair presencialmente mas nesse momento tá acontecendo o congresso Brasília de engenheiria biomédica do qual faz parte da diretoria e eu não pude sair daqui de Ribeirão Preto para estar aí com vocês o o

projeto de lei do Qual nós estamos tratando né O que é o 2338 ele tem aí esse esse o Juliano já deu essa geral mas teve essa proposição vários pareceres ó mais de 145 mais de 140 emendas requerimentos né e antes de falar dessa questão diretamente do impacto dos riscos eu queria trazer um pouco de contexto para talvez tangibilizar e ficar mais fácil a partir de de dois exemplos como nós podemos ter impactos dessa regulamentação da EA que tá sendo proposta na pesquisa e na Inovação em saúde né Nós temos visto a mudança de comportamento

que a inteligência artificial e as ferramentas baseadas em inteligência artificial trazia das nossas vidas nos últimos anos especialmente nesses nesses últimos nesse último ano com a o advento aí da das Ferramentas de i a generativa no nosso cotidiano chat PT geminii e outras né eh e aí como toda boa pesquisa né a gente tem que partir de uma boa pergunta Né como a gente pode pensar como as ferramentas de ar poderão impactar Os desafios da saúde que vão impactar seja tanto na pesquisa como na inovação né isso desde lá de Platão a gente já tinha

lá que a necessidade é a mãe da invenção Então vou pegar aqui Um dos problemas que a gente vê aí que vem acometendo a população brasileira né Se a gente for olhar para questão de mortalidade as neoplasias são a segunda maior causa de morte no Brasil e elas VM num Crescimento aqui aumentando todo ano aumentando mais do que forma linear né E quando a gente olha para outra ponta nós fomos olhar para o registro de médicos no Brasil nós temos aí esse é um estudo da ambb sobre a demografia médica no Brasil nós temos aí

em torno de 4.000 patologistas né a gente vê a segundo um levantamento do cfm né a gente vê o número de médicos crescendo mas a a vaga as vagas nos programas de residência não crescem na Mesma proporção e a patologia não não tem conseguido atrair vamos dizer assim o interesse de pessoas na proporção como a gente vê outras áreas crescendo né iso é uma coisa que nos preocupa bastante porque eh a patologia tem um um papel fundamental ali na na questão da Oncologia né no INS patológico e quando nós vamos olhar nesse estudo da da

MB os motivos de escolha da especialidade entre os médicos residentes né interesse pessoal principal causa de escolha Relacionamento com médicos da especialidade prestígio de instituição oportunidade de trabalho e a a última razão de escolha que menos importa é a dificuldade de ingresso né E aí vem vem a questão como é que vai ser o futuro da Oncologia como é que vai ser o nosso futuro da nossa saúde futuros pacientes oncológicos sem a patologia né E aí a gente tem que quando a gente fala de inovação das definições que tem que eu mais gosto é de

inovação como Mudança de Comportamento dos agentes a gente vai precisar mudar o comportamento de escolha dos patologistas Mas será que ser patologista no futuro ou no presente vai ser o que era ser patologista há 10 20 anos atrás de ficar a maior parte do tempo ligada a jornada ali no laboratório à frente a microscópio nós temos visto vários avanços na área de Patologia computacional no qual a inteligência artificial tem tem trazido Uma série de benefícios né então o próprio Juliano colocou um exemplo na apresentação dele né onde nós começamos a ver uma série de modelos

que vem aí na na onda do impacto que nós tivemos da ia na patologia na na a Radiologia também trazendo impacto na Patologia e e ressignificando o papel do patologista nesse potencial e junto com ferramentas de telesaúde podendo ampliar ainda mais o impacto desses patologistas né E quando a gente pensa na saúde do Brasil Emno de 75% da população é exclusiva dos tem acesso ao suis 25% da população tem acesso à saúde suplementar e qual é a principal queixa de quem é por exemplo 100% SUS né a gente vê duas queixas que aparecem bastante acesso

e produtividade e nesses dois grandes desafios nós conseguimos ver usando o que a gente vê hoje em dia na pesquisa e na inovação como a inteligência artificial e ferramentas baseadas com inteligência artificial e com advento da Telessaúde Ainda mais com avanço da Saúde digital a gente tem conseguido promover uma melhoria no acesso e tentar melhorar a resolutividade né só para falar um pouquinho na inteligência artificial é um termo antigo de 1950 que que remete aos sistemas que de alguma forma eh tem um comportamento parecido com do ser humano né aí dentro da grande área da

ia tem a área de aprendizagem de máquina então nós desenvolvemos sistemas que conseguem aprender a partir de dados e Nos últimos 10 anos a gente teve um grande avanço nessa grande área que foi a a parte que foi chamada de Deep learning quando a gente tem redes neurais de várias camadas e que você consegue aprender bastante a par dos dados tem modelos que tem uma capacidade tanto de aprender mas também de de de tomar decisões generalizar inclusive melhorando o processo de de sação de atributos nas nas técnicas mais clássicas da década anterior de Aprendizagem de

máquina um dos grandes trabalhos dos dos Engenheiros e dos cientistas de dados era separar quais eram os melhores atributos para o processo de classificação hoje com as arquiteturas que nós temos os o sistema tem uma capacidade de aprender a partir dos dados e generalizar e tomar decisões Mas qual o impacto disso né Eh como o Juliano bem colocou e e como bem o o projeto de lei descreve uma das grandes questões na tomada de decisão é entender Como o modelo me leva a recomendar as decisões então a questão da explicabilidade e a gente tem uma

série de métodos para fazer com que o sistema aprenda a partir dos dados mas nós não temos ferramentas que permitam que um que um sistema de a desaprenda ou retire um comportamento que ele aprendeu a partir de de dados então na na redação da Lei vou pegar alguns pontos aqui que eu queria que os senhores e senhoras pensassem um pouco a respeito como Juliano falou ela fala muito dos riscos riscos direitos e um dos artigos que tava lá por exemplo ele dizia que o Artigo 14 do jeito que tava lá coloca são vedadas a implementação

e o uso de sistemas de intelig cência artificial que ali no inciso terceiro pelo poder público para classificar avaliar ranquear pessoas naturais Com base no seu comportamento social em atributos da sua personalidade para acesso de bens a serviços políticas públicas então por Exemplo se a gente pensa em se eu quiser aplicar eh critérios para priorizar o acesso ou priorizar o tratamento ou no futuro tentar identificar Quais são os pacientes que TM maior eh necessidade ou até que estão em maior risco né então do jeito que tá lá hoje essa essa dá uma interpretação pode ser

complicada Então aqui tem como o Juliano Falou vou até pular os sistemas de uso da Saúde eles são considerados de alto risco des saída inclusive os de educação e formação Profissional em todas as áreas nós vamos precisar ter um processo de letramento digital e e usando inteligência artificial para maximizar o impacto Mas também de form mais esses profissionais para usarem da melhor forma da forma mais ética da forma mais correta a inteligência artificial no processo a inteligência artificial e as ferramentas que usa a inteligência artificial como ferramenta não substituindo o profissional Mas eh potencializando e

Alavancando ainda mais o impacto que nós podemos fazer por exemplo em vários eh tem vários estudos que mostram Na década passada que uma das causas de Burnout em profissionais saúde tava relacionada com a jornada no prontuário eletrônico muitas vezes o paciente o o profissional tinha que gastar um tempo para fazer o registro eletrônico do atendimento da Ordem da grandeza do atendimento num atendimento de de 10 a 15 minutos Às vezes o profissional Gastava de em torno de três c às vezes até um pouco mais preenchendo os formulários Hoje em Dia com ferramentas de ag generativa

você já tem aí aplicações sendo desenvolvidas que através de um texto livre ou até de uma versão de voz para texto você consegue estruturar aquele texto e fazer a classificação preencher estruturar aquele texto atribuir Seeds e isso traz um ganho de produtividade muito grande na jornada do profissional de saúde né E Quando a gente olha por exemplo as medidas de governança como Juliano falou medir essa questão do do impacto do do algoritmo nos sistemas do jeito que tá lá tá muito genérico né e Isso pode atrapalhar ainda mais o desenvolvimento e amadurecimento dessas questões Tem

uma parte que por outro lado que ela é muito interessante que é de medidas que que visam fomentar a Inovação e está previsto em lei a criação de sandbox regulatórios ambientes de experimentação Regulados e a gente sabe que pra saúde eh a gente precisa de regulação Federal então a gente pensa lá tem Anvisa e e hoje software tá como dispositivo médico já são regulados pela Anvisa né fora outras questões de regulamentação então a regulamentação do jeito que tá atribui muito poder para uma para uma autoridade que vai tomar decisões mas que de certa forma podem

entrar em searas do cfm pode entrar em searas de danva e de outras entidades federais né então isso pode Trazer muito risco de confronto entre legislações regulamentações de setores né tem um um nesse processo o o TCU Tribunal de Contas da União fez um um um relatório trazendo os principais riscos da regulamentação da ia no Brasil de forma geral tem alguns que eu queria destacar aqui a dependência da importação tecnologia porque se essa regulamentação do jeito que que tiver travar o desenvolvimento das pesquisas Nós podemos ficar reféns de ter que usar se se for possível

ferramentas de fora né a gente pode criar Barreiras paraas nossas startups empresas de menor porte podemos perder competitividade eh podemos ter dificuldade de reter profissionais de a no Brasil tá certo podemos ter problemas que vão impedir aí o desenvolvimento de de novas questões né então eu queria que a gente pensasse muito a respeito do que foi proposto né como o Juliano falou e como a Regulamentação fala ela começa trazendo direitos e ela avalia muito a questão do Risco e que é importante nós pensarmos em risco em gerenciamento de risco e todo gerenciamento de risco ele

geralmente se baseia na probabilidade do evento e No Impacto que aquele evento pode ter né por outro lado a gente tem uma série de desafios no Brasil especialmente na saúde em que nós precisamos de ferramentas de tecnologias para Potencializar o impacto que nós temos nós temos um Brasil que tem um sistema único de saúde com premissas muito muito bonitas em Essência mas com um desafio de implementação e de e de realização muito difícil nenhum país no mundo com mais de 100 milhões de habitantes e com dimensões como as nossas escolheu para si um desafio de

um sistema único de saúde gratuito integral Universal e com as premissas que nós temos então nós temos que pensar também em como é que Nós vamos ponderar os benefícios que a ia pode trazer e e de como usar o nosso ambiente de saúde para gerar impacto paraa nossa população e até para questões de saúde do mundo inteiro nós temos uma população muito rica do ponto de vista de saúde então tem a questão de discutir responsabilidades direitos e garantias mas também a questão de responsabilização né E aí eu deixo a pergunta como que a poderá impactar

Os desafios da saúde né do jeito que tá Hoje como o Juliano colocou e eu tinha colocado aqui será que ela não vai trazer mais judicialização nós já vemos o impacto da judicialização na saúde em que muitos casos ela é necessária mas em muitos casos ela também acaba trazendo potenciais problemas né E aí a pergunta que eu deixo para vossas excelências é o que que nós queremos com essa regulamentação da EA eu gostaria de lembrar que que que vossas excelência são autoridades que que fazem parte Desse eleto grupo do do do grupo mais nobre da

da da medicina brasileira mas todos vocês e vossas excelências como todos nós somos pacientes o que que nós queremos Tá certo muito obrigado muito obrigado eh Fernando ses pela sua interessante apresentação acho que essa é a preocupação de todos nós exatamente eh não prejudicar né o desenvolvimento eh da pesquisa da Inovação eh na área de Inteligência Artificial e o que que eh acabaria tendo como consequência prejudicar os nossos pacientes né então acho que é só uma reflexão de eh até onde essa regulação eh pode levar eh a a a um real benefício pro pros pacientes

em particular na área da saúde eu queria pedir pro acadêmico Marcelo Morales introduzir nosso Senador é com muita honra que nós vamos ter agora a conferência do nosso Senador astronauta Marcos Pontes e tem feito um trabalho significativo Como eu disse Durante as discussões do projeto Inicial na comissão de ciência e tecnologia e as suas ações levaram a a a instalação da comissão temporária de inteligência artificial para que esse esse projeto fosse melhor eh discutido então tenho a honra de anunciar então a a palestra do senador asonal Marcos Pontes que vai falar sobre o seu projeto

substitutivo OK boa tarde boa tarde a todos mais gostaria de cumprimentar cumprimentar nosso Presidente ele é buela eh também a todos os acadêmicos presentes a todos que nos acompanham agradecer pelo convite e esse é um tema muito atual e muito importante pro Brasil como um todo por vários aspectos primiro já foi falado aqui pelo meu eh pelo Fernando Fernando José Ribeiro Sales né que também meu companheiro do Ita itano também além de médico e sobre o desenvolvimento primeira a primeira pergunta eu vou explicar daqui A pouco por que eu começo assim eh sobre o que

que é na verdade Inteligência Artificial e o que que ela pode o que que ela não pode fazer como foi colocado pelo Fernando né A Evolução Desde da dos anos 50 da da inteligência artificial no começo com todas as dificuldades queria se estabelecer uma máquina vamos dizer que eh simulasse os as nossas capacidades mentais cerebrais mas obviamente não era possível na época nem por software nem Por pelo equipamento pelo conhecimento de materiais ou mesmo das tecnologias necessárias isso se desenvolveu lentamente como toda tecnologia o início dela é mais demorado depois ela cresce em forma exponencial

então inicialmente eh com toda dificuldade começaram se os primeiros os primeiros estudos com eh mecanismos algoritmos de de busca assim que os computadores foram capazes de fazer isso e o desenvolvimento desses algoritmos né o primeiro foi no no Software eh com o crescimento do Hardware també da capacidade de hardware esses algoritmos começaram a ter mais corpo a aprendizado de máquina desde as coisas mais simples que a gente trabalha hoje em dia já trabalhava muito tempo com matemática com regressão regressão linear eh quadrático exponencial e vários tipos com dados eh marcados né vamos dizer assim rotulados

e depois o desenvolvimento des de outros padrões em aprendizado de máquina convergindo pro Chamado aprendizado eh Deep learning né Di assim profundo eh com as redes neurais e isso logicamente para a interpretação de imagem texto generativa tudo isso aí utiliza essas novas tecnologias agora eh o nos últimos anos isso teve um salto muito grande não só pelo desenvolvimento dessas técnicas mas também pelo desenvolvimento do Hardware necessário t em termos de velocidade de computação como capacidade de memória e a velocidade de transferência de dados Da memória eh pro para processamento excelente só que muita gente fala

em Inteligência Artificial imagina que vai vir um Exterminador do Futuro entrando pela porta e dando um monte de tiro um monte de gente como se aquilo fosse possível o cinema traz uma série uma interpretação bastante errônea da capacidade Inteligência Artificial não tem essa capacidade ainda a gente ainda tá trabalhando com a inteligência artificial focada em alguns assuntos não Chegamos no ponto da Inteligência Artificial geral né O que vai de fato eh trazer uma série de vantagens mas até lá tem um tempo muito grande além disso os sistemas atuais nós trabalhamos eles são basicamente centrados em

um sistema eh Central em que nós conectamos através da internet né E nós usamos aquele banco de dados usamos aquele aquelas respostas ali inclusive eh colocadas dentro de alguns programas escritos em Python em outras linguagens que utilizam né Essas Interfaces para poder tomar decisões no meio do programa mas esse é o ponto que a gente tá ainda eh o futuro ainda reserva muitas coisas como a computação quântica com o desenvolvimento maior ainda das velocidades né de de computação e também depois a fragmentação desses sistemas centrais em Sistemas Independentes como o nosso cérebro a gente não

se conecta um com o outro né até onde a gente conhece não se conecta um com o outro para tomar Decisões eh mentalmente e então o desenvolvimento desses sistemas fragment dados Aí sim vai tornar tudo isso extremamente complexo do ponto de vista de regulação que a gente vai chegar daqui a pouco aqui mas o fato é que esse desconhecimento eh do sistema e a evolução muito rápida da Inteligência Artificial traz desafios sem precedentes na Quando você pretende regular Não a tecnologia mas a utilização daquela tecnologia porque regular tecnologia é Basicamente impossível isso não seria eh

lógico de se fazer mas regular a utilização dessa Inteligência Artificial muitas aplicações são possíveis necessárias e no dia a dia a gente já usa inteligência artificial para muita coisa inclusive o setor da saúde é importante ressaltar isso que o ganho que a gente tem com a utilização de inteligência artificial é enorme e uma das falas que eu trouxe dos Estados Unidos em uma das minhas viagens lá para Analisar a regulação que o o toda a legislação que eles têm trabalhado por lá é o seguinte é muito mais arriscado não usar a inteligência artificial do que

usar a inteligência artificial é bom ter isso aí em mente a não utilização da Inteligência Artificial nos restringe de uma forma enorme em termos de desenvolvimento de novas ferramentas novos conhecimentos que ela permite uma velocidade extremamente grande de leitura por exemplo de todos os dados A Análise desses dados para chegar a certas conclusões no campo da ciência ou mesmo a utilização direta na análise de número muito grande de Diagnósticos para testes né para que seja feito o diagnóstico com a precisão muito grande eh e com a velocidade mesmo mesmo em locais distantes como no meio

da Amazônia eh enviando imagens de exames que podem ser através da nuvem pode ser analisados e a gente pode salvar muita gente Através disso aí eh com a Utilização disso ferramentas que podem ajudar eh o médico no dia a dia né fazendo análise por frações de segundos nos exames dos pacientes acompanhando o desenvolvimento e avisando quando um paciente X ou Y começa a desenvolver certos aspectos ensinados a esse sistema né para que ele alerte o médico repare que tudo isso que eu tô falando são utilizações que o médico ou o profissional ele tem a palavra

final a ação é do ser humano a informação vem da Máquina com ação do ser humano isso a gente já faz há bastante tempo é só que agora faz com ajuda de um sistema muito mais avançado para se fazer isso aí aí vem a parte de dificuldades que a gente tem em termos de legislação então um pouquinho do histórico dessa legislação eh como já foi falado aqui só para eh colocar verbalizar novamente isso ela foi iniciou então lá na Câmara dos Deputados com alguns projetos depois no senado propriamente dito então Instituiu-se uma comissão de juristas

que escreveu a o projeto de lei 2338 sob eh solicitação do presidente do Senado esse projeto quando eu cheguei no senado ele já estava pronto eh precisaria ser analisado inicialmente ia ser analisado pela comissão de ciência e tecnologia da qual eu faço parte Eu solicitei então a criação de uma subcomissão para análise de Inteligência Artificial isso para reduzir o tempo de uso da comissão porque eu sabia que a discussão ia ser Bastante intensa a princípio foi negado e depois foi percebido que seria muito difícil o trabalho ali então foi criado uma comissão temporária de Inteligência

Artificial da qual eu sou o vice-presidente Presidente Eu solicitei de imediato a convocação de várias audiências públicas talvez tenha sido o tema com mais audiências públicas no senado por quê dois pontos primeiro porque a gente precisa ter a participação eh da sociedade civil para Discutir um tema de enorme importância que é uma ferramenta que se distribui eh por todas as áreas literalmente por todas as áreas segundo eh porque quando você vê uma um um sistema como esse você não pode olhar só do aspecto J o aspecto jurídico é uma perspectiva Mas você tem que ver

também do do aspecto de fomento ou seja desenvolvimento pesquisa e desenvolvimento para que se desenvolvam novos sistemas o aspecto de aplicação desses sistemas e o aspecto de Implicação das aplicações daquele sistema E aí o jurídico para fazer o invólucro de tudo isso aí ou seja nós temos eh um conjunto que tem que ser analisado portanto nós precisamos chamar profissionais especialistas dos diversos setores para discutir mesmo porque E aí vem um ponto importante que eu falei do Chaz Negra entrando Parece uma coisa meio meio eh lúdica Mas pense no seguinte o que que é a emoção

mais básica do ser humano medo o ser humano Tem medo daquilo que não conhece e a inteligência artificial é algo ainda desconhecido e isso influencia também os legisladores influenciam as pessoas que escreveram 23 38 e quando você escreve uma legislação baseada no medo né você tem a tendência natural de criar enormes restrições dentro dessa legislação e isso precisa ser combatido por que que isso aí precisa ser combatido eliminado essa essa emoção através de conhecimento e fatos E para isso as audiências Públicas para que venham os especialistas e falem os fatos e as realidades a respeito

dessa tecnologia então com isso nós trouxemos lá desde academia eh trouxemos comunidade científica trouxemos vários setores né do setor produtivo né o setor financeiro o setor eh de e comércio indústria agronegócio trouxemos vários dos setores regulados no Brasil telecomunicações saúde e assim por diante trouxemos eh o governo em si para falar das suas Expectativas da utilização para maior eficiência dos processos e serviços governamentais né e ou seja nós ouvimos os diversos setores e a partir daí Nós criamos a emenda número um ou seja não fui eu que escrevi a emenda um foi todo um muitas

mãos juntas e dentro dessa emenda um quais são ah Quais eram né os objetivos ou Quais são os objetivos aliás Esse é o objetivo geral primeiro objetivo fomentar a pesquisa e desenvolvimento de ciência e tecnologia No Brasil Esse é um dos objetivos dessa legislação segunda segundo Objetivo promover a aplicação da inteligência artificial no Brasil de forma que isso aumente a competitividade do Brasil nos diversos setores com a aplicação da Inteligência Artificial e não o contrário não restringir terceiro né isso eu tô falando não é em ordem prioridade é proteger né A o o usuário proteger

as pessoas dos possíveis riscos da utilização da Inteligência Artificial Sempre mantendo em mente aquilo que eu falei no início né é mais perigoso não usar a inteligência artificial do que usar a inteligência artificial do ponto de vista do Brasil mas aí aparecem algumas dificuldades vamos ver quais são as dificuldades fazer uma legislação de Inteligência Artificial a primeira delas é bem clara que é a tecnologia evolui muito rápido por exemplo quando o pessoal escreveu a 2338 não tinha generativo ninguém Sabia ninguém pensava Nisso hoje tem e aquilo obviamente não estava ali dentro então você escreveu uma

legislação em que você tenta eh tirar uma foto de alguma coisa que é mutável e rapidamente logicamente isso vai ficar obsoleto no dia seguinte então tem que ter uma solução para isso é uma solução que não existe muito claramente no ordenamento na nossa legislação no processo legislativo a gente tem que criar uma legislação viva uma legislação que evolua junto com aquela ferramenta Que ela tenta eh regular a utilização da ferramenta por isso que eu foco isso A exemplo utilização não a ferramenta em si Então esse é o primeiro ponto ela é muito rápida na sua

evolução eh Outro ponto importante com relação a isso é você não deixar Eh vamos dizer assim inseguranças jurídicas no meio um ponto importante como foi adotado na desde a 2338 que foi basicamente uma uma uma cópia vamos Dizer assim uma muito inspirada na Europa que diga passagem colocou a sua legislação e teve que retirar porque ela era muito restritiva e aquilo prejudicou o mercado como um todo então eles substituíram por uma diferente eh o o problema eh disso aí né de de você utilizar essa essa legislação desse ponto de vista é que você quando você

vai utilizar riscos você tem que reduzir a a incerteza com relação a riscos e a gente tem uma utilização muito clara de Muito tempo já utilizado eu 30 anos trabalhando com investigação e prevenção de acidentes aeronáuticos né os a organização internacional de Aviação Civil e todos nós no sistema utilizamos um sistema muito simples método de engenharia prático todo risco Você mede o risco pela circunstância ou seja Em qual em que ambiente aquilo está acontecendo e com dois parâmetros principais quais sejam eles eh a probabilidade daquele evento acontecer e O impacto caso aquele evento aconteça probabilidade

e evento e a partir daí a gente numera de um a cinco né sendo um o baixo risco dois médio baixo três médio trê el Você tem os fatores contribuintes na você tem um acidente Você não tem causa você tem fatores contribuintes ou seja Quais são os fatores que são que afetam diretamente a probabilidade e o impacto Lógico que quando você considera esses fatores tem fatores importantes Ser considerados a vida humana eh elementos críticos do país por exemplo a energia do país água comunicações são elementos críticos quando você mexe nisso aí você pode afetar a

vida de muitas pessoas a quantidade de pessoas que você vai afetar se que aquilo afeta meio ambiente ou não né de uma forma drástica e em alguns outros e nós colocamos Exatamente esse mesmo modelo nessa emenda número um como uma uma um anexo né que eu daqui daqui a pouco já Explico que tem uma finalidade fora da lei né fora daquele projeto de lei basicamente para ser utilizado pelo por um conjunto uma um conselho formado por representantes das eh diversas agências reguladoras e também da sociedade civil academia comunidade científica setor produtivo e etc um conselho

que vai periodicamente analisar aquelas tabelas de risco para atualizar uma coisa que é hoje é baixo risco Pode ser que amanhã com evolução da tecnologia pass ser alto Risco médio ou vice-versa mas isso tem que ser analisado com frequência com isso a gente resolve ou ajuda a mitigar o problema da eh obsolescência rápida de uma lei em que você coloca como foi apresentado pelo Fernando né ou acho que foi você que apresentou n colocou ali quando você tem alto risco declarado dentro da Lei aquilo vai ficar obsoleto no dia seguinte você colocou ali educação é

alto risco não é nem todos os sistemas são de alto risco os sistemas De assessoria por exemplo são muito muito comuns e não são de alto risco então não se coloca do meu ponto de vista isso dentro da legislação tem que ficar fora e ser atualizado com frequência por quem trabalha direto aquilo na regulação eh Outro ponto importante né dentro dessa questão O tempo é curto aqui mas tem vários pontos é você colocar o o a pessoa no centro o que nós estamos fazendo é para ajudar o desenvolvimento Que as pessoas tenham mais qualidade de

vida tenham mais eh desenvolvimento econômico social né e tenham logicamente proteção dos suas dos seus dados pessoais proteção com relação à ética discriminação e tudo mais então tudo isso coloca a pessoa no meio Outro ponto importante né que é importante a gente pensar nessa parte de riscos a gente sempre leva para o pro usuário mas tem também o risco da legislação afetar o usuário de forma Indireta o ser humano aqui se você afetar a economia do país e isso é muito fácil uma empresa de Tecnologia de Informação trabalhando com inteligência artificial de sair do país

ir para um país vizinho Vai para os Estados Unidos é um país que oferece melhores condições de desenvolvimento você perder empresa significa perder eh nota fiscal perder empregos no Brasil então a gente também tem esse risco grande econômico de você ter uma legislação restritiva Então tem Que se tomar um cuidado muito grande com isso além do desenvolvimento da da tecnologia no Brasil e pensa bem se você não tem conhecimento como é que você vai mitigar o risco de alguma coisa e a única maneira ou a maneira mais eficiente de você ter conhecimento a respeito de

um sistema é você desenvolver o sistema e utilizar o sistema se você utilizar sistema de outros países com bancos de dados em outros países além de os biases da de Desvios que podem acontecer nesses bancos de dados porque eles não são adequados paraa Nossa cultura Nossa utilização Além disso nós temos também que não tem como você alterar isso portanto você tá eh tendo mais risco por não utilizar do que utilizar eh o sistema desenvolver no Brasil outra questão que nós colocamos na emenda um que foi retirada no texto final depois da emenda um veio um

texto final ali não um texto final um texto criado pelo Relator que ele ficou no meio do caminho ele não ficou tão restritivo como 2 3 38 não ficou tão operacional como a emenda um ficou no meio do caminho e Ele trouxe de volta alguns desses problemas inclusive essa colocação da definição de riscos dentro da legislação né Eh Outro ponto importante que nós tínhamos colocado que foi retirado é a ética do uso diferente de um sistema como um software comum em que você coloca os dados no Excel por exemplo se você Colocar dado errado Ele

simplesmente dá resposta errada e nada vai ser feito diferente a inteligência artificial ela aprende com o usuário quando você fala em Deep learning Você tá trabalhando com s sistema que aprende a cada momento né com suas seus impulsos se você observar o chat de GPT Se alguém quiser testar isso eh peça para ele fazer alguma coisa depois que ele fizer você dá um um feedback para ele sobre aquilo que ele aquele resultado que ele deu você vai Vai ver que ele vai aparecer atualizando memória é porque ele tá utilizando os seus dados para atualizar o

que ele colocou ali para você ou seja se você não tiver ética na utilização da Inteligência Artificial ela vai fazer coisa errada no futuro lembrar que a máquina no não é perfeita né E todos os problemas vindos de uma máquina que é uma ferramenta vem do ser humano que utiliza não é uma faca que mata alguém uma faca ser pode servir para muita Coisa interessante o que mata é a pessoa utilizando a faca para eh ferir outra pessoa então tem que sempre ter isso aí em mente Outra parte é a governança como eu falei aqui

né Nós tínhamos Pensado nessa governança espalhada né tendo sendo centralizada Na Autoridade Nacional de Proteção de dados porque que obviamente Inteligência Artificial e bancos de dados são algo muito conectados Nem todos são de pessoas mas eh são os mais sensíveis de pessoas Então nada mais justo do que colocar ali essa comissão como eles já trabalham com uma comissão também né para proteção de dados espalhados os vários setores Quem entende de saúde é Anvisa não é a agência de proteção de dados Então a gente tem que ter o cuidado para não ter conflito de leis e

isso é uma coisa importante também a tendência por causa do do medo é você trazer tudo o que você pensa isso aqui vai ser afetado por Inteligência Artificial deixa trazer Paraa legislação de Inteligência Artificial Não isso aí já tá no código civil isso aqui tá no código penal você não vai trazer para cá fazer uma cópia de lá você não cria um crime novo por causa da Inteligência Artificial você tá utilizando a inteligência artificial para fazer um crime antigo já previsto na lei então altere essas coisas nas outras leis já escritas alterna a direito autoral

coloca um item lá de inteligência artificial na lei de Direito autoral altera Opa tempo esgotado aqui mas pedir um um minuto de de altera na a parte de fake News então modifique a lei de fake News para incluir a parte de Inteligência Artificial senão se quiser colocar tudo dentro da lei de Inteligência Artificial você vai ficar com uma lei que também vai ser obsoleta logo na sequência e você vai ter um problema Seríssimo para atualizar tudo isso sem haver uma sincronia um conflito entre as leis e Regulações muita coisa ainda que eu gostaria de falar

mas o tempo tá eh esgotado aqui eu vou deixar para as perguntas mas o fato é que é Um Desafio grande nós temos agora eu estou como presidente da Comissão nós tivemos uma audiência pública ontem temos mais uma audiência pública ainda antes da gente fazer a leitura do próximo texto que o Eduardo Gomes que é o relator ele vai tá trabalhando com os dados novos também para atualizar ou melhorar esse texto Que vem sendo depurado né para tirar os problemas dele eh e aí depois de uma semana da leitura do novo texto nós devemos ter

a votação na comissão isso depois vai pro plenário e ainda tem que ir pra Câmara Portanto tem um processo legislativo ainda intenso mas só para terminar não tem pressa Ô por que não tem pressa aqueles que acham que tem uma grande pressa de fazer isso os setores mais complexos Eles já são já tem uma um compliance muito grande setor financeiro Setor de saúde e assim por diante os setores que não não tem esse compliance são setores que estão iniciando os as startups por exemplo elas eh não precisam dessa regulação ainda ninguém tá fazendo nada que

é extremamente perigoso aqui no Brasil ainda né E aí é interessante você olhar o que os outros países estão fazendo para que você não cometa os erros que eles já fizeram e para que você utilize o que eles já fizeram de bom que a nossa legislação Seja mais a aperfeiçoada Então isso é como nós estamos agora nesse sistema tem muita coisa né muitos detalhes aí que a gente pode discutir técnicos Com relação a banco de dados com relação a à questão que foi falada de como que você vai fazer explicar como que um uma uma

decisão foi tomada como que aquilo chegou isso é praticamente impossível e completamente restritivo não tem como fazer isso na prática né sem você restringir a sistemas muito simples e e Que aí coloca o país lá atrás na fila dos desenvolvedores de Inteligência Artificial né eu tenho aqui uma lista também de muita coisas Gente Tem trabalhado com medicina depois eu eu aproveito o momento aqui durante as perguntas pra gente falar de outros projetos que a gente tem trabalhado também junto com o setor de medicina agradeço muito a oportunidade Desculpa aí pela passagem de um minuto aí

do tempo né comum para parlamentar a gente Fala muito mas eu acho que a gente tem que ter mais ação também dentro disso e contem comigo lá no Senado obrigado a discussão está aberta pra bancada acadêmica por favor quem quer fazer alguma pergunta acadêmico Rossano Fiorelli fazer alguns comentários você gostaria de vir pra mesa Por favor acadm posso ficar daqui Presidente excelentíssimo presidente acadêmica Eliete busel acadêmicos de ti Marcelo Morales muito obrigado pelo convite para comentar essa mesa Espetacular sobre inteligência artificial que é o tema do momento né eu me debrucei esse fim de semana

estudando a PL 2338 para não falar besteira aqui na realidade o projeto ele reg que tenta regulamentar a inteligência artificial no Brasil busca criar um um Marco legal para orientar o desenvolvimento a implementação e o uso da inteligência Artificial no país essa regulamentação é uma resposta a crescente eh presença da inteligência artificial em vários setores no momento principalmente no setor de saúde na imaginologia e a necessidade de proteger os direitos fundamentais promover re inovação e garantir a segurança jurídica que a alma mata de qualquer nação democrática entre os aspectos jurídicos principais abordados pelo projeto estão

a própria definição de Inteligência Artificial a questão da responsabilidade civil da proteção de direitos fundamentais dos níveis de risco do fomento a Inovação e da governança e fiscalização tentando a criação elaborar a criação de um órgão regulador e de um sistema de governança responsável por supervisionar o cumprimento de normas e garantindo que as tecnologias de Inteligência Artificial sejam desenvolvidas e utilizadas de forma ética e segura o que realmente é o que Tem que ser buscado né Essa regulamentação Ela está alinhada de uma certa forma com as iniciativas globais principalmente Como dito aqui a proposta da

União Europeia né para regeração da Inteligência Artificial e busca posicionar o Brasil como um líder na discussão sobre o curso e o uso responsável ético e seguro dessa tecnologia as apresentações realmente foram muito interessantes eu vou começar Eh fazendo um comentário sobre do do professor Maranhão que destacou a complexidade da pl 2338 em Balancear a Inovação e a proteção de direitos algo particularmente importante quando falamos no setor de saúde onde a regulamentação pode ter um impacto direto na qualidade e na segurança dos serviços né eu perguntaria ao Senhor eh como eh esse projeto de lei

poderá influenciar o acesso da população as novas tecnologias de inteligência Artificial na saúde Especialmente nos termos de Equidade social existem dispositivos específicos no projeto que podem garantir que Essas tecnologias cheguem a todos os níveis da sociedade minha pergunta pro professor Maranhão com relação à apresentação do do professor Salles é que fez uma abordagem sobre os impactos da regulamentação no ambiente da pesquisa trouxe à tona um ponto crucial a necessidade de encontrar um Equilíbrio que permita o avanço da Inovação sem impor obstáculos excessivos especialmente no campo da Saúde onde a Inovação pode salvar vidas e considerando

o o cenário Professor Sales eh o cenário atual de pesquisa no Brasil como a regulamentação proposta pode facilitar ou dificultar a implementação de novas tecnologias de Inteligência Artificial nos sistemas públicos e privados da Saúde o que pode ser feito para incentivar a pesquisa e Inteligência artificial no Brasil Considerando o grande Êxodo de de pesquisadores eh pro pro para países estrangeiros e o nosso Senador astronauta Pontes né teve uma uma apresentação sobre essa emenda substitutiva a pl3 2338 ele cidou alguns pontos críticos que podem trazer maior flexibilidade adaptação à legislação em um campo que está em

rápida transformação como Inteligência Artificial de saúde veja bem Como dito Aqui mesmo a inteligência artificial já tendo sido descrita por minsk em 1950 já se são quase 70 anos no Vale do Silício a a cerca de 3 anos é que ela realmente vem tendo um incremento assim e de forma muito incomensurável né Eh Senador na sua visão como a emenda utiva Pode garantir que o Brasil esteja na Vanguarda da Inovação e inteligência artificial sem comprometer a segurança dos pacientes e a ética em saúde H previsões de incentivos ou mecanismos Que promovam a colaboração entre o

setor público e privado para Principalmente nesse momento em que essa parceria de uma certa forma é controversa no governo atual Muito obrigado muito obrigado acadêmico rano Fiorelli Então eu queria primeiro que o professor Juliano respondesse a pergunta do do acadêmico Rossano muito interessante a pergunta e principalmente porque ela amarra Pontos importantes das diferentes apresentações Né esse projeto de lei ele é voltado precipuamente para eh a proteção de direitos individuais como eu falei então não é objeto ali da regulação a a proteção de interesses coletivos por impactos sobre o trabalho impactos ambientais Você tem uma previsão

mas não tem obrigações específicas relativas a isso o ponto que eh foi tocado aqui é como garantir o acesso existe uma obrigação e uma inclusive prevista na constituição sobre o acesso Universal à Saúde né Ah mas aí isso eh se conecta com o que o senador Marcos pontos colocou Ah eu não posso olhar só para regulação de Inteligência Artificial mas a sua conexão com as regulações das diferentes atividades então ao acesso à saúde o acesso Universal à saúde na regulação do setor de medicina é uma preocupação importante mas isso significa que a a legislação de

a não vai de forma alguma tratar ou impactar o acesso Universal à saúde não pode Impactar então um exemplo Eh vamos pegar o o exemplo específico que eu dei sobre eu não falei muito sobre ele vou aproveitar e falar sobre diagnóstico de retinopatia por imagens de foto dos olhos Isso é uma tecnologia nova extremamente importante para um país como o Brasil em que boa parte da população não tem acesso com frequência a centros hospitalar para fazer esses exames e cidadãos sejam diabéticos e que façam Esses exames e as complicações Podem levar a cegueira né Ah

então [Música] eh ter essa ferramenta com um diagnóstico à distância né com uma pessoa numa região distante pode tirar a a foto com o equipamento da da córnea e receber uma análise eh preliminar de triagem sobre a o risco de retinopatia né ah fazer a eh propiciar a esse paciente a explicação de como diagnóstico é chegada não é simples Talvez seja não Seja possível né Isso vai eh a regulação que exige uma se exigir uma explicação detalhada pode impossibilitar o uso e afetar o acesso à saúde de boa parte da população então tem que tomar

cuidado embora não seja objeto regular acesso Universal à saúde determinadas exigências em relação a exercício de direitos individuais que é o o foco da legislação pode criar certos problemas né Outra outro ponto no mesmo exemplo Eh você pode ter nesse diagnóstico falsos positivos ou pode ter falsos negativos nesse diagnóstico de retinopatia né e a regulação eh um dos elementos de governança é testes de confiabilidade e de acurácia então onde eu vou eh na regulação especificar o que que eu quero num sistema como isso eu quero garantir eh eh a precisão eh reduzir os falsos positivos

se eu reduzir os falsos Positivos nesse caso eu vou eh beneficiar a o sistema de saúde no sentido de reduzir custos vão ser menos pacientes para ser atendidos pelo médico mas talvez seja mais importante no Brasil reduzir falso os falsos negativos porque a consequência é grave pros pacientes de cegueira e se a boa parte da população brasileira tem acesso com pouca frequência a a centros de de saúde Ah isso pode trazer um agravamento para o paciente então a a regulação sobre o Que que vai ser como vai ser a governança eh da confiabilidade dos Testes

de validação e de acurácia isso Tá previsto de forma genérica Mas se a gente deixar para uma autoridade regular de modo geral Ah você pode afetar o acesso à saúde por isso que eu chamei a atenção é importante que o setor de medicina comece a ganhar corpo e eh trabalhar numa autorregulação porque vocês têm a expertise vocês já Tem uma tradição de autorregulação tanto de certificação das especialidades da ética médica eh bastante evoluía né então acho que vocês estão prontos para dar esse passo em regular autorregular o uso da tecnologia como prática médica eh Muito

obrigado Professor Juliana eh pediria pro Professor Fernando Sales eh também eh responder o questionamento do acadêmico Fiorelli per perfeito eh eu queria agradecer a Pergunta do acadêmico acho que eh a a inteligência artificial como como meta ela pode ser usada na saúde em várias áreas de pesquisa a gente tem desde a pesquisa básica onde nós temos visto avanços por exemplo eh na otimização do processo de descoberta de fármacos Então você tem modelos que que vão tentar representar a interação entre os potenciais fármacos e os anticorpos e você consegue restringir o o o horizonte de busca

e fazer com que Esse tempo de descoberta de sair do eh do modelo Até a ponta seja mais rápido né e a gente consegue também ter estudos que usam modelos de a para testar a eficácia de drogas que já são conhecidas que já tem estudo de segurança para reposicionamento para Outras aplicações a gente tem várias aplicações no contexto do diagnóstico diagnóstico por imagem área de Radiologia foi a área que mais avançou na adoção da i a gente vê os impactos aí eh em várias áreas mas Também no monitoramento na predição de de eventos adversos então

por exemplo condições como a seps né que ela é uma uma uma condição que que ela é bastante prevalente aí no nosso sistema tem um estudo brasileiro que foi feito no final da década passada que dizer em torno de 30% dos leitos do Brasil eh tinham pacientes epse publicada no lanet e e que a gente sabe que ela tem um grande risco de morte também um grande aumento de custo Então tem várias ferramentas hoje que já estão sendo eh utilizadas para predizer o risco dissse do paciente tá para entrar com uma tratamento precoce né o

o grande ponto da da da das Ferramentas desses métodos de a é que eles usam dados para serem testados e existe por exemplo Já já uma série de regulamentações de ética de ética de experimentação humana que já regulam os dos dados então tem aquelas questões que foram Colocadas ali por exemplo de ser de saída uma aplicação de alto risco e eventualmente até de risco excessivo tem também questões que que dentro da questão do direito eh tem vários direitos colocados como por exemplo do usuário questionar as decisões e E pedir a intervenção de uma pessoa humana

para tomar pessoa humana Ficou esquisito desculpem mas de um de um ser humano para tomar decisão rever a decisão que foi proposta por um por um sistema mas Por exemplo de retirar os dados do processo Então se se eu tenho um algoritmo que foi treinado com dados de uma população e agora eh um conjunto de pessoas Pedir para que aquele dado que foi usado ele seja retirado da base de dados e que o modelo seja retreinar que tem uma série de termos ali que não estão muito bem especificados como colocado também essa questão do potencial

conflito de Autoridade da autoridade competente com outras autoridades que já existem né Eh o Juliano trouxe um exemplo no qual nós vemos aí como algoritmos de de Inteligência Artificial casados com tecnologias que hoje estão disponíveis que tem um relativo baixo custo e baixo grau de dependência do operador hoje n temos tecnologia brasileira que permite que você faça uma re uma uma retinografia não midriática a partir de um celular Para um usuário treinado que não precisa ser médico Você pode ter por exemplo uma unidade de atenção primária em que você faz aquisição dessa imagem ele consegue

captar a retina inteira e você pode usando ferramentas de telesaúde transmitir para um especialista ou até usar ferramentas de a para fazer a triagem quando a gente olha paraa quantidade de diabética do Brasil estima-se que 30% dos Diabéticos quando detectam que tem diabetes até algum grau De retinopatia né E como jiano falou essa é um uma causa de cegueira que poderia ser evitável né que nós temos aí procedimentos que um uma pequena cirurgia laser ali que dura rápido poderia ser feita para evitar esse tipo de questão e quando a gente fala para outras questões muito

mais né então a gente tem um um risco muito grande de de travar o impacto seja tanto na pesquisa Mas também de de soluções que podem melhorar a prática Clínica como o Senador bem colocou ele explicou bem o contexto né de de como a regulamentação foi surgiu e e eu fico feliz em saber que tá tendo toda essa essa questão de reposicionar de de esclarecer e e tirar esse medo institucional e e tentar trazer a regulamentação muito mais para um cenário de garantir direitos e deveres básicos mas sem eh ter eh instrumentos que possam travar

o desenvolvimento de novas aplicações porque a pesquisa é muito muito Importante dentro Nesse contexto pra gente eh partir de hipóteses prototipar fazer experimentos avaliar o impacto e ficar experimentando dentro do cenário de pesquisa antes de levar para um cenário de uso Clínico ou ou de uso em massa né Então eu acho que esses são pontos que que podem ser críticos Nesse contexto Muito obrigado Professor Fernando ses Senador senhor poderia fazer os Comentários também do obrigado obrigado pela pelas questões são duas questões também de agradecer aqui meu Marcelo morares né Dr Marcel Morá Tem Que acadêmico

tem me acompanhado e dando uma série de eh ajudas e instruções ali na área da Medicina Então isso é importante a ter uma uma pessoa conhece bem o setor trabalhando ali junto com o legislativo também extremamente importante assim como comigo lá no tempo do ministério Também como Ministro de ciências e tecnologiae como secretário Nacional de pesquisa eh das duas questões a primeira delas né com com relação ao balanço í colocar o desenvolvimento da tecnologia com os riscos essa essa balança né entre entre as aplicações então o ponto principal dentro disso tá no conhecimento do sistema

e da utilização do sistema vamos chamar assim da educação a a respeito do Sista é quase uma mudança de Cultura dentro dessa Utilização eh importante eu vou ressaltar alguns pontos que eu falei na presentação mas é a questão de não travar pesquisa e desenvolvimento do país como foi já ressaltado algumas vezes isso seria trágico país assim como a utilização da da inteligência artificial para melhorar a eficiência das empresas eficiência do governo e tudo mais eh isso seria também trajo em termos de competitividade do do país mas a gente tem que tratar dos Riscos com o

ser humano que são eh completamente possíveis de serem tratados né sem causar essa restrição um dos pontos para se fazer isso é aumentar ou melhorar a objetividade na definição de riscos é um dos pontos que eu coloquei na emenda a emenda ela ela emenda substitutiva ela basicamente ela tratava do texto como principiológico trazendo o ser humano do centro colocando eh definindo como foi falado no início Tod aquel aqueles princípios estão ali dentro mas a aplicação ela tem que ser feito ou setorialmente para que quem conhece o trabalho seja conhece aquela aplicação possa trabalhar né na

parte mais específica do texto assim como extrair do texto tudo aquilo que faz parte de outras legislações isso só traz complexidade e uma tendência de obsolescência muito rápida assim como também o o tratamento da flexibilidade no tratamento de riscos ou uma análise Periódica dos diversos setores para que isso eh seja atualizado com o desenvolvimento da tecnologia eh e o que que eu comei falando de educação né deixa eu usar um uma um exemplo do meu lado lá como como piloto né lá no começo quando eu comecei a voar foi outro dia eh nós piloto automático

nem se falava em avião de caça né Depois que eu fui voar D 16 essas coisas gente temi mas lá Começo aqui chavante essas coisas não tinha nada Pilot tomar Você voa voa o tempo todo né Aí aparece o piloto automático né que você basicamente decola né programa o piloto automático ele faz a subida faz o Cruzeiro faz a descida e se você pode pousar Se quiser tem algum sistema Pous não autorizado mas pousa a tendência do ser humano é a menor energia ou seja a partir do momento que se fez uma vez deu certo

fez duas deu Certo fez três deu certo você começa a confiar muito no sistema e acha que o sistema vai fazer tudo perfeitamente você perde a consciência operacional daquilo que tá acontecendo Então se é houver um apan do sistema em certas condições você pode entrar numa situação crítica porque você não tá preparado a reassumir o sistema no momento crítico fazendo procedimento aqui no Rio de Janeiro perto das montanhas para pousar lá no Campos dos Afonso por exemplo Eh Agora por que que eu falo do treinamento O piloto tem que estar treinado para mesmo havendo um

piloto automático excelente você tem que você é o Comandante você tem que estar o tempo todo preparado para assumir o e esperar que aquele sistema pode cair a qualquer momento mesma coisa com relação ao Inteligência Artificial muito cuidado tem que ser tem que se ter à medida que os sistemas evoluem eh e de você colocar em cima do sistema a responsabilidade de Pensar por você deixa eu colocar dessa forma alunos por exemplo Vamos tentar fazer basicamente todo o trabalho usando Inteligência Artificial isso ele precisa aprender não é inteligência artificial prisa aprender Então ela pode servir

como um assistente mas não como um diretor do que vai ser feito ali tomar decisões o risco da utilização eh em termos operacionais Vem quando a inteligência artificial começa a ter oportunidade e autorização do usuário Para tomar decisões por ele oportunidade que eu quero dizer quando por exemplo você tem um carro autônomo você tá dentro dele ele que tá tomando as decisões com inteligência artificial com uma série de sensores você basicamente tá sendo conduzido pela Inteligência Artificial isso é inerente daquele sistema Mas algumas vezes você dá autorização pro sistema tomar decisões por você você recebe

uma sugestão e você sempre aceita aquilo lá como verdadeiro Muito cuidado tem que ser tomado nesse ponto né em temos de utilizar para não se degradar o conhecimento humano em pró da Inteligência Artificial é um ponto que a gente tem que pensar e trabalhar junto com a educação junto com a comunidade científica junto com os setores diversos setores para que isso não aconteça esse uso objetivo da da definição de riscos também é um ponto extremamente importante porque eh no momento em que você tem uma uma Definição incerta do que que é alto risco e aquilo

vai ser definido em última instância por uma comissão vai definir o certo ou errado se aquilo é ou não isso aí a gente coloca na mão de seres mas aí eu vem o oposto você colocar na mão de seres humanos decisões que podem trazer um uma complicação jurídica muito grande então isso tem que se tomar cuidado porque isso vai aumentar o risco da utilização inclusive pela Eh vamos dizer assim Falta de Critério talvez na escolha do que é autor risco ou não é ao risco portanto uma definição mais objetiva ajuda na proteção também outros pontos

um pouco mais técnicos Com relação a risco para seres humanos sem termos de dados humanos né a utilização de dados tanto para testes quanto para para treinamento testes e utilização de Inteligência Artificial eh com dados de pessoas aí tem toda a questão de proteção de dados mas toda essa esse arcabouço já está na Lei geral de proteção de dados a gente precisa repetir isso dentro da lei de Inteligência Artificial como eu falei anteriormente isso causa só complicação e a tendência de se utilizar bancos de dados parciais Quando eu digo parcial parcial nos dois sentidos da

língua portuguesa parcial tanto por incompleto ou parcial no sentido de ter uma tendência dentro dos bancos de dados isso pode causar ética discriminação vou dar um exemplo simples aqui também para Isso ficar por exemplo se você for utilizar inteligência artificial para fazer reconhecimento facial a gente já usa isso na verdade bastante nosso celular etc sei se alguém já teve experiência provavelmente todo mundo que usa essa essa parte se você tentar fazer isso à noite na sua Ali você vai querer ler alguma coisa que tá com não tem senha tem o seu rosto senha às vezes

ele ele erra você tem que digitar uma senha ali porque ele não conseguiu distinguir O seu gosto certo o sistema ainda tem limitações Imagine que você vai utilizar um sistema para inteligência artificial para fazer reconhecimento eh e apreensão de pessoas em locais públicos se aquilo funcionar errado você vai est submetendo de repente uma pessoa que não é culpada ela tá sendo ali aprisionada eh tem todo a questão moral ali também é é um vexame vamos chamar assim você não vai expor as pessoas a isso contando com um ego da da Inteligência artificial que pode cometer

principalmente se a pessoa for uma pessoa preta Negra certo porque naturalmente quando você tira fotos se você vê uma série de brancos de um um negro no centro você vai ver que é mais difícil você reconhecer dependendo das condições de luz é mais difícil você reconhecer aquela pessoa do que as brancas esse isso aí existe não é que o sistema é racista Mas é uma limitação do sistema portanto na utilização do Sistema tem que se tomar cuidado de utilizar a inteligência artificial como único recurso para você ir lá e buscar uma pessoa você pode cometer

erros sérios Isso não é bom então é um questão de de aprender a utilizar também o sistema dentro das suas limitações eh na segunda questão com relação a fomento né Eu quando era Ministro de ciênci tecnologia e inovações eu fiz uma análise tipo uma análise su durante o período de trans são e dois setores Saltaram como setores importantes para desenvolvimento do país para aplicação de recursos recursos limitados você tem que escolher fazer de forma que você tenha maior eficiência com o dinheiro público dois setores um era biotecnologia que se provou extremamente importante visto que a

gente teve uma uma pandemia depois obviamente não sabia que ia ter uma pandemia em 2018 final 201 mas a gente já começou a investir com isso inclusive o Marcelo Morales Aqui Dr Marcelo Morales que deu umas diretrizes paraa criação da rede vírus série de coisas ótimo o outro setor transformação digital a gente conseguiu dar salto enorme naquela época durante a nossa gestão temos de transformação digital no Brasil Brasil é um dos primeiros em transformação digital excelente inclui Inteligência Artificial internet das coisas e colocamos ali oito centros de Inteligência Artificial baseado n então junto com a

Fapesp junto Com o c cgi colocamos 800 de inteligência artificial em quatro áreas eh saúde 4.0 indústria 4.0 eh agricultura 4.0 e cidades inteligentes oito centros de Inteligência Artificial hoje eles são 10 esse centro não é um centro só é uma é a cabeça de uma rede conecta outros centros do Brasil que trabalha no mesmo setor isso é importante mas não é suficiente Brasil é muito grande gente precisa de muito mais investimento para isso colocamos o ia2 Inovação aberta e inteligência artificial colocamos recursos Que nós tínhamos na época ali na fep para incentivar startups nós

tivemos ótimos resultados e até unicórnios sendo criados assim mas precisa de mais incentivo atualmente foi lançado o plano de Inteligência Artificial Brasil né eu achei interessante importante ter esse plano embora ele seja eh extremamente ambicioso no prazo então eu duvido que ele seja cumprido no prazo mas é Importante ter grandes metas uma aplicação de 23 bilhões no setor de Inteligência Artificial mas nada disso vai ser viável se a gente não tiver uma legislação que permita sem a sem a grande restrição o desenvolvimento das tecnologias Brasil Então essas coisas são casadas portanto é possível inclusive com

o setor privado participando muito importante mas de novo bate nessa parte a precisa melhorar ainda esse texto da maneira como tá para Tirar as restrições E permitir com mais Liberdade o desenvolv a pesquisa desenvolvimento e aplicação da inteligência artificial no Brasil Esse é um ponto crucial a gente tá discutindo esses dias eu espero que a gente resolva na comissão para não ter que fazer emendas depois na sequência do trabalho legislativo obrigado muito obrigado Senador eu eu cono conord plenamente com o senador que o maior risco pro paciente é que não se utiliza Inteligência Artificial Inteligência

Artificial e nessa era de transformação digital Essas tecnologias é que podem vir justamente dar sustentabilidade pro sistema de saúde hoje nós através das novas tecnologias nós podemos melhorar o acesso podemos melhorar a a qualidade do diagnóstico a Segurança do paciente e melhor a eficiência do sistema Então as novas tecnologias as é que podem ajudar Justamente a enfrentarmos essa mudança né Esse aumento né do custo saúde em Razão muito por em razão do envelhecimento populacional então nós precisamos dessas novas tecnologias eu diria que a inteligência artificial ela foi mal vendida né porque eh mesmo pros radiologistas

né Eh no começo dizia que o radiologista desaparecer por causa da Inteligência Artificial hoje nós sabemos que a inteligência artificial é uma ferramenta uma ferramenta que o radiologista vai ter que usar né Eh o radiologista Obrigatoriamente vai usar ferramenta Inteligência Artificial como a maior parte dos médicos Profissionais de Saúde então Eh inibir mos o seu uso é um serviço para saúde eh e isso de ver a inteligência artificial como ameaça eu eu acho que é isso que acabou gerando né um projeto de lei tão restritivo né Eu acho que realmente nós precisamos eh conscientizar né

os nossos parlamentares que ência artificial é um enorme aliado paraa saúde e e eh e Esperamos que pouco A pouco né Eu acho que o projeto de lei temha evoluído mas acho que ainda temos um caminho para percorrer Senador exato com a fala do acadêmico Geovan terer nós damos por encerrada essa primeira parte do simpósio e eu convido a todos pro chá acadêmico e Voltaremos às 6 horas Obrigado