CPDP LATAM 2024 | AI and Cybersecurity Governance in the G20

Good morning everyone it's a great pleasure to have you here to conduct this panel on ai and Cyber Security governance G let me introduce a researcher CTS and student here FGV Law School and Together BR we are studying and developing research on cy Security at CTS and I'll be theat of BR resear CS search at the Army Command and General Staff College before we our event let me also thank you all the speakers that accepted the invitation to talk to us about Cyber Security a top that particular Love Now I'll pass the floor to BR

to start the event with a little bit of contest for you to understand why the discussion on Cyber Security in G20 is really important curity and Cyber Def and Brazil isel The National straty on cy Security Think of govern BR fls you to she join US zool sou Africa and she Should Be able to activate subtitles on Zoom so we will be speaking Portuguese but She Will hopefully Be able US eh então com isso eu vou passar português agora e pessoal bom dia um prazer enorme est aqui com vocês hoje é um privilégio est discutindo

esse Assunto na cpdp como um todo mas principalmente com vocês e com esse painel eh e realmente a gente tá num momento pivotal isso nós temos visto aqui desde do do início da cpdp né mas a gente tá acompanhando as diferentes discussões acontecendo em relação a isso a gente tá no momento pivotal pra questão da segurança cibernética e da Inteligência Artificial que tem convergindo vem convergindo cada vez mais eh em Diferentes instâncias e uma eh retroalimentando a outra né e e é um prazer muito grande a gente estar aqui hoje discutindo isso por o naturalmente

países do G20 serem as principais potências econômicas do país do do mundo são os países que vem liderando essa essa discussão e se a gente fala de economias emergentes como Prix ou principalmente o caso do Brasil eh o Brasil especificamente se encontra num momento eh crucial de atualização Das suas estratégi de segurança cibernética eh e também de de iniciativas de regulação de Inteligência Artificial e acho que se a gente tá falando de estratégia Nacional de cibersegurança quem melhor para começar a nossa discussão do que o nosso querido malut que além de assessor do do GSI

também é o secretário do do comitê Nacional de cybersegurança que tá Justamente encabeçando esse processo de e de Elaboração e atualização da Estratégia Nacional de cibersegurança e também liderando discussão sobre qual arcabo governamental e essa estratégia de cy segurança deveria ter ou poderia ter e é um prazer muito grande sempre est participando de um painel com malagu nós somos colegas já de de longa data né sempre fala que nós somos os chatos da saber segurança em diferentes instâncias eh mas enfim queria passar a palavra agora a ele e agradecer mais uma vez Pela participação Bom

dia a todos muito obrigado Bruno é Breno é uma brincadeira Nossa antiga quando ele faz alguma coisa errada a gente chama ele de Bruno e E aí o caso errado aqui foi ele dizer que eu sou uma das melhores pessoas para falar desse assunto então né S uma Piada Interna Nosa eh o que acontece é que eu tenho o privilégio hoje de estar falando aqui e de uma posição de de certa proeminência e na questão da Cibersegurança nacional eu atualmente sou assessor especial do ministro do gse do gabinete de segurança institucional para cibersegurança eu sou

um único assessor do do do GSI que tem uma função específica e única que é atuar em cibersegurança o tempo todo e eh também sou secretário executivo do comitê Nacional de cibersegurança recém criado né criado em dezembro e e que criou três grupos de trabalho o primeiro grupo de trabalho está trabalhando na estratégia Como o Breno anunciou eh e a ele tá finalizando provavelmente agora no próximo mês nós teremos a estratégia a nova estratégia que substitui aquela de 2020 sendo liberada eh Tornada pública com cinco Pilares 18 objetivos estratégicos e perto de 90 São 88

nesse momento ações estratégicas a serem tomadas nos próximos 4 anos para reforçarmos a cibersegurança nacional e uma das preocupações que aparece nessa nessa estratégia é a incidência de Tecnologias emergentes sobre eh a cibersegurança riscos e benefícios que Essas tecnologias emergentes Podem trazer eh o Brasil tem uma característica e Isso foi refletido no meu doutorado eh uma característica que é bastante reativa às coisas que estão acontecendo nós normalmente não nos prevenimos nós normalmente atuamos de forma reativa eh então algum episódio surge no horizonte e nós formamos uma força tarefa para reagir aquilo para Criar uma nova

regra criar uma nova Norma algumas vezes isso é antecedido de uma discussão um pouco mais longa mas na maioria das vezes não então vou dar um exemplo na nossa área né a Lei Carolina Dickman tem esse nome em função do vazamento de dados de uma atriz famosa a senhora Carolina Dickman e e causou uma comoção nacional e por isso foi feito um projeto de lei ou foi desengaveta que estava em an Fazia um tempo e aí ele foi aprovado de forma um tanto assada que Melhorou um monte de coisas para cibersegurança mas criou alguns problemas

e historicamente toda vez que nós eh reagimos a um incidente a gente tem essa característica a gente resolve aquele problema imediato e deixa espaço para outros problemas que aparecem em decorrência daquela ação A sodada então Eh nós temos quem tá acompanhando aqui o evento tá vendo que desde eh ontem eu tenho levantado questionamento sobre eh a questão da regulação da Inteligência Artificial e da atribuição de uma agência específica a esse órgão por que isso porque quando nós recebemos lá no GSI a proposta do Senador Eduardo Gomes uma proposta aliás é excelente trabalho feito pelo Senador

no sentido de juntar 10 projetos de lei diferentes que haviam inclusive o que tinha vindo do do da câmara que é citada aqui eh sempre mas eram 10 projetos que foram unificados num só o senador e sua equipe fizeram um trabalho excelente mas e ficou eh um Espaço perigosíssimo no caso da cibersegurança que nós conseguimos com a boa vontade do senador e de sua equipe nós conseguimos sanar vou dar o exemplo rápido aqui é muito legal quando a gente tá interagindo com uma inteligência artificial do tipo A Gal da GO ou o Max do exército

brasileiro que são aqueles chats que você vai vai falando com a inteligência artificial até a hora que a inteligência artificial disse para você olha eu não dou conta de resolver o teu Problema transferir você para uma pessoa é muito legal você saber que você tá falando com inteligência ial agora vamos pensar pelo outro lado o bandido ele não respeita a regra E aí a gente utiliza a inteligência artificial na segurança cibernética para cercar o bandido para interagir com o bandido e tentar cercá-lo então se tem um hacker invadindo digamos a Petrobras a petrobrs deve poder

utilizar inteligência artificial para mapear esse ataque e não Pode informar para o bandido que ele está interagindo com a inteligência artificial de segurança da Petrobras porque senão o efeito vai pro Beleléu então então eh a gente tinha essa preocupação e nós fom falar pro Senador ó Senadora é muito legal no no dia a dia as pessoas bem intencionadas eh serem informadas de que a inteligência artificial é que tá interagindo com elas mas paraas pessoas mal intencionadas nós não podemos ser obrigados a fazer isso E Aí nós temos que entender o seguinte nós como governo nós

como eh cidadão que respeita a lei nós somos obrigados a fazer o que a lei dita mas o bandido não faz então ficaria uma uma luta muito injusta muito assimétrica como nós dizemos em termos eh de c defesa eh ficaria muito assimétrica essa discussão entre o lado do bem o lado que quer proteger o cidadão e o lado do mal o lado que quer agredir o cidadão então Eh nós conseguimos interceptar essa Discussão eh no momento final praticamente dela porque pretendia se colocar em discussão aquele relatório do senador eh nove dias depois eh E a

equipe do senador foi muito muito atenciosa e prestou atenção e fez alguns ajustes no projeto de lei para contemplar isso mas o problema é que eh eh tendo essa essa questão pequena que eu trouxe para vocês em mente existem diversas outras que podem não estar bem eh entendidas ainda a exemplo do que eu Comentei ontem e foi abordado no painel recente aqui eh de que eh Inteligência Artificial e dados pessoais tem um cruzamento na minha modesta avaliação da ordem de 5% 95% dos sistemas de Inteligência Artificial sequer tocam em dados eh pessoais eh o professor

argentino aqui chileno aqui ontem o Alberto ele falou que eh no Chile tá se usando para eh análise hidrológica para análise climática paraa análise de Queimadas no Brasil a gente utiliza Inteligência Artificial E isso não toca dados pessoais em nada então A grande maioria eu diria 19 para um tá eh dos sistemas de Inteligência Artificial não toca em dados pessoais e aí a gente decidir que a gente vai colocar a npd como órgão eh central do CIA né do sistema interagindo com as outras agências é uma medida interessante é uma medida boa talvez não seja

a mais apropriada Mas aí o meu lado pragmático eu venho do Meio Empresarial passei 35 Anos desenvolvendo eh sistemas desenvolvendo software e tô no governo há 1 ano e meio eh Então o meu lado Empresarial diz melhor alguma regra do que nenhuma regra Então vamos colocar a coisa para funcionar eh Possivelmente com a npd Mas sabendo que talvez nós tenhamos que mudar isso em breve e lembrando e aí eh que para mim é é problemática a questão Lembrando que a gente tem eh diversos setores que não são Regulados e diversos setores que não são regulados

por agências reguladoras vou dar dois exemplos simples eh quem regula o setor Nuclear no Brasil a comissão nacional de energia nuclear ela não tem nada de agência reguladora mas é ela quem regula o setor Nuclear no Brasil então quando a gente fala ah eh a a a NP npd vai regular as demais agências reguladoras nós temos que tomar dois cuidados primeiro porque a npd é uma autoridade Nacional ela tem Quase as características de uma agência reguladora mas o quase né no detalhe que mora o o o diabo né então a gente tem aí um problema

ela não tem uma autonomia completa é uma luta que pela qual Inclusive eu me engajou de tentar tornar a npd uma agência de fato agência regulador mas eh que tem várias dificuldades políticas e administrativas para acontecer então a gente tem tomar um cuidado que a gente tá falando que uma autoridade que é a npd vai regular Junto com as agências reguladoras e com aquelas que não são agências diversos setores e tem outros setores que não são regulados nem por agências nem por outros órgãos nós temos setores que estão abertos mas outro exemplo eu falei que

eu ia da dois né eu falei da kinem eh setor de seguros no Brasil é regulado pela SUSEP superintendência de seguros privado eh o setor financeiro bancário é regulado pelo banco central que não é uma agência Então a gente tem que tomar Cuidado com a nomenclatura que a gente tá usando com a terminologia que a gente tá colocando na lei porque senão o que vai acontecer é uma provável judicialização de uma série de questões depois porque a npd não pode regular sobre esse setor não existe órgão regulador ou não existe a gente é regulador para

aquele setor então a npd não pode interferir a npd é uma agência de proteção de dados pessoais ela não pode entrar na proteção de dados eh Agriculturais ou meteorológicos ou seja lá o que for Então a gente tem que tomar um cuidado com o que a gente vai fazer queremos fazer isso vamos fazer isso vamos Então vamos dotar a legislação das capacidades adequadas para tentar cercar o máximo possível e evitar que esse problema aconteça além de uma questão que foi colocada aqui ontem Acho que no primeiro painel que era a questão da da eh capacidade

do congresso determinar o Executivo né o legislativo determinar o Executivo Qual é o órgão que vai executar determinada ação tipicamente a separação de poderes no Brasil diz que eh o legislativo diz o que tem que ser feito e o governo diz como Então se o se se o legislativo tentar avançar dizendo vai ser esse órgão Ou aquele órgão que vai fazer isso tipicamente se não é barrado no no plenário é vetado pelo pelo executivo depois porque o Executivo tem que preservar sua competência então Essas Eram as questões que eu queria colocar e eu só esqueci

de fazer um disclaimer embora eu tenha Essas funções no GSI eu estou aqui como convidado como acadêmico eu tô trazendo as minhas opiniões pessoais Eu não falo em nome do GSI e eu não falo em nome da do do do comitê Nacional de cibersegurança porque eu sou secretário executivo n nem voto tenho lá eu simplesmente administro e a operação do do do comitê e fico aberto então para para considerações e Perguntas eh Muito obrigado Marcelo eh eu acho que foi uma uma ótima fala introdutória e que eh trouxe a complexidade do do debate que envolve

a gente falar em regulação de Inteligência Artificial né Eh e eu acho que eu vou antes de passar né a palavra pro noso eh próximo convidado eu vou ressaltar aqui um ponto acho que é muito importante que foi colocado eh a nomeação da Agência Nacional de Proteção de dados como autoridade eh de Inteligência Artificial eu acho que você eh colocar na nomenclatura autoridade e não agência faz diferença Porque conforme o Marcelo colocou para ser uma agência ela requer uma série de autonomias autonomias essas eh administrativas organiza ionais funcionais de gestão de pessoas e também independência

financeira sobretudo e essa é mais importante porque com orçamento atual que a gente tem da npd a O que fica eu acho que pra gente refletir é se ela tem capacidade de conseguir depois administrar isso também levando pra Inteligência Artificial porque é infelizmente no final do dia a gente tem que ter dinheiro para gerir pessoas a gente tem que ter dinheiro para desenvolver ações de fiscalização eh de de sanção você tem que ter eh braços né para poder desenvolver essas tarefas eh que são tão importantes e a gente sabe que e a ia né ela

pode ser Tanto feita eh ão T utilizada numa fase defensiva como ofensiva e como o Marcelo falou eh são Dados não necessariamente dados né pessoais Então eu acho que são muitas questões é complexas Mas a questão da gente pensar em qual eh arranjo institucional de governança eh deve ficar a cargo são são que a gente sempre pensa né ah a gente tá desenvolvendo uma estratégia Nacional de cibersegurança Mas quem vai ficar à frente de de eh liderar essa governança Né Eh e quais são os padrões que devem ser melhor colocados E aí agora para falar

em padrões eh eu vou chamar eh a nossa convidada ela é sul-africana eh a NB buelo ela também é pesquisadora aqui no C e é pesquisadora na faculdade de Joanesburgo eh isso eh eh NOB buelo seja bem-vinda eh passo a palavra agora para você para falar um pouquinho pra gente sobre esses padrões né que são estão sendo pensados E desenvolvidos eh pelo G20 my apology sorry I didn't get the The Question um yeah the the translation here is not that Clear sorry Yes I can speak with you a little bit in english for you to

give you some context we are speaking about The National strategy in Brazil and How is difficult to Deal with this reflections about the governance body and how difficult to think About ai Used with Def And and Offensive purposes which can amplif the types of Attacks that we can be carried out so to Deal with this problems what Solutions can countries of the G20 adopt so to discuss you to talk about a little B What kind of Solutions that is we can talk about thank you we can't hear You hello M muted I'm sorry I'm muted

I'm muted um Can you see my screen yes you can Yes Okay so Thank you very much for The Question so I'm just going to cover a few um items especially when It regarding The Cyber governance and What are the G20 countries need to do um in the the slides um I'm just going to talk about the emerging Technologies and Cyber Attacks quickly and also talk about ai governance and Cyber Security challenges and that Will also include the difference between governance and Cyber governance because That's What is important and that we need to what we

need to understand in terms of What Is It That The countries Need To Do and also I'm going to briefly talk about the ai governance and the EA Framework The Reason why This is very important Is That um ai is already An existing Um is in a technology that is included in the current stack so It's important that we include all that and talk about How it can be incorporated into the enterprise architecture Framework and the standards will be the next one that we look at as well as the ai Cyber Security governance baseline which

What this is what um ai sorry The G20 countries can can then adopt and also look at good best practice standards as Well next slide yeah in terms of emerging Technologies ai is currently integrated into existing Systems and that Now has increased the Surface Attacks and vulnerabilities that we are aware of and that um this next slide Now talks to top 10 Cyber Security uh threats in 2024 um there's been increase in Cyber Attacks Deep fake Technologies intelligence social Engineering Third Party Cyber threats IOT vulnerabilities so This is based on the techopedia uh Research that

was conducted recently just to Highlight all the Attacks that Have been happening um in this slide I'm just talk just highlighting that South Africa is ranked Fifth on Global Cyber crime density list This was presented by um it web article um in 2020 This was in March 2023 and as you can see from the slide here uk is um at the top and followed by US Canada Australia and South Africa This is based on the data breaches that Have been Highlighted so in terms of the the the challenges that countries are facing I highlighted that

as we bring in Cyber Security um my apology as we bring in ai onto the technology stack we end up um having increase um a tax Services surfaces and vulnerabilities the risks are High there's Lack of consistent ai Cyber Security governance standards which is what We're Going to be talking about at the End of this presentation and also The ai Cyber Security policies are not compatible worldwide what we found out is that um a lot of countries are already developing best practice standards but they are not compatible or are not Being Used globally and also

there's also Lack of um necessary Skills um by the people Who are using the Technologies and also the Cyber workforce which at the moment are even struggling to understand the technology landscape um and also managing the ai Managing sorry the the the Cyber threats they are already Now have to look at um increased Cyber Attacks on ai Systems um this slid Now talks about um governance and Cyber Security governance I just Wanted to to Highlight the difference between the two because When When I Look at the the governance side talks about defining roles responsibilities process

And relationships and that is usually internally focused whereas on the other Side we have have the Cyber Security governance which ensures participation transparency and accountability in in in taking measures related to cyberspace that is Now how technology interact and also The People using the Technologies on the Cyber Space and this includes um Cyber Security strategies International agreements processes regulations and Cyber Security standards the next one Now um it's all about How does the ai governance linked To the EA Framework why It's important to to link The Two is because artificial intelligence like I said already

is a is a technology that is Being embedded into existing Technologies and organizations um It's also important to understand that EA principles ensures that technology adoption aligns with organizational uh Core values which is very important and also set as A principle AT And and a blueprint for architects to make sure that whatever Applications they're bringing On Board they have defined principles and and guidelines as well It's also important to incorporate ai govern governance principles to the existing ai EA standards practices because that can assist organization and developers to discuss the relevant legislative regulations because as

we know that It's important also to make sure that we um as we bring in Technologies uh We need to make sure that we we comply with Regulations especially ai for example togaf principle Seven um talks to compliance with Law which is enterprise information Management must comply with relevant laws policies and regulations the reason why I'm bringing togf as a Framework there are other frameworks that can be Used uh What's important for me is just to make sure that I I'm able to Highlight all the different aspects of the togaf Framework togaf Being the open

Standard um um Enterprise architecture Framework so as you can see at the top there you have your ai strategy and Motivation in the blue column and that is a preliminary Stage Is The architecture Vision What Is It That the organization wants to do and also the alignment of the the ai principles the requirements Management also important as well as the the Bottom One Being the my apology sorry One back if It's New Technologies How do we bring Them in so on the side then you can see There ai governance Security Risk and compliance so It's

important that using the toer Framework um organizations of G20 countries can incorporate the Iai uh principles and standards from the Business architecture Systems architecture and technology architecture by System Business architecture I'm referring to Business processes Within the organization which will be enabled by the ai um technology uh that has been defined as well as a technology Architecture which is a platform that the ai application will be Running on so defining those standards the rules and guidelines on How these needs to be deployed and and and managed is very very important on the other side then

we have the ai Systems implementation and deployment this is the part Where it becomes very important that as we Deploy or implement ai Systems We need to make sure that we define the Security uh principles and Standard because it's Important that the users are able to integrate and use secure Systems included on that is the ai technology enhancement that is um One column also on H why Is that important as technology Changes and as we bring in on board New um Technologies ai Technologies It's also important that we we we we define the principles and

guidelines on How the organization can can go about using the The the technology secure Technologies and also making sure that those Systems that you are developed we are developing Are developed with the Security in mind um What is currently happening this ai governance and Cyber Security governance I I heard briefly that um in the discussion with my fellow colleagues that we all know that um countries are develop Are already developing Cyber Security governance standards And and guidelines for ai Systems and i just Highlight a few of them which is your ai Risk Management and ai

Risk Management Framework by the nist uh which is an American Standard including The enisa One which Is The Good ai Cyber Security principles the ISO 27,000 and the iecc for dou 43 I have also I have Taken into con cognizance that there are other standards that are important so when we look at ai governance we can Tap on the existence standards that Have been defined because what we need to do in Order to to to um implement secure uh ai Systems We need to have a secure infrastructure ai development principles and we need to promote

responsible um application as well as enhance existing workforce Skills um Now One of the things um which The Question um uh was asked to be was What Is It That the du2 countries can do What's important is to implement an ai Cyber Security governance Universal baseline why Is that um From This Particular screen I have um made sure that that I integrate as an example integrated some of the existing frameworks um I spoke about the Tog Framework which can also be used to define the technology so from the screen here where we we look at

the the Cyber governance this is what the anisa standards has been defined where they look at the Cyber governance Model so the Cyber governance Model is made up of Four components which is which is Strategic governance operational governance political governance and Technology governance briefly on on strategic governance it's important that the Cyber Security strategy is defined especially for ai Systems the processes and also the governance model that Will Ensure that um the entire ai um step is well managed then on operational governance it's um the way the organizations Ensure that the Cyber Security awareness is

done because it's What's important is when people start engaging or using ai Systems they need to understand uh the the challenges they need to understand the issues that are in at Play as well as Ensure that your Cyber Security workforce is trained on how to manage um Cyber threats on the political governance which is very important uh that is Where the the legal Framework needs to be defined um especially when it comes to ai there also the importance of collaboration With multistate stakeholder collaboration information sharing accountability and transparency of ai Systems then on technological governance

looks at the ai Tools specification like I said There is a Link to the the togaf um Framework that I have outlined in my previous slide and see how The Two can be combined and Used effectively as a Universal baseline um that can be Used so the Universal baseline uh from Where I'm setting it can be a Practical Tool that can guide um the G20 nations um in terms of looking at good practices for example effective um effective ai Cyber Security governance can be achieved through establishing ai governance baseline like I said The previous One

in the previous slide developing a multifaceted Faet Defense in depth approach because when we look at ai we look at the entire stack What needs to be um defended What needs to be protected and How then can that Be Managed You also need to look at managing data protection autonomy and National sovereignty practices that those are embedded Within the the entire governance um uh Model from the enterprise architecture into the entire um ai governance Model there's also developing transparent secure ethical related responsible ai in in One of the slides especially when looked at um the

the the togaf in terms of developing of of Systems It's important that the Developers Understand The regulations And and the ethics of developing responsible ai Systems important again is also um ensuring that is multinational and sectoral collaboration to allow digital data sharing What's important is data sharing through secure communication platform again because you do not want a situation Where the data that is Being shared is again Being compromised because This communication platform is not secure Enough and lastly Then there's the effective use of ai Systems as Killed Cyber Security workforce through awareness and Training I

thank you um that was um my presentation if to say if we have to look at what needs to be done you know the the Framework itself Sounds practical and it can be um adjusted it can be amended to Suit Any Industry it can Suit Any sector it can Suit Any Nation using also the existing standards and practices that Have been Um outlined so that can then be Used as One of the um guiding principles that um the G20 nations time translate bom obrigado nulo e e é interessante porque quando a gente fala de um

painel como esse que tá abordando basicamente segurança cibernética e inteligência artificial nós estamos falando de duas inovações totalmente transversais que abrangem diferentes eh esferas políticas Administrativas econômicas e sociais e isso inevitavelmente traz uma série de de desafios legais administrativos eh governamentais então Eh tendo esse Universal baseline que é a que a nulero trouxe eh nos dá uma uma luz de certa forma de como que a gente consegue eh iniciar o processo de de vencer esses desafios desafios que tem um elemento teórico tem um elemento político e tem um elemento prático Eh e muito é debatido

né quando a gente coloca Inteligência Artificial segurança cibernética como eh inovações disruptiv e aqui eu me refiro a inovações disruptivas não como um termo genérico mas como um conceito acadêmico de uma inovação que efetivamente Altera a competição eh entre diferentes atores seja no mercado econômico seja no na Esfera política uma inovação disruptiva na forma da questão cibernética dos Desafios que a questão cibernética saber Espaço propõe eh e agora potencializados pela inteligência artificial proporciona ganhos em termos de volume e velocidade eh até então inéditos eu acho que a gente tem a configuração dessa inovação disruptiva e

na condição de inovação disruptiva muito tem sido discutido aqui nesse painel e nos outros painéis também eh as adaptações governamentais e políticas institucionais para isso e primeiro passo para isso talvez seja justamente Ter E e esse baseline Universal que também é transversal na sua natureza Então você tem uma solução transversal para um problema transversal eh enfim de ficar discutindo isso aqui horas eh mas eu preciso passar a palavra em algum momento e agora eu queria convidar a Nina falar com a gente um pouquinho ela é diretora do Instituto da hora também pesquisadora da recod da

e da Unicamp e também é Ford fellow de 2024 que aqui com a gente eh n palavra tá com você oi oi oi bom gente Bom dia obrigada brano obrigada colegas aí pela fala Inicial e pelo convite eh eu vou falar um pouco do lado da Computação né que é onde eu tenho experiência eh e eu acho importante começar dizendo que pra gente da tecnologia é bem novo o tema de regulação né Principalmente de pensar regular algoritmos as ferramentas que Nós estamos desenvolvendo mas não é novo ter agência ser as reguladoras aí que vão regular

o uso dessa tecnologia até porque já tem uns mais de 20 30 anos que nós respondemos a processos relacionados ao uso de dados relacionado a como essas ferramentas impactam a vida da sociedade então é bom diferenciar né como que tá sendo esse debate da regulação agora para que é novo o debate da regulação de Inteligência Artificial mas não é novo a responsabilidade que nós temos durante Esse desenvolvimento eh eu acho que um ponto aqui até da representação do laboratório lá na camping né É que por acaso agora Campinas se tornou a capital de ciência inovação

então acabou vai acelerar ainda mais os processos e as pesquisas que nós estamos desenvolvendo lá voltadas pra área da saúde e da agricultura que é onde nós temos eh uma base forte na Unicamp na computação eh nós estamos identificando agora eh algumas alguns Desafios nos processos durante o desenvolvimento nos Laboratórios antes de chegar nas empresas de bigtech eu sei que ontem e provavelmente hoje em outros painéis vocês vão ouvir muito sobre bigtechs e regulação eh algoritmos muito do ponto de vista das bigtechs e sempre relacionando à startups e as empresas mas é importante trazer o

o olhar da pesquisa acadêmica que é onde nasce os algoritmos e todos os processos que nós estamos utilizando hoje como ferramentas De Inteligência Artificial então um dos Desafios que nós estamos identificando no laboratório e consequentemente nas organizações de terceiro setor que trabalha próximo né do dos laboratórios lá em Campinas aqui no Rio é o desafio de nós enquanto pesquisadores ter a preocupação de seguir um Framework ético tem o Framework ético da Universidade né para quem não tem uma noção que todos nós temos que seguir para qualquer projeto de pesquisa e tem um Framework Os diferentes

frameworks que tá sendo proposto aí durante a regulação durante esse debate até por conta das eleições eh uma das dificuldades é É de fato escolher qual Framework nós vamos seguir para poder desenvolver as pesquisas e não paralisar a Inovação né Eu sei que existe argumentos muito eu não diria argumentos mas opiniões muito fortes de que regulação paralisa a Inovação mas nós lá em na na universidade Não aderimos a essa prática né pelo Contrário eh nós esperamos que a regulação nos ajude a decidir o Framework ético durante nosso desenvolvimento durante a pesquisa um dos pontos que

eu disse no início nós trabalhamos muito com a área da saúde né então detecção de de imagens eh processamento de de imagens médicas para poder ter a detecção mais rápido do Câncer principalmente do câncer de pele que é onde o grupo de pesquisa que eu tô Atrelada participa mais e em relação à agricultura nós estamos falando ali do uso para acelerar o processo de identificação de possíveis problemas antes da da dos alimentos chegarem até a casa das pessoas para poder tentar prevenir antes de passar pela pela pelas autoridades regulatórias de alimentação né e dentro desses

ess existem frame existem desafios pra coleta desses dados pro uso desses dados pro compartilhamento desses dados aí OK Vocês já devem ter escutado bastante sobre isso sobre isso ontem mas existe um outro desafio de como que Nós pensamos os algoritmos desde o início tá pré coleta de dados né E e esse e esse desafio El ele durante a discussão de regulação da Inteligência Artificial eh não só no Brasil mas principalmente na Europa fica invisibilizado porque tem poucas pessoas da computação e estão dedicadas a participar dessa discussão eh de regulação Ora por conta do tempo Ora

Porque alguns realmente ainda acreditam que não é uma discussão e que deveria estar sendo feit agora né vulgo que foi adiado mais uma vez eh a votação da regulação no Brasil justamente com esse com esse argumento então é importante chamar atenção Para isso porque muito se discute sobre a regulação em relação aos dados coleta uso e processamento dos dados mas nós temos um desafio muito maior que é durante o desenvolvimento dos algoritmos E isso aí não vai ser exposto de forma eh prática em debates como esse porque envolve outros processos e tomar decisões que muitas

vezes não podem ser abertas por questões né é da privacidade do projeto né e e e do do desenvolvimento da pesquisa em si então é importante também diferenciar quando nós usamos a palavra ética dentro desse contexto da regulação que já existe a ética que é implement desenvolvida e e muito bem colocada em prática nas Pesquisas e a ética que estamos tentando discutir de forma prática na regulação envolve mais sobre o uso né a parte moral e infelizmente Na minha opinião tá muito dedicada às empresas bigtech e startups e a gente esquece que os fundamentos que

nós estamos discutindo aqui eles nascem nas universidades então para finalizar eu acho que dentro desses diferentes frameworks que estão sendo eh eh compartilhados desenvolvidos discutidos nós precisamos de fato pensar Nesses frameworks a partir dos fundamentos e os fundamentos eles neste momento não neste momento e há muito tempo não estão sendo desenvolvidos só em espaços eh do setor privado Obrigada eh eu acho que a Nina trouxe um pouquinho mais de complexidade aqui pro tema eh e e eu queria também chamar a atenção justamente para isso né como é que é difícil a gente discutir Eh Inteligência

Artificial eh no contexto de cibersegurança já internamente né dentro de um quadro interno porque a gente tem uma matéria que é transversal ela é multidisciplinar ela ela conversa né com diversos setores diversos eh tipos de de profissões que tem que trabalhar em pra gente conseguir desenvolver as melhores práticas e isso aumenta a complexidade Ainda mais quando a gente torna isso é mundial e Principalmente no contexto do G20 né Eh como que é difícil a gente desenvolver padrões que possam ser aplicados internacionalmente eh que possam servir a múltiplos estados mas ao mesmo tempo como é necessário

a gente pensar em como esses modelos né trazidos esses padrões vão se adaptar à nossa realidade né brasileira e como que issso envolve aí eh múltiplos eh setores para que eles também pensem né Essas adequações não só na regulação mas num Momento antes da Concepção né quando você tá pensando eh eh no desenvolvimento da Inteligência Artificial Eu acho que um ponto também muito importante trazido Pela nina mas a gente tentar desmistificar isso que a regulação ela impede a Inovação isso não é uma verdade né Eh é claro que tem eh é de repente depende da

regulação e depende também aí de quem e das opiniões né porque a gente tem abertura aí para para todos os Entendimentos mas a gente aqui pelo menos a gente tenta enxergar a regulação como até como um facilitador né E é claro que depende da da ferramenta da Estratégia regulatória que você vai utilizar né você não necessariamente você precisa ter uma regulação de comando e controle rígida é com aplicações de sanções Mas você pode tentar implementar no no desenvolvimento da regulação mecanismos em que permitam a facilitação do desenvolvimento do Próprio eh negócio que é justamente eh

eh o o que a gente pensa e imagina que que seja eh o ideal eh o nosso próximo participante eh ele infelizmente também não pode estar aqui conosco é a Olga Cavali ela é diretora eh da eh da faculdade nacional de defesa da Argentina mas ela eh não vai conseguir também estar ao vivo né pelo zoom conosco mas ela enviou um vídeo que fala justamente um pouco pra gente refletir eh em torno de Quais são esses padrões Que poderiam ser aplicados né Eh Quais são as dificuldades que são eh divididas né por todos os os

países que compõem o G20 e o que que a gente poderia pensar pelo menos em comum para tentar desenvolver eh o vídeo já tá preparado pode colocar acho que a gente tá com probleminha com o som a gente pode inverter também passar de repente a palavra pro Igor Eh vamos adiantar então pode ser eh eu vou passar a palavra pro pro Igor eh o Igor Ele é professor na uf eh e coordenador também de uma comissão especial sobre segurança da informação e computacional ele também a que pode ter just até um pouquinho mais dessa visão

multidisciplinar que a gente estava falando aqui sobre essa questão da complexidade obrigado natlia bom dia a todos queria primeiro Agradecer o convite feito pela nata pelo Breno para Participar do painel sempre prazer participar de eventos como esse com o Marcelo com a Nina A gente já tem feito um evento anterior né agora repetindo então só agradecer pelo convite como sou professor da cidade Federal Fluminense então tô pertinho aqui do outro lado da ponte eh coordena a comissão especial de cibersegurança a gente acabou de mudar o nome para ficar mais curtinho e contextualizado da Sociedade Brasileira

de Computação também coordeno o comitê técnico de cibersegurança da rede nacional de C pesquisa da RNP e faço parte também da Rede Brasileira de cibersegurança como Ana Nina Natália o Breno que tá ajudando na organização do evento Então eu tenho um roteiro preparado Breno só pode prestar o passa dois slide Mas eu sempre gosto de falar depois da Nina porque ela vai direto ao ponto E aí eu acabo mudando meu roteiro mas eu prometo que Vai ser rapidinho Como eu faço parte da academia eu me identifico muito com com esse discurso e a gente sempre

fica um pouco a par dessas questões de regulação a gente acaba sendo um patinho feio ou ou ou um peixe fora d'água na Nessas questões mas é sempre bom a gente se envolver e ver que a gente tem espaço para contribuir na sempre que possível então Acabei de ver a a apresentação da Professor mão buelo e já vi lá que tem a parte de operacional e que eu vou falar Basicamente sobre isso já já mas só pegando o gancho aqui da Nina para não deixar passar e isso que ela falou é bastante importante hoje tá

E existe uma mudança de visão da academia sobre essa questão de regulação eh como a Nina falou hoje em dia se a gente trata de dados pessoais ou de de dados sensíveis a gente não consegue submeter um projeto sem ter o parecer da comissão de ética da Universidade de outro organismo então nenhuma agência de fomento aceita o Nosso projeto começa a avaliação do nosso projeto sem isso então é algo que a gente tem em mente hoje e e e a academia mudou um pouco da da sua visão em relação a essa questão de regulação enfim

n eh eu sempre brinco também com malagutti quant as pessoas que eu converso sobre a regulação que a gente antes da regulação né a gente tá preocupado e a pergunta que eu faço é sempre quem vai regular e quais são as pessoas ou seja existe gente com a Capacitação necessária para fazer essa regulação então a preocupação da comissão especial de segurança da informação cibersegurança da SBC agora a gente mudou o nome não gravei mas a preocupação principal da comissão especial é com a questão da educação a gente trabalhou TRS anos na elaboração do que eu

vou falar para vocês de um referencial de formação para um curso de cibersegurança Então a nossa preocupação e o que eu vou falar sobre da a pouco é Como a gente pode ajudar na questão da regulação do ponto de vista de preparar pessoas para atuar nesse órgão nessa área eh em particular da cibersegurança no Brasil tá bom como eu sou professor eu sempre faço uma pergunta pra turma né para ver se o pessoal tá acordado se não tem ninguém dormindo prestando atenção Então a primeira pergunta prometo que é a única é se vocês têm ideia

do Déficit de formação de profissionais da área de Cibersegurança em todo mundo alguém quer dar um chute é de mil milhares milhões bilhões pessoal que não vag porque ele já viram as transparências antes bom esse número segundo o Forum econômico Mundial é de 85 milhões até 2030 então é um número absurdamente grande de pessoas capacitadas para trabalhar na áre Então isso é uma preocupação bom a gente tá falando em regulação tá falando em desenvolvimento de novos algoritmos coisas relacionadas E falta gente com conhecimento necessário para trabalhar na Então essa é uma preocupação que existe tem

números menores mas uma escala de tempo menor também por exemplo 4 milhões de pessoas faltam 4 milhões de pessoas capacitadas para assumir postos de trabalho na área e aqui no Brasil a gente tem um número que Marcelo sempre brinca que tá eh subestimado de 140.000 pessoas até o ano que vem tá bom e uma das coisas que trouxe essa Aproximação foi a criação da política nacional de cibersegurança e uma coisa que a academia fez a academia se aproximar é que lá no texto da política nacional de cibersegurança nos seus princípios é mencionada a questão da

educação e desenvolvimento tecnológico Então se é uma preocupação da política nacional as pessoas que fazem educação ou que conduzem educação e que que que que fazem pesquisa e desenvolvem inovação na área precisam estar Envolvidas tá então tá lá nos nos objetivos também a questão da educação desenvolvimento treinamento técnico profissional e prover inovação científica tecnológica e E por aí vai então se tá na política as pessoas que fazem isso como eu falei querem se envolver e querem participar e querem contribuir de que forma isso pode ser feito existe malag é o secretário executivo do Conselho Nacional

de cibersegurança e a gente tem Representantes da academia no no conselho então o Luca aqui da FGV é um dos representantes eh a gente tem representantes do CPqD da RNP E por aí vai e que atuam na na nessa área de de pesquisa e desenvolvimento então Eh essa é uma questão importante de ser colocada bom como eu tinha falado eh durante 3S anos eh desde 2020 né foi finalizado em 2023 a gente continua no processo de de regulamentação que eu vou falar já já mas a SBC definiu um Referencial curricular para um curso de bacharelado

em cibersegurança Então quem quiser acessar esse referencial ele tá disponível na na Biblioteca digital da SBC é gratuito a gente já tem cerca de 1500 downloads desde que ele foi publicado lá no final de 2023 e o que que cont esse documento tá esse documento ele é organizado em oito eixos de Formação que a gente chama que cobrem diversas áreas da cibersegurança desde a segurança de dados eh passando pela Segurança de redes segurança de conexão até aspectos eh humanos em cibersegurança que é uma questão super importante e as questões que a gente trata de regulação

de de ética que lá eh tá lá englobado o o nesse último eixo né que a gente chama de segurança de sociedade Mas é uma visão bem pessoal da Computação então tem lá no início uma formação em computação ciclo Basic computação eh enfim eh aqui é só a estrutura do Documento não vou entrar em detalhes mas basicamente para cada eixo a gente define competências vocês não vão encontrar lá quais disciplinas vão ter nesse curso qual é o conteúdo Qual é a referência bibliográfica daquela disciplina A ideia é dizer o que que a gente espera de

um profissional eh que atue nessa áa tá E outra eh publicação derivada desse referencial de Formação é que tem uma edição atual da revista computação Brasil que é publicada pela SBC que tem artigos sobre o referencial então basicamente o que a gente fez tem um artigo sobre cada tópico do referencial então também se quiserem acessar é gratuito eh tá disponível na Biblioteca digital da SBC bom eh como é que é como é que é o desdobramento né Qual é o desdobramento principal Qual o objetivo da SBC quando ela lançou esse referencial de Formação eh o

objetivo principal era fazer com Que esse referencial se tornasse base paraa elaboração de uma diretriz curricular nacional que é de responsabilidade do Ministério da Educação mas esp amente do Conselho Nacional de Educação eh e dando continuidade a esse processo no último mês não esse mês né No início desse mês eh a gente se reuniu com o Conselho Nacional de Educação e foi criada uma comissão para avaliar a criação dessa diretriz curricular Nacional então já Foi criada a comissão a comissão tá trabalhando na análise desse documento que vai servir de base paraa criação desse currículo de

Formação em cibersegurança que é um primeiro passo importante para que outras instituições adotem esse currículo e a gente comece a formar profissionais específicos nessa área aqui no País tá é uma coisa bastante recente tem poucos lugares no mundo Então essa é uma é uma vamos dizer assim é um ótimo momento para se fazer Isso porque em outras conversas né Eu até comentei a gente tinha comentado isso em outros no outro painel é um é uma área muito Atrativa tá desde crianças até até adultos e profissionais de outras áreas estão se interessando cada vez mais pela

cibersegurança como o Breno falou é um tema transversal multidisciplinar então é um momento da gente trazer mais pessoas pra área e formar pessoas capacitar pessoas nessa área então só para finalizar Eh O que que a gente tem feito agora além do referencial de do referencial do do curso eh a SBC lanou há poucas semanas um plano de Inteligência Artificial então eu documento com contribuições para outros atores eh que trabalham na área eh possam ler e e e e criar esse ambiente de discussão e mostrar que a SBC pode contribuir pode discutir sobre o tema e

aí como a gente não quis ficar para trás o pessoal do cibersegurança a gente tá planejando Também lançar o nosso planejamento estratégico da área e a gente começou a trabalhar isso há poucas semanas a SBC já deu a direção da SBC né já deu o sinal verde pra comissão especial e a gente tá começando a discutir isso internamente e em breve a gente deve ter o texto a previsão é que a gente tenha no final de setembro esse texto para lançar e para que possa ser discutido por toda a sociedade bom pessoal obrigado Mais Uma

Vez pelo convite era Isso que eu tinha para falar Muito obrigado Igor eh a vantagem de participar desses painéis é que a gente consegue pegar ao mesmo tempo a dimensão técnica e uma dimensão também no caso governamental que tem esse pé no no mercado privado lógico mas e essa dimensão também de políticas públicas porque de novo como a gente tá falando de uma área tão transversal quando a se referindo a segurança cibernética e Agora com a questão da Inteligência Artificial eh comumente e a gente observando esse debate observando como vem evoluindo Essas matérias ao longo

do tempo a gente via inicialmente uma um velho oest né uma terra uma terra sem lei Eh agora a gente vê princípios de regulação agora a gente vê iniciativas de educação principalmente a questão da escassez da mão de obra em segurança cibernética ela é Gigantesca ela afeta não só o Brasil mas o o o mundo todo como Igor muito bem TSE eh e não é que não exista eh pessoas não existam pessoas qualificadas Para isso elas precisam ser absorvidas institucionalmente politicamente através de medidas e e de políticas públicas que consigam potencializar essas iniciativas já existentes

então por exemplo a Nina também fosse questão do do dos algoritmos a inteligência artificial que A gente fala que que tem sido falado Tão de de forma tão Ampla e genérica tá muito enraizada nos al nos algoritmos que não são mínimamente novos entendeu Inclusive só uma observação a a Nina Pou essa questão principalmente inteligência artificial na saúde nós temos se eu não me engano mais dois painéis hoje que vão falar especificamente Inteligência Artificial e saúde se eu não me engano um deles imediatamente após o nosso inclusive Aqui no centro cultural quem quem tiver interesse eh

então assim só para daqui a pouco já passar pro vídeo da da Olga também eh eu acho importante a gente ter essa visão dos dois lados da moeda eh da Inteligência Artificial de segurança cibernética que é a dimensão técnica e a dimensão de políticas públicas que tem sim que estar casadas umas com as outras porque senão eh não vai paraa frente a questão da ah a regulação impede a Inovação pelo contrário às vezes eu acho que a regulação dá até de certa forma um Norte então Unos fundamentos para que a gente tenha a a Inovação

e ela aconteça de forma ética Ainda mais quando a gente tá falando de uma inovação tão disruptiva quanto Inteligência Artificial que promete ganhos eh literalmente eh trans humanos né Então eu acho que é importante a gente ter essas duas dimensões da mesma moeda Esses dois lados da mesma moeda casados um com o outro por isso que é tão interessante essa composição do painel como como a gente tá vendo aqui agora para falar um pouquinho mais disso eu eu agora sim o o o vídeo da Olga Olga que como a Natália apresentou a diretora da da

faculdade nacional da faculdade nacional de defesa da Argentina A Olga tá nesse momento tá num avião se deslocando então por isso que ela não pode participar pelo zoom também então Ela contribuiu com com o vídeo eu vou deixar ela fazer apresentação ela muito brevemente o vídeo realmente curtinho e aí a gente CONSEG partir perguntas a Hello colleagues amav present I am in Buenos Aires but unfortunately at the time of very interesting panel and interesting conference I will not able to online synchronicity with you I will be in a plane and I was also planning to

to Visit you in in Brazil but unfortunately Other working commitment are have me in in in this Moment in another place in the world traveling so I am Sending this this video have a powerp but don't Panic it's not very long it's just to to to show you some interesting information that I want to share with you in relation with this panel and Of course I will I will send it to you After the After my short Brief presentation and um what i would like to Focus now is a document that was produced by the

Secretary of innovation at the time I was working for them now I have a different role in the In The National Defense faculty but last year This document was produced and we work some of Us in in in producing this document that I think it's important it is not binding to the organizations but It's an interesting reference that was that was developed in in the government in Argentina So what what we what we noticed when we started to think about This this document or think about this this rules that could be develop is is there

is a demand for responsible artif coming from the government so we that having a document as a reference could be a good idea the problem with government is they need to have this very difficult balance balance is difficult in life but in government extremely difficult it's you have to take care Of privacy You have to take Care of security you have to innovate make Progress you have to be competitive At The National and International level and you have to support to grow the Economy so all this together some of These Things are they don't get

al well especially privacy and Security so this are competing interests and they they really Impact the Any National process that Regional or International that where you Want to you Want To Build some some kind of commitment or or consensus so so It's Not Easy to facilitate debates can see in all United nations processes for Cyber Security Cyber crime that take Long Time Of course different interest in the same in the same Space make things more difficult to to agree and have some consensus and commitments so I will present briefly now in five si minutes the

contents of documents here below and I will send this short Presentation to you is link To document document spanish recom artif fiable recommendations for trusted artificial intelligence and basis of the document is the G20 ministerial meeting on trade and digital Economy Argentina is a G20 member Country and some con techy economic and produc devel of nations but as I said in a moment ag This This is challenging for for governments and for countries so It's important To adopt The Human Center artificial intelligence principles and incorporate this principles in all the phases of Any artificial intelligence

Project so This is the General Concept of this documents which was produce it and highlighting some of the documents you can go in spanish but It's Not difficult Now to Translate documents from to other languages and how to Establish anate degree of information Security in development based on artificial intelligence This is one Part of the document so One Thing that It's recommended to establish a diverse multidisciplinary work und the scope of International standards and regulations best practices improve transparency controlling the people that access the Systems and use the applications and develop the applications test vulnerabilities

try to Take the time to test the Systems and include authorities with responsibility on Security What need to be consider you have to keep in mind that have to inclus growth in mind sustainable development Human Center values especially Freedom Freedom of Expression dignity autonomy privacy and data protection non discrimination equality diversity social justice and International recognized Labor rights so all of this has to be in Mind when you develop artificial intelligence System transparency explainability it has to beust and must be you have to consider traceability eh the part that I think very important What is

recommended to do before starting an artificial intelligence cycle or process evaluate the level of awareness in the organization so I hear a lot here in in Argentina Oh yes artificial Intelligence is very important we have consider that what what do you have which is the level of awareness What do you have in your organization or your Company are you able to do this is this the right moment is the use of artificial intelligence Exclusive for the problem you want to solve or It's broader what is the scope which models of artificial intelligence will you adopt

for example It's Only automation You Will only automate some of the Repetitive Task process that respond to specific problems labors that that can be easily automated or you have to Mix machines and humans to collaborate to solve problems Human Machine Model augmented intelligence Model Human in the loop Model so these are two different so this questions are important that an organization or a Company think about before starting an artificial intelligence Project Why are you using it It's really a need for artificial intelligence What is the intent of the use of this artificial intelligence How will

Human control be carried out so It's Only machines that's May be problematic you need Human control also in the loop and of course considered ethical aspects Within this artificial intelligence cycle and this are my 10 minutes this beautiful book was produced by fio Vargas and the school schol internet governance Available in our Website and you can follow US on social Networks to know Where the next School will be and I send you my regards from Argentina if you have any coms or you want more details about the document that I presented just send me ae

on social Networks iali in all the social Networks best from Argentina bye eh foi muito bom né esse vídeo da Oba porque ela também conversou bastante com o que que a gente precisa fazer Quais São as ações que a gente precisa eh prestar mais atenção e acho que a gente tá no tempo né do nosso painel não estouramos e acho que conseguimos eh nos manter firmes O que é difícil para nós acadêmicos né quando a gente pega no microfone a gente gosta de falar bastante eh Então acho que a gente tem algum espaço Eh paraa

pergunta eh enquanto acho que o microfone passa sintam-se à vontade para fazer Questionamentos para qualquer um dos palestrantes eu também tenho duas perguntinhas e eu vou também abusar da minha prerrogativa de uma moderadora é uma pro Marcelo e falando em cibersegurança é clar Claro é um tema que me interessa porque né eu tô fazendo é meu doutorado em cibersegurança e eu penso muito na questão da governança Então queria que você falasse é um pouquinho eh o que que Quais são os benefícios da gente se Pensar numa agência reguladora para ser o nosso arranjo institucional eh

de governança e antes de passar a palavra para você conseguir responder eu queria eh saber de vocês dois também eh Quais são os instrumentos porque a gente falou muito nessa questão da importância da educação né mas uma uma questão prática quis são os instrumentos que a gente tem disponível eh hoje e que seriam úteis para que a gente pudesse até utilizá-los em favor da educação e Como eh inseri-los numa política pública mas pensando numa cooperação né é como que a academia Ela poderia cooperar com setor setor público e poder desenvolver eh medidas que capacitasse mais

eh a cibersegurança e tem acho que vocês podem responder e depois a gente passa né pro eh pro público para é tá pode ser eh Bom dia Thiago da npd eh o o meu questionamento e vem comentário é end principalmente da partir das falas do Dr Malagutti também do Igor se vocês não acreditam que existe na verdade bastante sinergia em propostas estão sendo trazidas entre proteção de dados e a cybersegurança né Principalmente quando a gente fala por exemplo na formação de um plano de currículo nacional que de fato é algo muito importante eh e aí

eu aproveito para fazer a ressalva porque eu achei eh fiquei até bastante contente D malot quando você traz que apenas 5% dos problemas de a hoje envolvem dados Pessoais porque curiosamente 10 dos 13 casas de alto risco que estão no no PL são os que envolvem dados pessoais como casas de educação trabalho saúde então isso na verdade traz uma mensagem positiva pro mercado que ele tá muito preocupado de que essa é uma regulação que vai travar a Inovação E aí talvez a sua mensagem talvez vai até num sentido diferente e aí também é sempre importante

pra gente fazer um um chamar atenção a npd de fato não é uma agência Reguladora mas enquanto a arquia a gente tem sim autonomia financeira administrativa e o fortalecimento institucional de fato é necessário a gente concorda nesse ponto é algo que a gente tem lutado bastante nosso Presidente ele tá trazendo muito disso eh em todos os espaços né de debate inclusive no legislativo e a gente acredita inclusive que essa regulação de a pode ser um caminho para justificar nosso Fortalecimento mas o alguma pergunta Eh ok então eu vou tentar fazer um apanhado aqui acho que

dá para juntar tudo numa numa única resposta Eh vamos começar primeiro com a questão da cibersegurança e sua relação com a inteligência artificial e com a proteção de dados eh é mais ou menos óbvio que esses esses três assuntos se tocam e se tocam eh com razoável eh superfície de contato eh isso fica mais claro ainda Essa percepção fica mais Claro ainda quando a gente observa que o Congresso Nacional recentemente fez uma proposta de uma comissão mista eh que trata exatamente o nome dela é comissão mista de proteção de dados Inteligência Artificial e cibersegurança ou

seja os três assuntos são percebidos pelos congressistas e comissão mista para quem não tá acostumado com a linguagem do do do congresso significa um conjunto de senadores e um conjunto de Deputados Tratando desse assunto simultaneamente Ou seja a intenção é dar celeridade paraa discussão desses três temas que como eu disse são três temas distintos o nome separado indica isso mas que se tocam com uma superfície de contato considerável eh quando a gente fala de de da questão do número de de órgãos reguladores e da percepção da sociedade eh tá naquele comentário Inicial que eu fiz

eh do do aliás Inicial Não acho que foi no painel anterior eh da percepção Brasileira eh temos uma crise E aí eh temos que resolver essa crise então quando a população percebe uma grande ameaça um grande rco nos sistemas de inteligência artificial é porque ela tá percebendo aqueles que a tocam no dia a dia que ela percebe no dia a dia quando eu vejo um anúncio de que a meta hoje né formalizou que que está saiu publicamente n tinha formalizado ontem que ela está atendendo a determinação da da npd que ela vai Parar as atividades

de inteligência artificial no Brasil utilizando dados pessoais é muito legal porque a npd tá fazendo o papel dela o estado tá fazendo o papel dele e a o setor privado tá obedecendo como a gente imagina deve ser feito eh e aí a sociedade respira aliviada Mas isso não não resolveu os problemas da Inteligência Artificial isso resolveu aquele problema específico que foi observado que no eh no contexto geral afeta eh dados pessoais só que Você não vai ver um clamor Popular eh para que alguém interrompa uma pesquisa de Inteligência Artificial que envolve dados hidrológicos da Amazônia

e tem pelo menos duas que eu tenho conhecimento que estão em andamento similarmente a a a Nina trouxe questão de pesquisa agrícola a gente ouviu ontem o caso da pesquisa de antibióticos isso não afeta dados pessoais não vai haver um clamor Popular para que interrompam isso para que alguém regule isso para Que alguém eh trate disso eh embora isso Deva ser tratado isso Deva ser regulado isso Deva ser protegido porque pode no futuro afetar a vida das pessoas de que forma nós vamos fazer isso vai ser com a npd bom pode ser a npd é

um órgão competente tem pessoas de de do melhor calibre tem se dedicado faz um trabalho um esforço enorme para para instituir eh um processo de governança e esse esforço vai ser aumentado porque vai ter trabalho adicional mas espera-se que Tenha recursos adicionais para fazer isso se a decisão for essa que assim seja como eu falei eu tenho um espírito muito pragmático precisamos ter um regulador não tem outro regulador melhor qualificado então que seja npd tem um processo diferente possível curto prazo Então vamos estudar esse processo se não tiver siga com o que temos ajustamos depois

melhoramos depois ficar procurando pela Perfeição não vai levar a lugar nenhum o fato é que tanto a Proteção de dados quanto a inteligência artificial são muito tocadas pela cibersegurança a gente viu aqui na apresentação da nossa colega Argentina eh que existem pelo menos quatro processos A Nelo também falou a mesma coisa existem pelo menos quatro processos que afetam desenvolvimento de inteligência oficial em três deles nós temos problemas de cibersegurança antes de falar de dados inclusive no caso da da colega Argentina ela citou o acesso de pessoas ao site de desenvolvimento é uma questão de proteção

Física não é nem de cibersegurança é uma questão de proteção física que antecede tudo isso então a gente tem essas coisas todas se relacionando eh e levando a uma conclusão inevitável eh nós vamos ter que conviver com a inteligência artificial nós vamos ter que conviver com problemas de dados sejam pessoais e sejam eh corporativos ou da natureza ou Sejam do que for e nós vamos ter problema de cibersegurança como é que nós vamos lidar com essas três coisas se vai ser eu eu vi um tempo atrás uma proposta de criar um ministério do digital eh

não resolve nada porque Ministério não tem capacidade regulatória então não resolveria o nosso problema a gente precisa de um de um arranjo institucional diferente se vai ser com três agências se vai ser com uma agência se vai ser com duas dividindo Funções ou se vai ser um conjunto de de de de autarquias especiais que trabalham eh em conjunto com as outras autarquias especiais e não autarquias como a SUSEP como eh eh a cvm que regula a bolsa de valores e outros órgãos aí igualmente importantes reguladores eh a gente tem que definir e tem que começar

a trabalhar e perceber Qual é a extensão do problema e Corrigindo o nosso rumo conforme o andamento conforme a possibilidade Eh de fato o que me preocupa ou institucionalmente falando é a cibersegurança como pesquisador como temática que eu trabalho e aí a sua pergunta é como é que nós podemos fazer o arranjo Por que a gente entende que agência regulatória é o melhor modelo bom eh porque é o arranjo que funciona no Brasil bem objetivamente bem francamente eh poderíamos ter arranjos melhores só que nós teríamos que criar um mecanismo Regulatório completamente diferente daquele que nós

temos institucionalizado desde de 1996 quando foi criada a ANEL Agência Nacional de Energia Elétrica eh caiu no gosto do brasileiro ou caiu na compreensão brasileiro pode não gostar mas pelo menos ele compreende o funcionamento de agência regulatória ele aceita esse funcionamento ele administra isso no dia a dia dele e quando eu tô falando do brasileiro eu não tô falando só do cidadão comum eu tô falando do Empresário eu tô falando do pesquisador eu tô o arranjo institucional montado ele funciona razoavelmente bem desse jeito a gente pode reclamar da qualidade do serviço das operadoras mas ninguém

reclama da qualidade da gestão da Anatel a Anatel vai lá multa cobra bota regra tenta aumentar tá a segurança ela tá fazendo o trabalho dela igualmente os bancos com o banco central igualmente a bolsa de valores com a cvm e assim sucessivamente é claro tem setores que a Regulação tá funcionando melhor tem setores que tá funcionando pior mas isso é da natureza humana nem tudo vai funcionar bem o tempo todo mas a gente tem um esforço concentrado um esforço eh eh operacional sendo executado nessa linha eh para que a gente eh tenha aí uma um

mínimo de proteção e organização da nossa sociedade para que ela funcione normalmente Nesse contexto nós temos um uma discussão parecida no no GSI que envolve infraestrutura crítica eh qual é O órgão que regula infraestruturas críticas nós não temos um órgão nós temos vários órgãos que parcialmente regulam as infraestruturas críticas de seus setores mas tem um monte de outras infraestruturas críticas que não é regulada por ninguém um grande problema que nós temos de infraestrutura crítica Aqui no Brasil é que de vez em quando alguns Alguns indígenas de algumas localidades eh para chamar a atenção de uma

causa qualquer que eles tenham lá Eles vão e derrubam uma torre de de energia elétric ou uma torre de telecomunicações não tem nada a ver com cibernética não tem nada a ver com proteção de dados tem nada a ver com é infraestrutura eh crítica para nós nós precisamos daquela infraestrutura funcionando eh mas por uma razão qualquer fisicamente alguém foi lá e causou um dano que precisa ser resolvido nós vamos criar uma agência específica de infraestrutura crítica nós vamos Juntar isso com a possível agência de cibernética nós vamos fazer eh um modelo regulatório diferente nós vamos

propor um modelo legal Eh vamos mudar o decreto lei 200 para fazer um arranjo institucional diferente podemos fazer isso com tudo nós somos uma sociedade madura uma sociedade moderna que pode fazer isso tudo só que isso leva tempo um tempo que nós talvez não tenhamos E no caso da cibersegurança Eu garanto para vocês nós não temos né o Brasil não É o segundo a segunda plataforma digital a segunda o segundo governo digital do mundo à toa porque porque a sociedade brasileira gosta de serviços digitais e a gente não é o 18º correção o 25º na

lista da da união internacional de telecomunicações e em termos de cibersegurança à toa É porque a gente é preocupado em oferecer o serviço mas não é preocupado em proteger o serviço é É um descompasso enorme você ser o segundo a quinta eh superfície do mundo a sexta População mundial a oitava Economia em termos de poder de compra o segundo governo digital e o 25º colocado em segurança cibernética tem alguma coisa muito errada parte disso O Igor abordou é falta de pessoal é E por que que falta pessoal se as ofertas de emprego estão disponíveis se

os salários são bons falta treinamento falta educação falta preparação das pessoas para poderem exercer Essas atividades Então essas coisas a gente tá tentando junto com a SBC junto com o Conselho Nacional de Educação junto com outros órgãos melhorar isso eh é um processo longo né Vamos criar a diretriz Nacional curricular Vamos criar o primeiro curso de graduação e depois de 4 anos nós vamos ter a primeira turma de formato a primeira turma vão ser 40 pessoas 30 pessoas eh nós precisamos de 140.000 hoje nos dados do Igor nos meus são 480 Ok então Eh nós

precisamos agir rápido mas nó Temos que passar por esse caminho Esse caminho tem que ser trilhado E aí eh nessa nessa eh aceitação que a sociedade brasileira tem de agência reguladora eh a gente vive um momento paradoxal No Brasil quando a gente fala vamos criar uma agência reguladora o o setor privado é o primeiro a protestar Não quero vai agregar custo vai agregar problema há 10 dias houve uma audiência pública no senado lá em Brasília e quatro representantes de de de de associações De empresas foram lá dizer olha nós apoiamos a criação de uma agência

de cibersegurança Por que que parece paradoxal né porque vai agregar custo vai agregar problema mas como a Nina observou o a academia tem esse interesse mas o setor privado também tem nós queremos uma direção a gente quer saber o que que a gente pode fazer o que que a gente deve fazer enquanto ninguém dá direção nenhuma tá todo mundo com medo de fazer e depois ser proibido lá na Frente então é melhor que a gente dê uma direção e que as pessoas apontem Claro toda vez que a gente faz uma regra eh alguém é prejudicado

eh nós precisamos debater melhor para diminuir o número de de prejudicados mas sempre vai ter alguém que vai se sentir prejudicado E aí Democracia é assim prevalece o interesse da maioria né então nós temos que entender isso nós temos que atuar nesse sentido nós temos que trabalhar nessa direção e nós temos que trabalhar Com aquilo que funciona porque o Brasil tem uma cultura muito interessante só tem dois países no mundo em que você eh tem o conceito de expressamente proibido porque para todo mundo proibido é proibido você não pode fazer mas no Brasil a gente

tem é expressamente proibido por quê Porque o proibido bom se não tiver ninguém olhando eu posso fazer mas expressamente proibido Provavelmente tem uma câmera me fiscalizando aqui eu não vou fazer Ok é É da nossa cultura isso é um dado isso é é uma característica do brasileiro que tem um lado bom e tem um lado ruim eh então nós temos que trabalhar com esse dado do problema paraa Nossa cultura funciona o arranjo institucional de agência regulatória então é com ele que nós vamos trabalhar que esse é o que funciona se nós vamos criar novo ele

pode não funcionar E aí nós vamos perder muito tempo um tempo que nós não temos eu já alonguei demais aqui a minha Resposta peço desculpa mas espero tenha abordado todos os assuntos eh acho que só fazendo um pares do que o malag trouxe é bom diferenciar que nem toda ferramenta tecnológica utiliza dados e utiliz dados pessoais Eu sei que existe uma importância agora eh do Clamor público e de fazer com que as pessoas sociedade civil se engajem pra regulação Mas isso não pode provocar equívocos em relação ao desenvolvimento Tecnológico de inovação porque senão complica de

você conseguir de fato eh engajar pesquisadores da Computação especialistas apoiar o debate a participar do debate eh de forma não só criteriosa mas com de fato interesse né então eu queria reforçar isso quando a gente fala de cybersegurança como você colocou bem mal Nem todas as ferramentas C segurança utilizam dados pessoais e eu tenho visto que tem sido usado esse tipo de Argumento ou de fala para poder engajar o público mas aí cria uma um um outros problemas aí do ponto de vista Educacional outros problemas que nós vamos ter que resolver politicamente entre as diferentes

áreas para poder realmente conseguir engajar para uma boa regulação e que de fato Faça a diferença na vida das pessoas então dado essa observação eh respondendo a pergunta da Natália Eu acho que Prim Prim o ponto é sobre o interesse da do do do Principalmente da geração mais nova em relação às áreas de Tecnologia de forma geral não só as áreas de dados então paraas pessoas que não pode não ter eh não tem a noção nesse momento porque todo mundo só fala de inteligência artificial na parte de engenharia de software por exemplo a cybersegurança é

é super importante nós chamamos mais de cibersegurança e não de segurança cibernética porque tem um aí tem uma noção muito mais governamental da coisa E organizacional então na engenharia de software por exemplo exemplo o o fato de da gente ter Zoom e a gente ter as ferramentas para vocês conseguirem visualizar a imagem das pessoas seja num telão seja pelo celular isso não isso não é inteligência artificial isso é software e essa parte do desenvolvimento essa noção de desenvolvimento você não precisa ter acesso a dados pessoais de pessoas ou a dados de pessoas para poder desenvolver

esse tipo de ferramenta mas Desde do seu início você teve ali atrelado regras e e visões da cybersegurança para você conseguir tornar eh esse desenvolvimento seguro e tanto do ponto de vista individual quanto do ponto de vista da massa do uso da massa Então hoje nós temos o interesse de pessoas por essas áreas que muitas vezes não é visibilizado porque tá todo mundo interessado em Inteligência Artificial então no no Instituto da ca diretora nós estamos com 80 jovens de Recife e Belém eh estudando segurança da informação no no no nosso papel ali não é só

assegurar o conteúdo mas segurar que eles deem continuidade nessa formação então o interesse pela formação e não só o interesse pelas ferramentas e pela programação que até então é o que é visibilizado no Brasil então eu diria isso como primeira eh ferramenta vamos dizer assim até para poder avançar com com eh a a visão Educacional e eu espero que Daqui a 4 anos parte desses jovem seja aos jovens formados pelo curso de C segurança que tá sendo discutido na SBC e o outro ponto são os pesquisadores que mantém algum tipo de comunicação efetiva e contato

efetivo tanto do ponto de vista de pesquisa como do ponto de vista de desenvolvimento com o Brasil pesquisadores de cibersegurança de segurança da informação que podem não estar aqui presencialmente tá eh estão Em universidades estão em empresas estão trabalhando em empresas como a própria cisco que que liderou por muito tempo esse debate do da rede rede e cibersegurança mas que mantém contatos efetivos aqui ajudando a gente aen des envolver não só as ferramentas como uma visão mais Global dessa área então eu considero isso uma ferramenta super importante porque dentro desses números não sabemos qual qual

que tá mais correto no momento se é do malagu ou do Igor mas dentro desses números de escassez é vou tirar uma média é tomara que seja dele que é menor é então dentro dessa média eh parte desse GAP é porque muitos deixaram o Brasil então fizeram a formação da graduação ou o curso aqui porque nós somos parabenizados o tempo inteiro nessa área pela formação tá de computação no Brasil Mas deram oport continuidade mestrar do doutorado fora ou foram contratadas por empresas de Fora e não participam da economia e do desenvolvimento aqui então eu considero

muito importante eh visibilizar que esses contatos são mantidos tanto do ponto de vista de pesquisa como do ponto de vista de ferramentas desenvolvimento de ferramentas bom tentar responder as perguntas rapidinhos a pergunta da plateia eh Sem dúvida as três áreas estão interligadas e tem pesquisadores que trabalham com as três ao mesmo tempo Com duas delas e e especificamente sobre a questão da proteção de dados ela é um dos eixos tá de formação do do do currículo proposto então é uma área que em teoria seguindo aquele currículo vai est coberta sobre a formação e a SBC

participou do Conselho Nacional de Proteção de dados né na primeira formação do Conselho Agora não é mais tem representação mas é sem dúvida uma questão são questões que estão atreladas então é uma preocupação ação do Currículo da formação então proteção de dados cibersegurança e outros eixos tem relação entre si eh sobre a a a a a pergunta da Natália não existe uma ação vamos dizer assim coordenada ainda com o governo com com as Universidades ou com os representantes das Universidades ou outros institutos de pesquisa eh existem iniciativas como a n falou do Instituto dela do

Instituto da hora ou de outras instituições umas uma iniciativa que Ganhou repercussão nacionalmente é o hackers do bem que é um programa da RNP junto com a eh com o ministério de Ciência Tecnologia Então existe o acompanhamento do governo tem representant do governo do conselho mas não é uma iniciativa governamental recebe apoio do governo a SBC tá envolvida e outros representantes também então só para vocês terem uma ideia a previsão inicial era ter 30.000 inscritos no programa de capacitação na Área e foram mais de 100.000 inscritos então isso gerou um gerou um problema danado porque

a a infraestrutura de computação não estava prevista para isso então houve problema houve críticas e o pessoal fal o programa de segurança não é seguro Mas enfim vamos pular essa parte e mas hoje é um sucesso ele tá rodando e a gente superou a expectativa de atração de pessoas e como a lina falou é uma área super Atrativa eu sempre dou meu filho como exemplo eu dou Porque ele gosta de ser mas ontem por exemplo eu tava participando de uma aula lá com o pessoal do nickbr e citei o hackers do bem e ele escutou

ele falou hacker posso ser isso eu posso fazer então uma criança de 8 anos que já foi como aina falou é é algo que a gente tem que explorar e e utilizar nosso favor para trazer pessoas pra área e de formação e uma última então Natália essa essa vamos dizer assim a curricularização da da da da disciplina Cibersegurança é um primeiro passo pra gente criar essas ações que hoje ainda não existem nesse nível eh o que existe já é um um passo interessante é no nível mais baixo na Educação Básica educação fundamental já existe a

curricularização da Computação então a SBC tá trabalhando na formação de professores para atuar nesse segmento que é uma coisa que não existe e basicamente não é assinar programar mas é ensinar teu pensamento computacional essas coisas desde de de Da dos níveis mais básicos de educação Então essa é uma iniciativa que existe e só para fechar pegando gancho mais uma vez na fala da Nina eh essa questão da regulamentação é muito interessante desses princípios éticos e dessas limitações porque o pessoal acaba acaba se virando para contornar esses problemas então hoje em dia eu não sou pesquisador

da área de Inteligência Artificial eu sou pesquisador área de cibersegurança de redes de computadores Mas a gente brinca que todo congresso hoje da área é de i a porque todo mundo US i a para qualquer coisa então eh eh uma das preocupações que a gente tem nesses domínios muitas vezes é a privacidade a proteção do do dado e a gente foi desenvolvendo algoritmos que levam isso em conta então hoje por exemplo a gente tem algoritmos de aprendizado Federado por exemplo que fazem treinamentos locais modelo Ou seja eu só posso usar meu dado aqui nesse Escopo

eu só vou usar esse dado no meu escopo vou treinar o meu modelo e depois eu combino o modelo com da Nina com do bren com da Natália sem saber quais são os dados dele então é uma adaptação que foi feita para isso hoje em dia muitas vezes muitas pessoas a gente fala de a explicável ah que que é isso ah eu vou conseguir explicar o que foi feito no meu dado Até chegar na decisão na classificação que for Então essa questão da regulamentação dos princípios éticos Ou dos limites que a gente dá pr os

algorit acabam sendo levados em consideração na hora que a gente concebe os algoritmos Então isso é uma preocupação que pode ser levada desde o início e ser contornada e a gente ter resultados tão bons ou próximos do que a gente teria se tivesse o dado de todo mundo disponív bom obrigado Igor pessoal eu vou ser extremamente rápido na minha fala de encerramento porque literalmente daqui a Minuto comea o próximo painel aqui então qu Claro agradecer a presença dos palestrantes agradecer a presença de vocês obrigado por vocês terem acompanhado a gente eh Com certeza a gente

vai ficar circulando por aqui então por favor falem com a gente a gente consegue a gente vai ficar horas debatendo isso eh eu vou parar por aqui senão o Walter vai me agredir já já eh e enfim queria mais uma vez agradecer vocês agradecer a participação e Agradecer aos palestrantes