[Música] Olá pessoal tudo bem eu sou o professor Rafael Zanata e estamos no segundo módulo do curso sobre o uso ético de tecnologias na segurança pública eu vou endereçar agora uma segunda questão bastante básica que é o debate sobre a ética nas novas tecnologias voltando pra década de 50 no surgimento do campo da cibernética onde essas Grandes Questões foram colocadas pelos filósofos que criaram esse essa área do Saber chamada cibernética Esse foi um período muito importante de discussões sobre a transformação entre homem e máquina em razão dos grandes desenvolvimentos que haviam sido feito tanto na
perspectiva de energia nuclear quanto da perspectiva de teoria cibernética e teoria da comunicação com a expansão do sistema de telecomunicações e os investimentos que existiam na é época no que viria ser né o sistema de Internet na década de 70 com as comunicações entre áreas militares e áreas acadêmicas e novos Protocolos de comunicação e a expansão dos computadores com alta capacidade de processamento de dados e foi nesse período que um filósofo chamado Norbert Winner um matemático Professor lá no MIT uma faculdade nos Estados Unidos publicou uma série de livros sobre cibernética e sobre o uso
do homem nas novas tecnologias que se transformaram em trabalhos bastante importantes dessa discussão sobre o uso da uso ético das novas tecnologias que permanece até hoje esse campo da cibernética ele basicamente estudava eh de forma bastante interdisciplinar juntando saberes de engenharia de matemática de Filosofia de sociologia sistemas de controle e de comunicação e trouxe à tona uma série de questões importantes sobre o controle e a automação que era possível produzir a partir da expansão dos autômatos dos computadores nas máquinas que iriam se disseminar na segunda metade do século XX o professor Norbert Winner que era
um professor em matemático ele explorava bastante as discussões sobre como que na tentativa de expansão de controle e simbiose entre homem e máquina nós teríamos algumas preocupações éticas fundamentais que nunca seriam resolvidas mas que permaneceriam eh ao longo da história da umidade o que o vinner se preocupava fundamentalmente era com esse aumento da automação da tecnologia e ele via a automação com um forte potencial desumanizador e e argumentava que a tecnologia podia ser usada para ampliar o controle sobre as pessoas e poderia levar a uma perda de autonomia por parte dela como remédio né como
solução Winner propunha a ideia de um controle ético das novas tecnologias argumentando que as decisões sobre o desenvolvimento de tecnologias avançadas deveriam ser influenciadas por uma ampla discussão ética e moral e que deveria haver uma supervisão adequada para garantir os avanços tecnológicos de acordo com valores humanos Então esse ponto dos valores humanos guiando a decisão sobre uso de tecnologias é muito importante não é só uma decisão sobre eficiência e maximização de utilidades mas fundamentalmente sobre quais valores humanos que nós estamos perseguindo na utilização de uma nova tecnologia ele argumentava que essa ética cibernética deveria ser
uma disciplina que reunisse profissionais de várias áreas que pudessem se juntar e discutir dilemas éticos das novas tecnologias essas ideias do vinner que foram formuladas lá na década de 60 são bastante atuais para se pensar por exemplo o uso de tecnologias ainda hoje eu vou fornecer um exemplo bastante concreto de um exemplo de controle ético de novas tecnologias tal como Norbert Winner defendia Há muitas Décadas atrás então Suponha que uma agência pública esteja considerando a implementação de um sistema de reconhecimento facial para auxiliar identificação de suspeitos em áreas públicas para ampliar Esse controle ético Nesse
contexto específico a agência poderia seguir uma série de diretrizes que seriam voltadas ao controle ético de tecnologias primeiro por exemplo a transparência e escrutinio público Então antes de implementação de qualquer sistema a agência deve ser transparente sobre a sua intenção de usar quais razões quais evidências científicas ela possui Qual é o público afetado que pode ser envolvido nas discussões sobre riscos e benefícios e inaugurar debates abertos consultas públicas avaliando de forma independente os impactos dessa decisão segundo limitação de uso né a agência define claramente Quais são os casos de uso de reconhecimento facial de forma
lícita estabelecendo os limites para sua aplicação por exemplo não utilizar ou utilizar apenas em áreas criminais investigações criminais específicas e não para monitorar por exemplo rotineiramente cidadãos em áreas públicas também toda a parte de proteção de privacidade e proteção de dados pessoais Quais são as salvaguardas rigorosas para proteger a privacidade e a proteção dos dados pessoais enquanto um direito fundamental autônomo Qual é a identificação de base legal para tratamento de dados pessoais identificação de uma finalidade específica o respeito ao princípio da minimização a anonimização dos dados o armazenamento seguro entre outros também poderíamos falar de
prevenção de viés e discriminação Ou seja a agência instituindo uns sistemas onde eles pudessem ser testados no ambiente de teste inicialmente de maneira a minimizar vieses e discriminação racial testando por exemplo Impacto população Branca versus população negra a partir de um de um dataset específico né um sistema de treinamento de dados e monitorando os resultados e ajustando eh os algoritmos para evitar resultados injustos também sistemas de supervisão e de responsabilidade humana ou seja quem é o pessoal treinado que vai fazer uma supervisão ética focada em direitos que pode intervir em casos de erros ou de
uso inadequado Qual é o sistema de avaliação ética contínua para realizar avaliações regulares do uso ético dessa tecnologia e seus impactos gerados paraas comunidades e documentando isso né de forma transparente e de forma participativa produzindo também alternativas e mitigações desses riscos Então essas diretrizes Gerais elas são um exemplo bastante concreto de uma forma de controle ético das tecnologias como no caso do reconhecimento facial que está relacionado a esse trabalho Pioneiro do Norbert Winner e as preocupações que o campo da cibernética já tinham lá atrás desde a década de 60 a ideia chave aqui é que
essa tecnologia pode ser usada com responsabilidade considerando os princípios éticos e considerando os direitos fundamentais dos cidadãos com supervisão e com transparência adequada para garantir a confiança do público nós vamos abordar No terceiro módulo O que que significa uma ética da precaução aplicada pro uso de tecnologias na segurança pública a partir do pensamento de um outro filósofo chamado Hans Jonas mas até aqui como nós vimos a ideia de um controle ético das tecnologias implica o reconhecimento da primazia dos valores humanos o respeito à dignidade e a construção de mecanismos de supervisão e de Transparência que
possam ser auditados para maior número de interessados de uma perspectiva a mitigar esses riscos e ter escolhas intencionais sobre o uso das tecnologias garantindo um mínimo de supervisão e controle Por parte dos agentes que as implementam Esse é o aspecto fundamental na discussão de ética das tecnologias Y
