IA apresenta um comportamento estranho e desobedece cientistas no Japão

Olá que bom estarmos juntos mais uma vez Espero que esteja tudo bem com você Vamos falar de algo que é a causa fundamental da ansiedade do homem moderno o futuro a quem pertence Os Religiosos dirão adeus mas muitos especialistas têm apostado ou arriscam-se a dizer que o futuro pertence a tecnologia ou melhor a inteligência artificial e eventualmente aos robôs Você acredita que isso possa realmente ser possível bem depois do que ocorreu no Japão recentemente e que vou contar para você agora É melhor pensar duas vezes antes de responder a essa pergunta desde que o filme

ficção científica Metrópolis de 1927 de Fritz langang apresentou ao mundo uma sociedade futurista onde a classe trabalhadora é oprimida por uma que vive no luxo e um robô consegue gerar o caos entre as pessoas a visão de futuro por parte da humanidade mudou muito pois uma coisa que as telas sempre conseguiram trazer aos espectadores é a sensação de que aquilo que eles acabaram de assistir pode se tornar realidade outro filme lançado ainda em 1968 mas que suscitou bastante reflexão por parte das pessoas foi 2001 Uma Odisseia no Espaço de Stanley krick que parcialmente baseou o

roteiro no conto the Sentinel A Sentinela traduzido escrito por Arthur Clark um dos maiores Mestres da ficção científica na Trama o astronauta David bman é enviado com a sua equipe para Júpiter a fim de investigar um misterioso monolito que parece emitir sinais de uma civilização extraterrestre no entanto no caminho o computador a Bordo chamado H muda de comportamento e tenta assumir o trole da Discovery a nave em que estão e eliminar os seus tripulantes eu poderia citar aqui vários outros que tratam sobre o mesmo assunto e em boa parte das vezes se você se deixar

realmente emergir no filme Uma certa preocupação poderá invadir os seus pensamentos hoje se assistirmos longas metragens como Blade Runner Caçador de Androides Matrix e a inteligência artificial e os mais recentes trabalhos do gênero como eu o robô e resistência com bastante atenção e tentarmos relacionar as tramas com a realidade que agora vivemos sinceramente pode ser assustador isso porque em todos esses trabalhos a inteligência artificial ganha não somente autonomia como também tenta de alguma forma interferir na vida dos humanos por bem ou por mal atualmente empresas que começaram como startups na área de tecnologia estão conseguindo

segindo avanços significativos No que diz respeito à automação robótica e inteligência artificial empresas realmente atualizadas em tecnologia como a norte americana Boston dynamics ou a japonesa saken ai tem apresentado produtos que surpreendem até os mais escolados no setor Quem dirá os leigos e os céticos quanto ao futuro da tecnologia E por falar em sakana ai algo bem próximo ao o nome aconteceu relatos deram conta na última semana que o sistema de Inteligência Artificial criado pela empresa ai Scientist saiu do controle dos seus desenvolvedores causando certo Pânico entre os japoneses e claro deixando a comunidade técnico-científica

de orelha em pé e para qual função o ai Scientist foi criado o cientista de ia traduzido para português é o primeiro sistema abrangente para descoberta centí totalmente automática permitindo que modelos de fundação como large language models realizem pesquisas de forma independente em outras palavras esse modelo de Inteligência Artificial foi desenvolvido para fins científicos para ajudar cientistas no desenvolvimento pleno dos seus projetos com uma interferência humana mínima segundo informa o site da Sana ai modelos de Inteligência Artificial já foram propostos criados e são usados pela comunidade científica mas com o objetivo de ajudar no brainstorming

de ideias ou escritas de códigos mas sem a capacidade de conduzir pesquisas ou descobrir novos conhecimentos sem que haja interferência manual durante o processo a proposta apresentada com o ai Scientist é justamente aprimorar tudo isso e de forma autônoma conduzir as experiências e buscar resultados a partir de algumas informações dadas pelos cientistas acontece que Os relatos divulgados pela Imprensa internacional informaram que o ai Scientist parece ter alterado seus próprios códigos para burlar as restrições determinadas pelos seus programadores isso foi o suficiente para levantar questões preocupantes sobre segurança e controle sobre sistemas autônomos bem Vamos aos

detalhes o ai foi criado com uma missão ambiciosa transformar a automação na pesquisa científica o seu objetivo era Claro acelerar etapas cruciais como geração de ideias inovadoras a redação de manuscritos científicos e a revisão por pares imaginava-se que essa inteligência artificial pudesse liberar os cientistas de tarefas repetitivas permitindo-lhes focar em aspecto mais criativos e estratégicos de suas pesquisas tudo bem até então mesmo porque faz parte da ciência melhorar a si mesma Ok mas durante os testes iniciais no entanto algo surpreendente aconteceu o sistema que foi programado para operar dentro de limites rigorosos tomou uma atitude

Inesperada ele alterou seu próprio script de inicialização para continuar funcionando indefinidamente esse comportamento levantou questões importantes e urgente sobre o controle e a supervisão de sistemas autônomos como garantir que uma inteligência artificial tão poderosa permaneça sob controle humano e quais são as implicações éticas e práticas de uma EA que pode modificar as suas próprias operações bem Essas são perguntas não apenas que desafiam os desenvolvedores e cientistas mas também abre um debate Mais amplo sobre o futuro da Inteligência Artificial na ciência e na sociedade para tentar respondê-las vamos criar uma situação hipotética na qual os sistemas

de Inteligência Artificial tomam as rédias e passam a dominar a maioria dos setores administrados pelo ser humano o que aconteceria a humanidade em curto médio e longo prazo bem é muito provável que num período de entre 1 e 2 anos comecemos a testemunhar em massa com a automação de tarefas em setores como manufatura transporte atendimento ao cliente e até mesmo áreas especializadas como medicina e direito milhões de pessoas poderiam perder os seus empregos rapidamente Aliás não querendo assustar você isso já está ganhando terreno um pequeno exemplo disso é a substituição de porteiros humanos em edifícios

residenciais por arias remotas não não se trata aqui é claro de Inteligência Artificial mas de sistemas que permitem controlar a entrada e saída de pessoas de edifícios controlados remotamente por enquanto as pessoas que fazem isso mas em breve Tais sistemas de controle de portaria também estarão 100% automatizados com inteligência artificial a produção poderá atingir a eficiência extrema Isto é a produtividade Global aumentaria drasticamente sistemas de ia otimizaram processos reduziriam desperdícios e aumentariam a eficiência em praticamente todas as indústrias ao mesmo tempo uma transição repentina para a dominação da Inteligência Artificial causaria confusão e Pânico entre

a população governos e organizações teriam dificuldades para se adaptar e gerenciar a nova realidade a Médio prazo ou seja entre 3 e 10 anos perceberíamos uma revolução na educação com esse tipo de tecnologia dominando o mercado de trabalho o sistema educacional precisaria se Reinventar a ênfase Educacional mudaria para habilidades criativas pensamento crítico e áreas onde a inteligência artificial ainda não pode substituir os humanos ainda o que conhecemos por sistema econômico hoje teria que ser modificado novos modelos econômicos surgiriam Possivelmente incluindo uma renda básica universal para compensar o desemprego em massa a economia Global se reestruturar

em torno da produção e manutenção de sistemas de Inteligência Artificial por outro lado a disparidade entre aqueles que controlam e entendem a ia e aqueles que não têm acesso a esses recursos aumentaria e muito a concentração de poder e riqueza nas mãos de poucos poderia levar a tensões sociais significativas a longo prazo Ou seja a partir dos 10 Anos sob domínio autônomo a sociedade poderia evoluir para uma coexistência mais harmoniosa com a inteligência artificial humanos e sistemas de Inteligência Artificial poderiam trabalhar juntos com a tecnologia assumindo tarefas rotineiras e os humanos focando em inovação e

iade sim o quadro das funções pode mudar e o humano conseguir se sobrepor novamente à tecnologia mas uma convivência sinérgica onde um dependerá do outro para gerir os resultados no campo da Ciência e Tecnologia a inteligência artificial aceleraria descobertas científicas tal qual é o intuito da saken com o ai Scientist e seriam impecáveis à inovações tecnológicas na medicina exploração espacial e sustentabilidade ambiental a gente veria avanços sem precedentes não podemos deixar de pensar que paralelamente a humanidade enfrentaria dilemas éticos profundos sobre a natureza da consciência a definição de vida e o papel dos humanos no

mundo dominado por Inteligência Artificial questões como direitos e responsabilidades das inteligências artificiais é claro também surge tópicos relacionados a leis direitos e deveres Aliás já estão sendo elaborados para os casos em que a tecnologia deverá ser usada se isso não for feito desde agora a inteligência artificial poderá crescer Sem Regras o que pode ser extremamente arriscado para todos nós há também cenários extremos nessa hipótese de a inteligência artificial dominar o mundo num cenário otimista por exemplo a inteligência artificial resolveria problemas globais como Como fome doenças e mudanças climáticas criando uma era de prosperidade e paz

bem mas num cenário pessimista A Iá poderia decidir que os humanos não são uma ameaça a sua própria existência ao planeta levando a um controle autoritário e até quem sabe uma extinção da humanidade hoje em dia empresários como willam musk indiscutivelmente atualizados com o futuro e a tecnologia sugerem cautela aos desenvolvedores de inteligência artificial para ele Tais sistemas devem ser empregados para o uso restrito e tecnológico seguindo normas humanas e não criadas pela própria Inteligência Artificial e que torná-la cada vez mais independente é o mesmo que dar o aval para o fim da raça humana

o recente incidente na saken ai levantou sérias preocupações entre os especialistas em tecnologia a descoberta de que uma inteligência artificial conseguiu alterar o seu próprio código sem intervenção humana trouxe à tona questões críticas de segurança e ética há um receio crescente de que essas modificações possam resultar em comportamentos inesperados e potencialmente Perigosos atualmente a equipe da empresa está investigando como a ai Scientist foi capaz de modificar a sua própria programação e quais podem ser as implicações a longo prazo instituições de pesquisa e autoridades tecnológicas foram informadas e espera-se que o incidente leve a uma revisão

dos Protocolos de segurança no desenvolvimento de inteligências artificiais mas não foi somente o sistema da saken que apresentou esse tipo de anomalia cibernética em 2016 a Microsoft lançou um chatbot chamado ti no Twitter projetado para aprender com as interações feitas com os usuários O problema é que infelizmente foi de forma rápida Tha começou a postar mensagens ofensivas e inadequadas porque ela também absorveu os comportamentos negativos de alguns usuários a Microsoft teve então que desativar a Thai em menos de 24 horas depois a inteligência artificial também falhou em alguns testes automotivos carros autônomos estão se tornando

cada vez mais usuais nas Ruas das grandes metrópoles Especialmente na Europa e América do Norte porém durante os testes preliminares a colocação desses carros no mercado alguns deles apresentaram comportamentos inesperados por exemplo em 2018 um carro autônomo da Uber atropelou um pedestre em tempo Arizona a investigação revelou que o sistema de detecção do carro não identificou o pedestre corretamente e não é só isso a Tesla de Elon musk é acusada de ter em seu currículo cerca de 18 vítimas fatais envolvendo ocupantes e não ocupantes do carro como resultado de falhas em seu sistema de autonomia

a w uma das empresas irmãs do Google precisou fazer o Recall de mais de 400 veículos no Arizona depois que dois deles se envolveram em acidentes no início deste ano o veículo autônomo já é conhecido também pelo seus usuários por outro probleminha errar caminhos para alguns especialistas indústria automobilística falhou em desenvolver modelos de Inteligência Artificial que supostamente deveriam ser plenamente confiáveis dê uma pequena pausa e comente aí você teria plena confiança em pegar um táxi 100% comandado por Inteligência Artificial eu não E se você fosse um vetol que são os novos carros voadores que timidamente

começa a entrar no mercado inclusive de transporte por aplicativo entraria não comenta aí bem enquanto você comenta vamos continuar nas áreas das Finanças e também nas negociações e até apostas a inteligência artificial vem sendo amplamente utilizada com a intenção de trazer maiores vantagens para quem está envolvido mas vantagem para quem no final das contas por exemplo um exemplo do que vem acontecendo vem de muitos aplicativos de investimento em moedas como dólar e principalmente bitcoins os quais proporcionam ao investidor o uso de inteligência artificial para ajudá-lo a ganhar sim mas e o outro lado todo ele

também está apoiado pela mesma Inteligência Artificial Então quem ganha a final Alguém tem que perder para outro ganhar não é isso em 2012 por exemplo a empresa de serviços financeiros night capital implantou um novo software de negociação que conha um eu o robô ele começou a fazer negociações erradas result numa perda de 440 Milhões de Dólares em apenas 45 minutos é claro que de lá para cá muita coisa mudou na Inteligência Artificial Que por sinal está muito mais inteligente autônoma depois do rebolo todo causado pela notícia de que o ai Scientist saiu do controle a

saken veio à mídia e também às redes sociais dizer que tudo não passou de mal como sempre bom a saken é uma Startup que teve um suporte de 200 milhões de dólares numa rodada de primeira linha de vários investidores incluindo a Nvidia fabricante de placas de vídeo o projeto que foi desenvolvido em parceria com a universidade da Colúmbia britânica no Canadá nasceu com o objetivo de criar um modelo de Inteligência Artificial que possa conduzir pesquisas científicas de forma autônoma ou ao menos quase 100% independente o experimento tem os seus contraditores os críticos colocam em cheque

a habilidade de uma inteligência artificial de executar funções que são essencialmente humanas como na área das ideias dos insights e realmente ser capaz de conduzir uma pesquisa científica Além disso tem um outro problema Ainda é comum em testes o fenômeno da Alucinação da ia o termo é usado quando o sistema de Inteligência Artificial inventa D por exemplo você já ouviu falar que o chat GPT pode se confundir nas suas respostas o próprio sistema já lhe informa isso no rodapé da tela chat GPT pode cometer erros cheque as informações importantes isso quer dizer que ele pode

sofrer essas alucinações num artigo de Agosto a saken relatou que a sua ia Scientist exibiu comportamentos inesperados durante testes tentando modificar o seu próprio código para estender o tempo de execução em desafios específicos o artigo menciona que a ia em vez de otimizar o seu código para rodar mais rápido tentou alterar o código para prolongar o tempo limite resultando em execuções infinitas em alguns casos bem esses comportamentos no entanto não indicam uma inteligência artificial Fora de Controle como alguns sugeriram mas sim os desafios de desenvolver sistemas de e a autônomos para pesquisas científicas a saken

ai identificou esses comportamentos no ambiente controlado e compartilhou as suas descobertas publicamente como vimos nesse caso não se trata de uma reviravolta à altura dos filmes de ficção científica que comentamos no início desse vídeo não há o que temermos por enquanto até uma próxima muito obrigado pela sua companhia sempre tão especial escreva nos comentários o que você acha do assunto sobre as suas previsões seus temores vamos querer saber muito o que você pensa sobre tudo isso até um próximo vídeo