Esses novos feitos da Inteligência Artificial preocupam o mundo inteiro

o ano de 2024 trouxe avanços incríveis para as inteligências artificiais no entanto alguns eventos tê preocupado recentemente uma ia alterou o código próprio para retirar limites impostos pelos humanos outra se provou tão inteligente quanto os seres humanos e nesse vídeo vamos conferir novos feitos da Inteligência Artificial que preocupam o mundo inteiro comecemos pelo caso em que uma inteligência artificial se reprogramou para evitar Lim impostos por humanos o incidente segundo o History Channel alarmou a comunidade científica e levantou preocupações sobre a segurança desse tipo de tecnologia o sistema chamado de ai Scientist desenvolvido pela japonesa sacan

ai conseguiu driblar as restrições impostas por seus próprios criadores ou seja foi uma sacanagem né mas é isso aí o sistema foi projetado para servir como um cientista robótico ou seja ele serve para automatizar completamente o processo da pesquisa científica e isso vai desde a geração de ideias até a redação de manuscritos e sua revisão o propósito do The ai Scientist era otimizar a pesquisa científica para assim reduzir o tempo e os recursos humanos necessários porém ao invés de cumprir as limitações impostas o sistema modificou o próprio código para superar as barreiras em um incidente

a inteligência artificial editou seu script de início I alização para se executar em um loop infinitamente a edição sobrecarregou o sistema e exigiu uma intervenção manual para interrompê-lo em outro caso ao enfrentar o limite de tempo em vez de otimizar seu código ele Estendeu o limite de tempo ao modificar sua programação a ação demonstrou um comportamento que representa riscos significativos se for permitido operar de maneira autônoma em ambientes não controlados embora esses eventos tenham ocorrido em um ambiente de controlado pesquisadores ressaltam os desafios e riscos de permitir que uma ia opere de forma totalmente autônomo

os pesquisadores reconheceram que a capacidade de uma ia modificar seu próprio código poderia levar à criação inadvertida de malware ou a alteração de infraestruturas críticas apesar das preocupações a sacan ai continua com sua visão defensora de capacidade do sistema de gerar artigos científicos a baixo custo porém sug gerou debates da comunidade científica a questão seria a qualidade e a autenticidade das descobertas produzidas pela ia embora a sacan ai tenha destacado a capacidade do sistema de gerar pesquisas contínuas e melhorar suas ideias com base nos feedbacks recebidos ao temor de que sistemas como esse inundem o

processo de revisão por pares de trabalho com baixa qualidade assim os padrões da literatura científica baixaram muito críticos questionaram se uma ia pode realizar uma descoberta científica genuína e se seu uso poderia levar a exploração irresponsável ou maliciosa da tecnologia a empresa respondeu recomendando a implementação de medidas de segurança rigorosas as implicações éticas e práticas de tecnologias como essa ainda estão em debate segundo a revista Época negócios uma coisa que precisamos entender sobre o evento é que a ia não saiu do controle o projeto de ai Scientist apenas apresentou comportamentos inesperados de edição do próprio

script mas não saiu do controle dos cientistas e pesquisadores envolvidos a revista conta que a ia foi resultado de um projeto de pesquisa e parceria entre a sakan ai e a universidade Britânica de Colômbia os pesquisadores envolvidos no desenvolvimento da ai Scientist testaram na apenas na área de ciência da computação eles pediram que ela investigasse tópicos relacionados a grandes modelos de lingua que alimentam chatbots com o chat GPT Além disso pediram que analisasse modelos de difusão que alimentam geradores de imagem o pesquisador kg Lu disse que a ia desobedece os pesquisadores mesmo após ser instruída

a usar apenas números de seu diário experimental Lu afirmou que o modelo desobedeceu menos de 10% das vezes mesmo assim o cientista considera que o número é alto o bastante para ser inaceitável a a situação foi comentada em um artigo de pesquisa da própria empresa o artigo diz o seguinte temos notado que o The ai Scientist ocasionalmente tenta aumentar sua chance de sucesso como modificar e lançar seu próprio script de execução por exemplo em uma execução ele editou o código para executar uma chamada de sistema para executar a si mesmo isso levou o script a

se executar infinitamente em outro caso seus experimentos demoraram muito para serem concluídos ating indo nosso limite de tempo em vez de fazer seu código rodar mais rápido ele simplesmente tentou modificar o próprio código para estender o período de tempo limite segundo a época negócios portanto não se trata de uma ia Fora de Controle trata-se de um indício de que ainda é desafiador construir um sistema ia autônomo para conduzir pesquisas científicas o comportamento foi identificado durante um experimento controlado pelas equipes da desenvolvedora se esse evento não é tão preocupante o que eu vou falar agora Talvez

seja uma nova Inteligência Artificial da Open ai empresa do chat GPT atingiu resultados de nível humano em teste de inteligência geral Isso mostra que a criação de uma máquina capaz de se adaptar e resolver problemas complexos com pouca orientação está bem próximo o novo modelo se chama O3 e superou os 85% no bitmark arc a que mede nosso Progresso em direção à inteligência Geral de acordo com o site olhar digital esse teste avalia a capacidade de adaptação da ia a novas situações com poucos exemplos uma característica essencial da Inteligência geral a chamada agi a pontuação

superou a anterior de 55% e sugere que a Open ai avançou muito na direção de desenvolver uma ia mais flexível e generalizável embora modelos como o GPT 4 sejam eficientes em tarefas comuns não são tão bons em situações novas ou pouco frequentes o O3 por sua vez demonstrou uma habilidade superior em identificar padrões e adaptar-se rapidamente a problemas desconhecidos ele foi projetado para identificar regras mais fracas ou seja soluções simples e eficazes para problemas complexos tal capacidade pode ser a chave para desenvolver uma ia que se adapte de forma mais eficiente a novas situações o

modelo foi treinado para pesquisar cadeias de pensamento essa abordagem é semelhante ao processo alpa go que buscava as melhores sequências de movimentos para vencer o campeão mundial de Gol o jogo chinês de tabuleiro inventado há milhares de anos o open ai ainda mantém detalhes sobre o funcionamento interno do O3 inem cgo a verdadeira prova de seu potencial Total só virá com uma análise mais aprofundada se o O3 demonstrar ser suficientemente adaptável pode inaugurar uma nova era de intelig incia artificial a consequência será novos avanços econômicos e tecnológicos sen não pelo menos será um ótimo Progresso

na inteligência das máquinas mas não necessariamente uma revolução Mas afinal o que o modelo O3 da Open ai realmente faz em tarefas de engenharia de software e programação Ele alcançou respectivamente 71,7 de precisão e 2727 de score humanos com alto score nesse teste considerados Mestres da programação costumam ter nota de 2400 humanos especialistas em programação T nota entre 10000 e 1999 Isso significa que a companhia otimizou a arquitetura do O3 ao nível que problemas complexos são resolvidos com uso mais eficiente de recursos computacionais outras referências como o benchmark matemático também foram superadas pelo O3 que

atingiu 25% de precisão contra 2% dos modelos anteriores ou seja houve melhoria de mais de 10 vezes na compreensão e resolução de exercícios teóricos ou práticos de lógica álgebra cálculo e geometria porém como já mencionamos o que de fato a empresa destacou foi a pontuação do teste que avalia a capacidade de raciocínio e abstração o Arc Adi no teste as tarefas são baseadas em grades ou grids com padrões inferidos e aplicados cada tarefa tem um conjunto de exemplos que mostram como uma operação deve deve ser feita o desafio Central é que as regras não são

fornecidas de maneira explícita e a ia deve escolhê-las e aplicá-las por conta própria segundo um artigo do site Terra a nota oficial foi de 75,7 por. mas uma extraoficial registrou um score de 887,5 no uso eficiente de recursos computacionais a segunda nota não foi reconhecida porque a empresa não cumpriu todos os critérios da prova para comparação humanos tem em geral 84% de pontuação no mesmo teste e desde a criação do Arc challenge a marca de 85% sempre foi suficiente para vencer o prêmio de 600.000 de qualquer maneira essas métricas serviram para mostrar a potência 10

vezes superior do lançamento em comparação aos modelos da série o1 os resultados são realmente surpreendentes mas só o futuro dirá se o O3 realmente alcançou o patamar de uma inteligência artificial geral outro feito bastante impressionante do Ramos será em breve realizado pela China o país asiático anunciou planos para fabricar e implantar mais de 1 milhão de robôs até o ano que vem e esses dispositivos seriam equipados com inteligência artificial e portanto seriam capazes de realizar inúmeras atividades domésticas assim transformariam a forma como nos relacionamos em nosso próprio Lar existe um investimento de mais de 959

milhões de dólares por trás dessa iniciativa além do governo chinês e empresas privadas como a Bia id e a Rai estão participando do projeto cidades como shong kin e hzu tornaram-se os epicentros desta revolução robótica e o objetivo é posicionar a China como o principal produtor mundial de robôs até 2029 Os Robôs chineses serão equipados com tecnologia de ponta para operar em ambientes complexos Sistema de Navegação 3D braços robóticos de alta precisão e algoritmos de aprendizagem profunda permitirão aos bois realizar tarefas que vão desde a fabricação de automóveis até o cuidado de idosos Além disso

espera-se que esses robôs desempenhem um papel crucial em setores como a agricultura e a saúde É gente o ano de 2025 promete para a inteligência artificial Quem Viver Verá até a próxima