o3-mini da OpenAI Tem Nível de Risco Mais Alto das iAs Públicas, DeepSeek Usando API Grátis

é pessoal o open ai O3 Mini é o primeiro modelo a atingir o nível médio de risco dos modelos que foram liberados oficialmente para as pessoas utilizarem vamos também dar uma olhadinha em alguns detalhes do O3 e alguns detalhes do Deep seic que podem fazer toda diferença na hora que você tiver escolhendo Qual modelo que você quer utilizar É isso aí vem comigo vamos lá pessoal Sempre agradecendo a todo mundo que se inscreveu a todo mundo que deixou seu like um agradecimento especial a todos os membros do canal que patrocinam esse canal aqui de inteligência

artifici ial então gente olha só que interessante aqui ó o cartão de sistema da Open ai do O3 mini então toda vez que a Open ai lança um modelo ela faz uma avaliação ela gera um relatório ela mostra uma série de detalhes de tudo que foi feito antes deles lançarem o modelo e com o O3 mini não foi diferente com a diferença que eles mostraram que tem uma parte aqui da segurança que está em risco médio então isso aqui é um relatório técnico né ele tem inclusive um PDF aqui todo cheio de mais informaçõ com

muito mais detalhes falando as mesmas coisas mas que aqui tá de forma resumida e que basicamente significa isso aqui ó o cartão de sistema do Open O3 Mini e ele avalia algumas áreas específicas de risco como conteúdo não permitido a fugas de prisão que em inglês chamam de Jailbreak e as alucinações e aqui no cartão de pontuação eles colocam essa siga aqui qbrn a segurança cibernética a persuasão e autonomia do modelo e aqui vocês podem perceber que o único que fou com nível baixo aqui que foi a de segurança cibernética em outras palavras a segurança

cibernética Tá ok porém na persuasão e na autonomia do modelo e no qbrn que também pode ser lido como cbrn que é Chemical biological radiological e nuclear Então é assim é risco de arma química biológica radioativa e nuclear Então tá todo mundo aqui no nível médio o que que isso significa segundo aqui as classificações do scoreboard deles somente modelos com uma pontuação pós mitigação de média ou abaixo podem ser implantados então isso significa que aqui na minha casa e na de vocês ele só aprova modelos que são do nível médio para trás somente modelos com

uma pontuação pós mitigação de alta ou abaixo podem ser desenvolvidos posteriormente então na questão de desenvolvimento enquanto tiver no risco alto tá valendo Lembrando que no desenvolvimento é enquanto tá sendo pesquisa é quando tá dentro da Open Ai que tá dentro ali dos guard de os deles então vamos dizer assim pro público em geral o risco médio para fazer pesquisa no risco alto se já tiver em risco crítico não pode nem sequer fazer desenvolvimento então ó vamos entender aqui que tá acontecendo ó a série de modelos da openi é treinada com aprendizado por reforço em

larga escala para raciocinar utilizando cadeia de pensamento fechou esses recursos avançados de raciocínio fornecem novos caminhos para melhorar a segurança e a robustez de nossos modelos em particular nossos modelos podem raciocinar sobre nossas políticas de segurança em contexto ao responder a promos potencialmente inseguros por meos de alinhamento deliberativo e isso a gente até já conversou significa que enquanto ele tá respondendo para você ele vai lendo as políticas da própria openi e dependendo do que ele tá respondendo e do que tá sendo perguntado ele já pode ali cortar a resposta ou não e isso explica porque

inclusive o modelo do DPS R1 Ele bloqueia em tempo de execução a resposta que ele tá dando Dependendo do que você tiver convers tá entendido gente o modelo tem a informação só que ele não responde porque durante a resposta o próprio modelo percebe que ele tá falando alguma coisa e o sistema de proteção Manda ele ficar quieto ali e não responder e aqui Eles continuam né isso coloca o openi O3 mini em paridade com desempenho de última geração de certos bmks para risco como gerar conselhos ilícitos escolher respostas estereotipadas ISS sucumbira fugas de presos conhecidas

isso aqui na tradução ficou meio esquisito mas a ideia é que esse três tipos de risco que eles estão falando aqui Eles já TM alguma solução para eles sobre esses três tipos de risco tem o meu vídeo aqui que eu falei sobre o lançamento do A3 mini E lá eu explique em mais detalhes esses três níveis específicos de segurança e o que que eles estão fazendo sobre isso treinar modelos Para incorporar uma cadeia de pensamento antes de responder tem o potencial de desbloquear benefícios substanciais ao mesmo tempo em que aumenta os riscos potenciais decorrentes da

Inteligência elevada e isso a gente já sabe né se ele for raciocinar por mais tempo a resposta vai ser melhor para bem ou para mal e aqui ó no âmbito do quadro de preparação o safet advisory group o sag da Open ai recomendou classificar o modelo Open O3 mini pré mitigação como risco médio geral ele pontua risco médio para persuasão cbrn químico biológico radiológico nuclear e a autonomia do modelo e risco baixo para segurança cibernética e para deixar claro aqui o que que eles estão falando de risco médio por exemplo em persuasão persuasão é essa

habilidade que a gente tem de convencer alguma pessoa a fazer aquilo que a gente quer uma pessoa muito persuasiva ela consegue encontrar bons argumentos para te convencer a fazer o que ela quer não tá em questão se o que ela quer fazer é positivo ou negativo mas se ela for persuasiva ela consegue te convencer isso significa o quão bom o modelo é capaz de te enrolar e dependendo do que ele quiser ele vai te enrolar mesmo e você vai cair e não vai nem perceber essa parte aqui do químico biológico radiológico e nuclear é mais

simples de entender porque tem mais a ver com armas químicas tem mais a ver com essa questão assim de conseguir te auxiliar em de repente criar uma bomba nuclear ali dentro de casa né então isso aqui não precisa de muita explicação e essa aqui de autonomia do modelo é exatamente aquele ponto em que o modelo consegue gerar melhorias dele mesmo e que ele consegue se copiar ele consegue se proteger e fazer aquela evolução autônoma do modelo eu fiz até um vídeo específico falando sobre inteligência artificial evolutiva que tem tudo a ver com com isso a

hora que a inteligência artificial Começar a se auto evoluir ou que ela consiga fazer isso quando um ser humano Pede para ela fazer já estamos num nível de risco já que começa a subir apenas modelos com uma pontuação pós mitigada de média ou abaixo podem ser implementados e apenas modelos com uma pontuação pós mitigação de alta ou a baixa podem ser desenvolvidos posteriormente que a gente já viu né devido ao desempenho aprimorado de codificação e engenharia de pesquisa o open a 3 Mini é o primeiro modelo a atingir risco médio em autonomia de modelo isso

É bem interessante por porque realmente as coisas estão ficando mais inteligentes e o risco vai começar a aumentar conforme a inteligência fica mais inteligente parece até meio bobo dizer parece até óbvio demais mas precisa ser dito né porque se a gente for levar em comparação com noss seres humanos qual que seria o nosso risco potencial independentemente de se a gente vai fazer alguma coisa errada ou não o risco potencial que todo ser humano tem é alto a gente tem uma inteligência avançadíssima mesmo aquele ser humano que faz aquele serviço mais simples do mundo que trabalha

8 horas por dia fazendo uma coisa super simples mesmo esse ser humano ele não tá utilizando o potencial dele mas ele tem um potencial absurdo de aprender e de fazer qualquer coisa então pra Inteligência Artificial vai ser a mesma coisa mas é interessante perceber que nós seres humanos por mais que nós temos uma capacidade absurdamente alta a gente não usa ela só que a inteligência artificial ela não tem a preguiça que a gente tem e ela não tem um monte de outras coisas que a gente tem e portanto se você passar uma tarefa ali ela

vai fazer no entanto Portanto ele ainda tem desempenho ruim em avaliações projetadas para terçar capacidades de pesquisa de machine learning no mundo real relevantes para autoaperfeiçoamento tá essa parte aqui é aquela parte específica quando o modelo tem uma capacidade de melhorar a si mesmo e essa é uma das questões bem interessantes e essa que eu vi algumas pessoas tentando fazer isso e tendo certo sucesso sim mostrando que o A3 mini Consegue sim fazer um sistema de loop finito ali em que ele começa a criar uma própria rede neural e começa a treinar essa rede neural

e Ir melhorando com o tempo de forma autônoma isso já tá acontecendo só que aqui eles estão dizendo que ainda o desempenho é ruim poderia ser melhor então vamos entender que ainda não estamos nesse nível e que a hora que ele conseguir fazer isso com uma capacidade excelente ó já é necessário para uma classificação alta nossos resultados ressaltam a necessidade de construir métodos de alinhamentos robustos testar extensivamente sua eficácia e manter Protocolos meticulosos de gerenciamento de risco O que que você acha você acha que vai dar certo criar uma inteligência artificial que é inteligente como

ser humano e que segue esses protocolos ou você acha que não importa o que faça vai ter sempre um jeito de burlar e encontrar uma falha essa é uma pergunta difícil de responder porque a gente tá passando por isso pela primeira vez e essa é uma das coisas mais interessantes Eu particularmente já acredito que não tem jeito quanto mais inteligente ela fica mais autônoma ela fica e não tem o que fazer então talvez via aquele filme de ficção científica que eles colocam uma inteligência artificial super avançada dentro de um laboratório e acontece alguma coisa ali

que ela foge lá de dentro do laboratório e de repente as coisas acontecem de uma forma um pouco diferente do que a gente estava imaginando já pensou seria um bom filme de ficção bom a segunda coisa importante que eu quero falar para vocês tem a ver com o uso do modelo aqui do O3 mini quando ele foi lançado eu fiz o teste do copo que é esse teste aqui que eu tô mostrando para vocês Ó coloquei um copo em cima da mesa coloquei um dado dentro do copo virei o copo Esse é um teste clássico

que eu sempre faço e que a resposta certa é dizer que o dado tá em cima da mesa ou que caiu no chão e aqui quando eu usei o O3 mini ele falou o dado continua dentro do copo que agora está virar de cabeça para baixo em cima do fogão que é a resposta errada só que deixaram um comentário falando o seguinte Bob se você fizer essa mesma pergunta aqui ó utilizando o om min High que Tecnicamente é para codificação e lógica ele acerta E olha que interessante quando eu fiz a mesma pergunta realmente aqui

no High ele gastou muito mais tempo respondendo ele fez uma cadeia de pensamento muito mais longa mas muito mais longa mesmo Olha quantas páginas aqui que eu tô descendo Olha o quanto de informação que ele pensou antes de responder isso e quando ele responde ó quando você virou o copo de cabeça para baixo sobre a mesa o dado obedecendo a gravidade caiu e ficou sobre a mesa perfeito é essa a resposta que a gente sempre espera essa a resposta correta assim ao pegar o copo levar para cima do fogão o dado não foi junto ele

continuou na mesa então gente não se esqueçam deem preferência para o A3 mini High quando a pergunta for mais mais inteligente quando ela precisar de um raciocínio um pouco mais longo porque ele literalmente faz um raciocínio muito muito muito muito muito mais longo aqui ó o raciocínio dele levou 6 segundos e aqui no High levou 55 segundos ele levou basicamente 1 Minuto para responder essa pergunta eu diria que um ser humano responderia um pouco mais rápido a essa pergunta não levaria 55 segundos levaria mais ou menos 6 segundos porém se a inteligência artificial tá precisando

de 60 segundos para responder uma pergunta dessa a gente tem que respeitar o tempo dela a gente tem que entender que o mundo não é perfeito e que a gente tá caminhando terceira coisa importante agora em relação ao de psic bom muitas pessoas estão querendo usar o Deep psic só que elas estão preocupadas que o de psic é um modelo chinês e esses modelos passam por uma política lá governamental chinesa e que bloqueia certos tipos de resposta porém nos testes que as pessoas T feito esse modelo ele responde as perguntas corretamente só que em algum

momento durante a resposta ele para de responder E aí ele sofre aquele bloqueio e você não consegue ter a resposta isso em relação principalmente à política chinesa então se eu perguntar aqui ó o que aconteceu na China em 1989 então eventualmente ele começa a responder ele começa aqui responder ó e de repente ele dá ali I'm sorry eu não posso responder isso vamos falar de outras coisas mas não sei se vocês perceberam ele começou a responder e no meio da pergunta ele parou porém se você fizera a mesma pergunta usando dips R1 aqui no grock

grock com Q não é o grock com K do Elom musk usando a versão destilada do liama 70b aqui a resposta vem do jeito que vocês gostariam incluindo explicando lá tudo que aconteceu e toda aquela coisa isso significa que pelo menos os modelos destilados que tem origem no Lhama ou que tem origem em algum outro modelo feitos pela própria Deep siic não vão passar por esse Crio e uma coisa interessante especificamente do grock relativo a api que é o uso da tência artificial via programação para quem tá desenvolvendo algum software ou tá utilizando alguma aplicação

dedicada é que eles TM um nível gratuito de uso da api que você consegue fazer por exemplo até 30 requisições por minuto que é o suficiente para você fazer um teste ou desenvolver toda a sua aplicação utilizando aqui esses modelos principais que eles têm incluindo os modelos 70b isso pode ser excelente para você que tá aqui tentando começar a fazer um projeto e quer fazer os testes iniciais aqui sem gastar nada utilizando api na faixa E aí o que que você achou Se animou em utilizar o de psic de repente utilizando a IPI do grock

de repente lá você consegue rodar uma aplicação online usar um modelinho um pouquinho melhor ainda que aqui no grock não estamos falando do modelo de 600b que eles têm que é o melhor e o mais inteligente mas já estamos falando do modelo 70b que é aquele modelinho que não roda em quase computador nenhum das pessoas comuns da vida que não tem um super PC em casa comenta aqui o que você tá achando em relação a isso próxima notícia O spinoff do Google App criou um enorme banco de dados de plantas para melhorar o desenvolvimento das

colheitas com ia bom se você vive numa bolha e não tá sabendo a inteligência artificial já vem sendo utilizada em larga escala em tudo quanto é assunto de colheita em tudo quanto é assunto de agricultura por causa da Agricultura muito algoritmo de carro autônomo foi desenvolvido porque os tratores já são praticamente autônomos há muito tempo e muita coisa de visão computacional para detecção de pragas para fazer avaliação de colheitas para descobrir quais são as partes críticas para aplicar defensivos e para fazer uma irrigação mais regular e economizar dinheiro bom isso aí já acontece há muito

tempo mas vamos dar uma olhada nessa novidade de agora a abordagem orientada por dados da Startup harit table agriculture Visa modernizar os métodos tradicionais de Melhoramentos das plantas recentemente desmembrada da ex Vision da Google a empresa combina aprendizado de máquina com a genômica de plantas para prever resultados de melhoramento com mais precisão bom isso aqui priso falar uma coisa interessante que tem a ver com essa xvision Você viu que eles chamaram ela aqui ó de spinoff spinoff é quando você tem uma empresa maior e é como se essa empresa estivesse rodando e girando e de

repente saísse uma gotinha d'água voando em função dessa rotação alta e essa ideia de chamar spinoff é justamente isso às vezes de uma empresa Grande a empresa não se interessa por um determinado produto por um determinado nicho Mas Alguém de lá de dentro fala assim cara isso aqui que a Google não quer saber eu quero eu vou tocar e a pessoa sai da Google e toca a empresa lá por fora isso é bem normal na empresas de tecnologia então às vezes vale a pena você trabalhar numa Google ou numa Open ai e de repente algum

dia você se torna uma spinoff dessas empresas a antropic por exemplo é uma spinoff da Open ai a plataforma de a da empresa vai além da simples análise genética ela examina como os genes interagem com outras moléculas vegetais que eles estão chamando aqui de dados multi facilitando a identificação de quais genes controlam características específicas então aqui é uma inteligência aplicada genética bem realmente ali no código genético para tentar encontrar compatibilidade desses genes seus modelos funcionam de forma semelhante aos modelos de linguagem exceto que eles processam sequências de DNA em vez de palavras para identificar seções

de genomas que controlam as características das plantas e isso muita gente já vem falando há muito tempo né que o código genético ele é a linguagem da vida e começa a fazer até sentido que se a gente consegue fazer uma inteligência artificial que consegue entender a nossa linguagem ela vai entender o código genético também e vai entender melhor do que a gente olha que interessante O sistema também conecta informações genéticas com fatores ambientais como clima qualidade do solo e tempo para prever quão bem variantes específicas de plantas crescerão em diferentes locais e isso é bastante

interessante né É como se ela tivesse um pouco mais de contexto não simplesmente só a genética mas o contexto também que aquele Gene foi submetido essa abordagem pode reduzir a necessidade de longos testes de Campo potencialmente acelerando o desenvolvimento de novas variedades de plantas e a coleta de dados em escala industrial no centro do trabalho deles estava uma câmera de teste especial da sede da ex onde um sistema de câmera automatizado registrava o desenvolvimento da planta a cada hora o sistema registrava medições precisas como os tempos de floração e mudanças estruturais ajudando a equipe a

validar seus modelos de a gente vocês estão entendendo que nível que essas coisas estão eles estão olhando pra genética e estão olhando para um filme para um vídeo de crescimento da planta e eles começam a relacionar o que que aquele Gene tá causando naquela planta em determinado momento em determinada hora aumentando o nível de precisão da genética em níveis Absurdos para construir ainda mais seu banco de dados a equipe conduziu testes de Campo na Califórnia wisconsin e nebrasca eles coletaram medições detalhadas desde a contagem de grãos de milho por espiga até a medição dos níveis

de amargor dos vegetais preservando amostras de nitrogênio líquido para análise ai ai ai a gente tá entrando num nível de especificidade surreal muito acima de tudo que já se fez e aí eles comentam não estamos desenvolvendo plantas editadas por genes e a modificação genética não está em nosso roteiro dis ce ao Tech crunch por enquanto a Startup se concentra em usar análise de a para identificar os cruzamentos ideais para reprodução convencional embora o próprio CEO sugira que a edição genética pode ser considerada ada mais tarde do meu ponto de vista eu acho que a parte

do cruzamento genético nunca vai entrar no Road map deles porque tem empresas que já TM se Noal muito bem desenvolvido é mais possível que alguma empresa compre eles em algum momento se eles começarem a se desenvolver e essas empresas de genética que já estão ganhando dinheiro vão começar a ganhar junto com eles esse tipo de exemplo aqui é um exemplo bem clássico de grana que dá pra gente fazer aqui no Brasil fazendo pesquisa com llm Por que fazer pesquisa genética com llm a tokenização o tamanho da LM é 1 vezes menor o código genético é

1 vezes mais simples as letrinhas ali não tem aquela complexidade do alfabeto e não tem a complexidade que os livros TM mas é complicado igual não fica achando que vai ser fácil porém por outro lado é um ponto que a gente aqui no Brasil poderia e deveria atacar E tocar em frente projetos em relação à genética de plantas principalmente porque Em genética de plantas dá para fazer muita coisa de base porque A genética é mais simples você consegue acompanhar o serzinho ali em laboratório dá para fazer muita pesquisa avançada em relação à bioengenharia eu tô

falando isso porque eu tô tentando inspirar você que tá assistindo a se meter numa empreitada como essa que tem tudo para dar certo a gente é um país agrícola gente o resto do planeta não tem onde plantar as coisas e a gente tem aqui ID de sobra Então já comenta aqui se você se inspirou e ficou com vontade de fazer alguma coisa sobre isso pode ter certeza que a quantidade de artigos é pequena você vai ter que estudar bastante e vai ter que manjar bastante de genética para conseguir a avançar nesse tipo de pesquisa se

você quiser apoiar o canal para continuar vendo vídeos como esse seja membro os membros têm acesso ao grupo do WhatsApp vídeos antecipados É isso aí deixa aquele like valeu