Como rodar modelos de IA gratuitos, sem ter um super computador

Quero testar modelos de ai sem ter que vender o meu carro ou a minha casa para ter um setup animal em casa. O que que eu faço, mano? Ou melhor, eu quero testar todos esses modelos novos que não param de sair sem ter que ficar mexendo no código.

Eu quero no máximo alterar o nome do modelo nas variáveis de ambiente. E aí, como fazer? Nesse vídeo eu vou te mostrar ferramentas bem úteis para facilitar o seu fluxo de desenvolvimento.

Ferramentas inclusive que você pode executar modelos experimentais ou populares sem sequer gastar um centao. Então já pega um café, deixa o like no vídeo para me ajudar e bora que bora. E a inteligência artificial é o assunto do momento e um dos temas que mais estão bombando aqui no canal.

E sempre levantou aquela dúvida, pô, e as vagas na gringa, né? Por conta de todo esse boom, quem sabe os componentes essenciais ji tem uma posição mais que privilegiada, não? Sim.

E é por isso que eu trouxe mais uma parceira aqui no canal com um plano de ação personalizado para você iniciar sua carreira internacional nos próximos meses. Acoders é um ecossistema que impulsiona carreiras na área de tecnologia, capacitando desenvolvedores pro mercado de trabalho global. Se você é deve pleno ou sior e tem o sonho de trabalhar fora do país, ganhando em moeda forte, a Coders tá com uma consultoria gratuita de 60 segundos para te ajudar a traçar esse caminho.

Para participar da consultoria, você pode escanear o Qcode que tá aparecendo aqui na tela ou acessar o link na descrição ou nos cards aqui do vídeo. Venho falando bastante de AI aqui nesse canal e você vai reparar que eu ainda não usei qualquer AI paga como chat EPT, Google, etc. Isso porque eu gosto de ir na contramão do que tem de popular por aí.

Muita gente anda julgando quem usa AI no dia a dia, porque as pessoas estão supostamente pensando cada vez menos. Então, foi por isso que eu fiz um vídeo inteiro mostrando como rodar modelos na sua máquina. E minha conclusão criando esses conteúdos foi que sem pensar você não consegue extrair nada de bom desses modelos de AI.

Para você que viu esses vídeos, sabe que eu tô longe de ter uma máquina preparada para rodar esses modelos. Inclusive, teve vídeo que eu travei a gravação tentando mostrar esses exemplos ao vivo. É legal ver o vídeo travando loucamente, cara.

É muito bom. Minha máquina é um MacBook Pro M1 com 16 GB de memória. E o máximo que eu consegui rodar até agora foram modelos de 7 bilhões de parâmetros, o que não é nem de perto ideal e traz bastantes resultados inconclusivos se o prompt não for bem refinado.

E esse é um dos objetivos com essa série de conteúdos sobre rodar e de forma gratuita. mostrar que você pode sim usar modelos menores e até gratuitos para tarefas complexas, mas você precisa usar a cabeça e refinar bem os pedidos que faz. Não acredita em mim, mano.

Ó, no vídeo que eu mostrei como ensinar EAIS a acessarem bancos de dados, eu usei um modelo pequeno de 7 bilhões de parâmetros e eu fui testando vários outros modelos para ver qual seria melhor nas tarefas que eu precisava, como responder os usuários de forma humana a partir de um Jason ou até gerar código. Só que para chegar nesse resultado, eu tive que baixar vários modelos na minha máquina e sair testando um a um até entender qual retornava os resultados mais precisos de acordo com o que eu precisava. E foi, ó, um trabalho bastante chato e que acabou com a memória disponível em disco muito rápido.

Foi por isso que eu decidi fazer esse vídeo aqui, mostrar como você pode fazer a mesma coisa, mas de forma mais fácil, rápida e com poucas alterações você consegue modificar tudo. Eu tô gravando esse vídeo no dia 25 de abril, no meu aniversário de 30 anos e tô aqui trampando, mano, entregando conteúdo de qualidade para você. Então, ó, já deixa o meu presente aí, deixa o like no vídeo, se inscreve no canal e, claro, já deixa um comentário no vídeo.

É nós, hein? E para quem gosta de receber conteúdo em primeira mão, eu criei um grupo exclusivo no WhatsApp, onde eu venho enviando dicas da área de dev, projetos, tutoriais incríveis e muito mais. Já entra lá e bora.

A primeira ferramenta que eu encontrei na net é o Open Houter. Ela é uma interface unificada para você usar modelos de AI. Apesar de não ser uma publicidade para eles, eu gostei bastante da ideia e já tô usando no meus próprios experimentos aqui.

Lá você pode usar uma pancada de modelos gratuitos, tirando o processamento da sua máquina. E não é só isso. Você pode ir no seu código e simplesmente mudar o nome do modelo e sair usando.

Uma das coisas que mais me surpreendeu é que existem modelos de 70 bilhões de parâmetros gratuito, o que nem a pau rodaria na minha máquina. Eu te falei que o máximo que rodou aqui era de 7 bilhões. Então, nesse serviço aí você conseguiria rodar 10 vezes mais processamento sem ter que pagar nada.

É doideira de verdade, mano. Nas últimas semanas eu vi muito aquela do ah, o Facebook liberou um modelo novo. Ah, o Google fez algo incrível.

Ah, o Dipsic agora matou o GPT e mais. E eu sempre ficava pensando, pô, será que eu vou ter que pagar mensalmente cada um deles para testar? Nesse esquema do Open Houter, você compra créditos e pode ir alterando os modelos e ele que faz o pagamento para essas empresas.

Ele vira um hub de modelos de Ai que facilita muito o jogo. Ah, e não é só o Open Houter, tá? Mas o próprio KitHub tem um hiper hub incrível que você pode testar modelos premium sem ter que colocar cartão de crédito.

A única coisa é que você tem um limite de uso nesse esquema do gratuito, mas para testar e validar qual modelo funciona melhor, vale muito a pena olhar esses dois. E assim, qualquer um dos dois é bastante simples de usar. Você gera uma chave de APM e sai usando com o mesmo SDK que você já usa, como da Openi ou outros, sem qualquer sofrimento.

E isso aqui, mano, é da hora demais, fala a verdade. Então, agora você já sabe, quer usar modelos gratuitos e não tem uma máquina legal ou simplesmente não quer ter problema criando o ambiente do zero, vai de Open Houter ou GitHub ou até similares, mano. Existem outros serviços por aí que oferecem esse tipo de serviço, onde você adquire créditos, paga por uso ou até usa gratuito por aí.

A grande questão agora é saber o que criar, né, mano? Então, ó, eu quero saber de você que tipo de aplicação você tem ideias aí de implementar comis ou se já tem aplicações em produção, me diz o que é e se meus vídeos têm ajudado em algo no seu desenvolvimento. O seu feedback é sempre importante para que eu continue evoluindo por aqui no canal.

Te convido a colar na minha academia, tá rolando assinatura anual para acessar todos os treinamentos e eu já tô cozinhando a próxima formação de inteligência artificial para desenvolvedores. Para você que chegou até esse momento do vídeo, comente aí, ó. Quero de graça para eu saber que você realmente chegou até o fim do vídeo.

E esse é o tipo de conteúdo que vale para deve de todos os níveis. Então peço para compartilhar com seus colegas de trabalho nos seus grupos do WhatsApp, seus canais do Discord. Eu tenho certeza que esse tipo de projeto aqui pode ajudar você, o seu time e claro o projeto que vem atuando.

Te convido a dar uma olhada nas playlists no canal que tem muito conteúdo incrível que você não vai achar em qualquer outro lugar. Espero que esse vídeo tenha superado suas expectativas. Eu sou Eric Way e, ó, te vejo no próximo vídeo.

Tem uma posição mais que privilegiada, não mais que privilegiada, criando esses conteúdos. Uh, errei, errei bonitos e até gratuitos para tarefas, para tarefas complexas para você o que nem a pau rodaria na minha máquina. E eu te falei que o que o máximo onde você adquire créditos, onde você adquire e eu já tô cozinhando a próxima formação.

Formação. Te convido a colar na minha academia. Tá rolando assinatura anual.