é o seguinte galera eu quero fazer um corte aqui explicando a diferença de CPU GPU e npu porque a gente tá na discussão agora sobre inteligência artificial e a gente fez um corte falando sobre os novos PCs com inteligência artificial da Microsoft tá com os processadores da qual com Snapdragon e tal então a gente vai entrar agora nessa discussão mesmo porque teve o vazamento do que provavelmente vai ser uma manifestação da NVidia em defesas da das gpus para cálculos de inteligência artificial em detrimento das npu que é o que a Microsoft tá promovendo agora é
uma discussão complexa Mas é uma discussão que a gente tem que fazer porque o futuro do computador meio que depende um pouco disso vazou aqui já uma apresentação da NVidia que deve ser uma prévia de uma ação grande de marketing que ela vai fazer para tentar lutar contra npu que que acontece a Nvidia tá montando essa apresentação que eles devem fazer nos próximos dias vazou o negócio é o seguinte a envid não tá gostando esse negócio de npu porque atualmente quase toda pesquisa e processamento com inteligência artificial que a gente tem treinamento todo se bobear
ou quase todo tá porque tem o o Google é uma exceção porque tem outro tipo de processador Mas enfim ele é feito com placas de vídeo da NVidia tá com processadores da NVidia a Nvidia hoje basicamente talvez com a Rara exceção do Google Até onde eu sei ela manda em hardware de inteligência artificial com as gpus dela há algum tempo atrás tá se 6 7 anos atrás os celulares começaram a aparecer com esse novo tipo de processador novo chipz o pedaço de chip dentro do soc deles que chamava npu que é neural processing Unity que
é uma unidade de processamento neural que é voltada para a inferência desse tipo de atividade usando rede neural que a gente faz tipo reconhecimento de linguagem é o que é o chat GPT O que é a geração de imagens que você usa esses negócios tipo stable diffusion e coisas do tipo É voltado parae tipo de atividade e é um tipo de processador extremamente especializado para isso extremamente especializado ele não é usado tanto para treinamento mas para inferência ele é usado para tipo assim não é para treinar o modelo mas para você aplicar o uso do
modelo só que antes do aparecimento disso tudo o que era usado na pesquisa para esse tipo de coisa e até hoje é usado de forma mais Ampla eram as gpus que é basicamente a mesma coisa que você usa para rodar o gráfico dos seus jogos de videogame Vamos agora falar da diferença de processadores aqui vem a explicação agora se você queria saber sobre explicação de processadores esse é seu momento você já deve ter ouvido falar de CPU no seu computador é o que a gente normalmente chama de processador no computador é o que é o
seu Core 7 Core 3 né esse tipo de coisa é a CPU é o cérebro do computador é o principal processador que você tem no seu computador que faz o computador pensar é onde o seu sistema operacional roda e o que que é uma CPU é um processador com núcleos grandes em número reduzido ele começou com um núcleo só depois a gente teve o dual corta tal tal tal Hoje em dia você compra processadores assim voltados ao consumidor com até 16 24 núcleos ele tem esses núcleos muito potentes que você usa para processar comandos e
funções em sequência você clica para abrir um programa ele vê assim primeiro carrega não sei qu carrega essa biblioteca carrega esses gráficos carrega não sei qu carrega não sei qu o programa tá aberto você manda fazer uma atividade dentro do programa ele vai de novo em sequência abre não sei quê carrega não sei quê modifica desse jeito tal tal tal são processadores muito potentes para executar funções complexas em sequência só que aí você tem um outro tipo de processador no seu computador que se chama GPU que a gente chama de placa de vídeo ela é
responsável por colocar os gráficos que tem no seu computador tá se você tá vendo gráficos aqui no seu jogo e coisa do tipo é ela que faz isso o que que diferencia ela da CPU é que em vez de ter esses núcleos muito complexos em número reduzido e muito potentes para funções sequenciais ela tem um de Nucleo Zinho mais fraco e mais simples para executar várias funções em paralelo enquanto uma CPU aí tem 4 6 8 16 núcleos você vai ver a GPU na casa dos milhares milhares de núcleos pelo menos na casa do milhar
mais de 1000 ela tem esses núcleos porque quando você tá jogando um jogo você tem que pensar assim seu computador isso vou simplificando tá sua tela tem vários pixels né se você tá falando uma imagem em Full HD é uma imagem de 1080 por 1900 e 1920 pixels ela tem mais de 1 milhão de de pixels na tela então o seu computador quando você tá jogando tem que identificar o que que ele deve mostrar em cada Pixel cada Pixel por exemplo você tá olhando para uma coisa no seu jogo aí em um pixel ele tem
que ver qual que é a textura que eu tenho que mostrar tem alguma sombra que tá impactando essa textura que eu tenho que modificar a cor dela tá tendo movimentação na tela eu tenho que aplicar motion Blur nesse nesse Pixel e ele tem que fazer isso para todos esses pixels então para todos os pixels ele faz a mesma pergunta qual a textura se tem que aplicar um relevo tem um um um normal map se se tem motion Blur se tem uma sombra em cima dele se tem um reflexo de luz que tá batendo tem que
fazer essa mesma pergunta para todos os pixels a única coisa que muda é a informação que vai responder essa pergunta então é isso que se que a GPU faz com todos esses núcleos você tem esse monte de cálculo rápido paralelo que chama acontecendo ao mesmo tempo que ela tem que processar rápido e cuspir essa informação rápido diferente da CPU que é grandes processos em sequência aqui não é em sequência é um do lado do outro você tá processando todos os pixels ao mesmo tempo beleza acontece que esse tipo de processamento da GPU é muito bom
também para fazer coisas que usam redes neurais Porque nas redes neurais você tá fazendo vários pequenos cálculos ao mesmo tempo então é por isso que a gente usa gpus paraa inteligência artificial para treinar e também PR pr pra aplicação disso tradicionalmente é por isso que a gente usa a a GPU só que você tem novo processador que é o seguinte chama npu porque mesmo paraa Inteligência Artificial o tipo de núcleo que tem na GPU é muito complexo porque ele é feito Originalmente para fazer esses cálculos de gráfico e coisa do tipo a inteligência artificial não
precisa necessariamente de cálculos nesse tipo de complexidade porque que você pode fazer é fazer núcleos ainda mais simples que são ainda mais eficientes que não vão funcionar para você Calcular gráfico de videogame mas que funcionam só pro tipo de cálculos simples e Paralelos que você tem que fazer para essas redes neurais na verdade a n pu é uma imagina uma GPU simplificada Então ela é mais eficiente ainda e mais dedicada ainda mais especializada ainda em cálculos para Inteligência Artificial obviamente para cálculos de Inteligência Artificial a CPU é a pior porque como ela faz tudo em
sequência um cálculo que você faz rápido numa GPU demora um zilhão de anos numa CPU ela não é feito para esse tipo de cálculo Beleza espero que tenha ficado Claro aí a gente tem esse debate agora porque pelo que vazou aqui a Nvidia tá questionando as capacidades de uma uma npu porque tem um problema se a Microsoft tá baseando essas funcionalidades de Inteligência Artificial do Windows compilot numa npu e requerendo que os computadores tenham uma npu todo mundo vai fazer as coisas para rodar em npu vai otimizar o trabalho para isso né softwares para npu
exato não e as funções da Microsoft vão requerir npu se não tiver os seus 40 tops de npu não vai funcionar não vai funcionar Mas qual que é o problema computadores com uma GPU já tem essa essa capacidade eles fazem isso para você ter uma ideia uma GPU de entrada uma rtx 4050 lá embaixo tá a mais barata da nova série da NVidia ela tem quase 200 tops de performance para cálculo de eii quase cinco vezes mais que o mínimo requerido dessas npu da Microsoft é tão eficiente não porque ela não é dedicada para isso
é gasta mais mas é o que todo mundo já tem você tem uma GPU no seu computador né você tem a GPU da NVidia provavelmente ela já tem uma capacidade de cálculo de Inteligência Artificial mais alto que desses computadores só que a Microsoft vai puxar npu pesado por quê Porque essas na npu Essas funções rodam em computadores Mega leves que consomem pouco exatamente era isso que ia perguntar porque a GPU é uma baita uma caiola né não cabe no num computador fininho não o consumo é muito maior também mas as versões também são grandes não
são sim sim eles são é mais difícil porque você tem que referir a uma uma GPU em adição a sua CPU e coisa do tipo é difícil na bateria não vai durar tanto mas aí que tá a questão é a base instalada o que a Nvidia tá tá falando é que a galera já tem se você for colocar funções de inteligência artificial para rodar localmente no Windows É faz muito mais sentido você tem um esforço também para isso rodar na GPU em caso em que a pessoa não tenha uma npu porque a base instalada já
tá lá o que faz sentido mas aí entra outra questão se funciona da base instalada não tem porque você comprar um computador novo não é mesmo não só isso tem a questão financeira pra Microsoft ela quer el a Microsoft ganha dinheiro quando você compra o computador ela vende o a licença do Windows pra empresa que te vende o computador Uhum mas tem a outra questão também você não consegue fazer esse empurrão na direção de eficiência porque a ideia da Microsoft é colocar Essas funções de Inteligência Artificial rodando localmente nas máquinas Ultra portáteis então assim é
sério gente e esses números tipo assim se você tiver uma 4090 ele é o quê é mais de 1300 tops enquanto o computador desse é 45 pelo Men 40 para você ter a certificação uma placa de vídeo de entrada já destrói em termos de não eficiência mas de performance e não só isso por o requerimento seus 40 tops o tipo de computação que você pode fazer de inteligência artificial é bem básica você não pode fazer coisa mais complexas mesmo no exemplo que a gente viu ali da do Pain a própria modificação do desenho da moça
que o Pain estava fazendo era bem básica não é essas imagens Ultra realistas que a gente vê com mour e coisa do tipo que são coisas que rodam nas nuvens e que demandam um gusto um custo energético muito maior em gpus da NVidia Então a gente vai ter uma discussão agora da função de npu e GPU a vantagem da GPU é mais potente do que pelo menos esse requerimento que a Microsoft tá querendo e a base instalada já existe já existe Você tem uma placa da NVidia com cuda você pode rodar esse tipo de coisa
né você tem PR jogo é a galera de jogo já teria um computador de ai entre aspas né a maior parte da galera não usa ainda porque a coisa não tá facilitada igual o Windows tá fazendo que é colocar tudo num sistema operacional você pode rodar o stable Fusion no seu computador mas a maior parte das pessoas não tem nenhum conhecimento nem nem nem a disposição de querer às vezes nem passar por todas as coisas para poder usar necessidade para motivar Isso é se o negócio tiver no no Paint que vem instalado no Windows você
vai e usa né O que é inpu tem é eficiência e a possibilidade de se rodar basicamente em qualquer computador porque tá rodando em Ultra fino o GPU tem a dificuldade porque não vai ser instalado num notebook fininho não fino desse jeito não fino desse jeito claro que você tem quando eu digo assim uma GPU cada tá gente porque obviamente a Intel faz GPU também é embutida a própria NVIDIA vai ter agora os processadores dela com a com a com a mediatec então assim é uma discussão complicada tá é uma discussão complicada mas eu sei
que a gente tá no novo momento de computação
