Ollama: Guida Completa per Usare Llama 3.2 in Locale GRATIS!

Ciao a tutti e benvenuti Io sono Francesco e oggi parliamo di intelligenza artificiale più nello specifico voglio farvi conoscere questo software open source che si chiama h Lama h Lama ti permette di scaricare e utilizzare modelli di intelligenza artificiale come Lama 3. 2 e tanti altri che poi andremo a vedere nella loro Reposi e soprattutto senza dover poi utilizzare nuovamente Internet senza spendere €1 e ovviamente garantendo la privacy dei nostri dati spostiamoci subito sul loro sito internet che è hama. com dove possiamo andare a vedere direttamente qua che dice di lanciare Lama 3.

2 P3 Mistral e Gemma più altri modelli andiamo a vedere nello specifico ad esempio Lama 3. 2 che ricordo è un modello Open Source sviluppato e rilasciato da meta ex Facebook ed è veramente interessante ha Ad esempio in questo caso due versioni che è quella da 1 e 3 miliardi di parametri e rispettivamente pesano Come possiamo vedere 1,3 GB e l'altro 2 GB questi Inoltre possono essere anche poi utilizzati e come possiamo andare a vedere qua ci sono tantissime altre versioni possono essere anche utilizzati sui nostri smartphone che hanno architettura arm o oltre diciamo la parte di presentazione di questo modello come possiamo andare a vedere quello di default è messo sui 3 miliardi di parametri che è un po' più diciamo avanzato e poi c'è il benchmark dove lo mette a confronto ad esempio con altri modelli scendiamo ancora un pochino e ti dice che sono supportate le lingue inglese tedesco francese italiano e tante altre quindi per noi in questo momento va benissimo cosa bisogna fare per lanciarlo e utilizzarlo Sicur lanciare questo comando qua che ci mette a disposizione con un bel tasto copia prima di fare questo quindi torniamo sulla pagina principale andiamo sulla bottone dei download scegliamo la nostra architettura Quindi per chi ha Mac Linux e Windows In questo caso Windows e andiamo a scaricare l'eseguibile Io l'avevo già scaricato in effetti pesa 764 me che non è proprio poco una volta scaricato il nostro eseguibile lo andiamo poi a installare sul nostro computer Eccolo qua Questo è come si presenta in questo momento non dovrei avere niente di attivo andiamo avanti setup ok no ti dice in effetti che ce l'hai già io in questo caso non vado avanti l'ho già fatto e alla fine di tutto quanto questo setup vi ritroverete on Lama installato direttamente sul PC non ha un'interfaccia grafica particolare Quindi non vi preoccupate finito il setup cosa fate andate direttamente sul vostro prompt dei comandi e andiamo a incollare il comando che abbiamo copiato prima Eccolo qua noi adesso facciamo così in questo caso io l'ho già scaricato Quindi come potete vedere è già pronto a darci una risposta io scrivo ad esempio Ciao ciao Come posso aiutarti andiamo a vedere un attimo meglio il tutto per uscire da questa schermata bisogna premere contrl + D quindi contrl d e ti fa uscire dal modello andiamo a farvi vedere ad esempio la possibilità di scaricare un altro modello Io ad esempio Mistral credo di non averlo scaricato ha solo quello da 7 miliardi di parametri con 4 GB Mistral è fatto da francesi Quindi comunque rimane qua in Europa è molto carino ed è abbastanza performante sia a livello diciamo di testo che anche di coding che potremmo andare a vedere successivamente soprattutto con un altro applicativo che è Bolt che vi avevo già nominato precedentemente Tornando a noi andiamo a scaricare il modello adesso andiamo a incollare il comando che ci siamo copiati precedentemente Quindi al posto di Lama 3. 2 andiamo a scrivere Mistral premiamo invio e come vedete lui sta cominciando già a scaricare il nostro modello la cosa interessante è che se comunque ci dovesse essere un problema quindi smette di scaricarsi e quant'altro perché comunque sono dei modelli anche abbastanza pesanti e questi fino a 4-5 GB non sono enormi quindi prepariamoci che ci sono anche dei modelli da 90 e 100 GB a salire che cosa succede che se si dovesse interrompere Comunque lui è intelligente e va a ricostruire a riscaricare da dove ci siamo interrotti adesso senza che vi tengo qua direi una mezz'oretta a scaricare questo video Forse anzi no ci mette 7 minuti mettiamo un attimo in pausa e lo riprendiamo tra pochissimo Ok come potete vedere ha scaricato i 4 Gig sta finendo diciamo anche di scaricarsi un paio di altri file ha già praticamente creato tutto quello che ci serve e adesso Infatti ti dice Scrivi scrivi un messaggio e vediamo se effettivamente sa l'italiano Ciao Ola come stas Direi che è perfetto sa l'italiano vediamo un po' sai parlare anche in italiano Sì parlo anche in italiano se altre domande bisogno Ok non mi serve che mi spieghi anche in inglese però diciamo che sa parlare italiano e questa è una gran bella cosa ora usciamo dal modello per uscire da questo modello basta fare control + D Quindi abbiamo finito l'esecuzione e andiamo a vedere qualche altro comando per on Lama andiamo a fare subito ad esempio on Lama - h e questo è Help quindi ti fa vedere praticamente tutti i comandi disponibili come Start crea Show Run stop Pool Ok ce ne sono tanti uno anche importante l'rm quindi remove quindi ti va a cancellare il modello che abbiamo scaricato e voglio farvi anche vedere come andare a personalizzare quindi uno di questi modelli per prima cosa vediamo la lista di quelli che ho disponibili Lama list e ci troviamo direttamente tutta la lista di quelli scaricati Mistral che l'abbiamo appena scaricato quen 2.

5 che è fantastico soprattutto come versione coder che è molto potente Anche questa ha due modelli quelli da praticamente quasi 5 GB e uno da du e direi che abbiamo anche l'ama 3. 2 non censurato e lì potete decidere voi Comunque cosa andare a scrivere ci sono veramente un'infinità di possibilità abbiamo Lama 3. 2 e lama 3.

2 Vision da 8 GB già per lanciare quello da 8 Gb con la versione multimodale anche visiva con delle immagini effettivamente sul mio pc fa molta fatica a reggerlo io c'ho ricordo un rtx 3050 su un portatile quindi è praticamente quasi nulla ma già se avete un una workstation un computer un po' più potente credo che potete utilizzarla Senza troppe difficoltà andiamo subito ad esempio a fare un' altro test per dire lanciamo il modello Lama 3. 2 E mettiamo o Lama Run ci andiamo a incollare questo qua perfetto eco come vedete adesso parte subito l'altro modello Ciao Ok lui è un po' più spedito quindi è veramente molto semplice bastano due tre comandi messi in croce una volta scaricati questi modelli possiamo lavorarci senza dover utilizzare per forza internet e abbiamo già una semplice console da terminale stile un po' chat ma che comunque effettivamente non è che è proprio così tanto intuitiva e carina da andare a vedere usciamo da questo modello vi faccio vedere che avevamo già fatto precedentemente con Pinocchio andiamo ad aprirci ad esempio il software open web Gui e andiamo ad utilizzare uno di questi modelli che abbiamo scaricato adesso ad esempio possiamo vederci mis Apriamo la schermata di Pinocchio se non sai che cos'è ti consiglio di andare a vedere il precedente video dove ti faccio vedere come scaricarlo A cosa serve e Come utilizzare i Mod modelli e script di intelligenza artificiale che troviamo all'interno di pin apriamo Ad esempio la Open web Gui clicchiamo su questo e si sta lanciando lui in autonomia sarà pronto vedremo qua un pulsante con scritto Apri l'interfaccia quindi aspettiamo ancora un attimo ok ci siamo aperto qualche porta apriamo una nuova pagina e andiamo sulla porta che ci ha detto lui Scrivi un account adesso non mi ricordo forse poteva essere questo che avevo scritto anche nell'altro video Sì gli è piaciuto come possiamo aiutarti se andiamo ad espandere questo menù a tendina possiamo andare a vedere tutti i modelli che abbiamo scaricato precedentemente dentro h Lama Infatti l'ultimo modello è Mistral questo proviamolo Ciao molto semplice Ora come stas gli piace la doppia traduzione e ciao parla solo in italiano e senza darmi altre traduzioni Addirittura lui qua se la Sta viaggiando G sta facendo tutto un suo discorso vabbè stoppiamo Sì molto sintetico Quindi è un modello alla quale piace esprimersi questo un aiuto per rispondere alle tue domande storia linguaggio altro ancora ola ola gli piace Ok quindi ti fa come se fosse una sorta proprio di insegnante va bene Molto molto carino Ricordiamoci che tutto quanto questo gira senza l'utilizzo di internet ed è veramente molto interessante se uno va a pensare poi eventuali sviluppi locali e senza ulteriori costi che questa tecnologia ti può effettivamente offrire adesso un'altra cosa molto utile è quella di andare a personalizzare tramite on Lama un po' di più questi modelli Quindi se ad esempio abbiamo visto mistra e ci spostiamo di nuovo su Lama 3. 2 e andiamo a scrivere Ciao chi sei andiamo a vedere che comunque non va a dare una risposta così diciamo diretta particolare soprattutto personalizzata Sono un assistente virtuale molto bene Adesso noi questo assistente virtuale vogliamo far sì che comunque abbia un po' di anima che comunque abbia un prompt iniziale in modo che possa comunque darci delle risposte un po' più dedicate Ad esempio immaginiamo uno di questi modelli di intelligenza artificiale che si comporta effettivamente come un social media manager o qualunque altra cosa voi vogliate possiamo andare a personalizzare uno di questi modelli per renderlo un po' più ad hoc in base al nostro utilizzo andremo a fare praticamente un operazione di creazione di un file che si chiama Model file per dargli dei prompt degli input un po' più dedicati quindi andiamo a esplorare all'interno del nostro terminale e andiamo a scrivere questo comando Prima di tutto facciamo on Lama list perfetto incolliamo questo comando e andiamo a cercarci ad esempio il 3.

2 last lo andiamo a incollare così o Lama Show nome del modello spazio meno meno Model file premiamo invio e come vedete lui qua ci fa vedere come è stato creato e strutturato il Model file specificatamente per Lama 3. 2 quindi possiamo a capire esplorare direttamente da all Lama Model file dove viene comunque spiegato ovviamente in ogni sua singola parte voglio farvi vedere una cosa molto semplice e veloce possiamo andare a personalizzarlo semplicemente andando a scrivere veramente due due righe di di codice quindi apriamo il nostro file di di testo e Andiamoci a scrivere quello che ci serve Quindi spostiamoci ad esempio su un altro strumento di intelligenza artificiale tipo perplexity e gli andiamo a scrivere Scrivimi un prompt da dire al mio modello ai Come comportarsi per essere un ottimo social media manager che deve scrivere post per social network network e cerca il migliore framework e metodi per suivi scrittura anche in ottica Seo andiamo correggere tanto non gli interessa e già così Potrebbe essere un'idea Ok lui ci dice agisci come un esperto social media manager il tuo compito è scrivere post accattivanti strategici Adesso magari gli scriviamo e scrivi tutto troppe punteggiature e altre formattazioni Scrivi tutto in modo lineare Ok così forse è un po' meglio Andiamoci a copiare tutto quanto questo Apriamo un nuovo file di testo e andiamo a incollare Quindi io direi è ancora un po' più carino tu ti chiami Mario Anzi facciamo così adesso per andare a scrivere questo file ci servirà fondamentale due due testi il primo praticamente è from e andiamo a copiarci il nostro quindi andiamo a prenderci il nostro terminale e scriviamo ama list vogliamo andare a editare Lama 3. 2 questo qua torniamo un attimo qua from lui andiamo a scrivergli System System e lasciamolo così adesso questo lo andiamo a mettere dentro una cartella e lo chiamiamo Lama 32 smm Men Model file e ci ha lasciato l'estensione l'estensione non va bene quindi andiamo a togliere il punto Tix Eccolo qua Model file torniamo sulla nostra console spostiamoci dove abbiamo creato diciamo il file e andiamo a scrivere ama mettiamo ad esempio il nostro nome quindi Lama 32 smmm - f e gli diamo poi il file esatto che ci siamo andati a creare che per non sbagliarci ce lo Copiamo da qua e lo incolliamo Ok è stato velocissimo l'ha già personalizzato Quindi se adesso noi andiamo su all Lama list ci troviamo Lama 32 smm last Quindi direi che se ci risposti nuovamente su il nostro sistema openweb Gui lo possiamo andare a cercare Facciamo magari un refresh Ok quindi apriamo una nuova chat andiamo a selezionare il nostro modello di intelligenza artificiale che abbiamo personalizzato precedentemente Tip Lama 32 smm Eccolo qua adesso su questo andiam gli a scrivere ad esempio Ciao chi sei Ciao sono Mario un esperto di social media manager quindi già si ricorda chi è ed è una cosa ottima andiamo a scrivere un prompt tipo Crea un post per promuovere un software di nome con lama che ti permette di utilizzare modelli lmm come Lama 3.