CREA la tua A.I. PERSONALIZZATA OFFLINE in LOCALE | Tutorial Completo Facile (Ollama, Llama 3)
HTML-код
- Опубликовано: 21 июл 2024
- Il nostro mondo inizia ad essere ormai dominato dall’intelligenza artificiale e ci sono un sacco di opzioni disponibili: ChatGPT, Brad, Gemini, Copilot, ecc…
Sorge spontaneo il desiderio di creare la propria intelligenza artificiale (A.I.) personalizzata. Una versione dell’A.I. che giri in locale e che sia completamente gratuita. Sembra impossibile ma possiamo farlo ed oggi quindi ti mostro come creare ed addestrare e personalizzare il tuo modello A.I.
Creare da zero un LLM ovvero Large Language Model richiederebbe una potenza di computazione enorme. Servirebbe un data center intero e probabilmente diversi Petabyte di dati di addestramento. Seguire questa strada è impossibile quindi andremo ad “imbrogliare”. Andremo a prendere un LLM open source dalle ottime prestazioni già pronto ed andremo a fare una rifinitura sul suo attuale addestramento per personalizzarlo.
Nello specifico, andremo ad utilizzare Llama 3 di Meta ed andremo a fare un refinement del suo addestramento aggiungendo materiale ed istruzioni aggiuntive che l’A.I. dovrà tenere in considerazione prima di dare qualsiasi risposta. Avremo a tutti gli effetti la nostra intelligenza artificiale (A.I.) personalizzata, gratis ed in locale.
Template da usare per personalizzazione:
FROM llama3
Set custom paramter values
PARAMETER temperature 1
Set the system message
SYSTEM """
"""
🍪 Cookiebot by Usercentric
Inizia la prova gratuita di 14 giorni ► www.cookiebot.com/en/affiliat...
Cookiebot CMP è certificata da Google e ti aiuta a raggiungere la conformità a GDPR, ePrivacy e alla policy di Google sul consenso degli utenti nell’UE. Mantieni la personalizzazione degli annunci, il remarketing e l’analisi di Google attivi nell’UE/SEE implementando CookiebotTM con Google Consent Mode v2.
#Ollama #AI #IntelligenzaArtificiale
INDICE VIDEO:
00:00 - Creare la nostra A.I.
01:50 - SPONSOR: Cookiebot by Usercentric
03:17 - #1 Installazione Ollama e Llama 3
08:15 - #2 Personalizzare l’A.I. con custom prompt
10:08 - #3 Test A.I. personalizzata offline
💰 RISPARMIA ONLINE
🌍 Crea il tuo sito web: hostinger.it/gian
💶 Sconto 10% con codice: GIAN
📦 Sconti Amazon: www.offertepertutti.it/
📹 COSA USO PER FARE VIDEO:
► Attrezzatura: amzn.to/47Im3RQ
► Accessori: amzn.to/3ObcG6f
📱 SOCIAL:
► TIKTOK: vm.tiktok.com/ZMLW6Vmwm/
► INSTAGRAM: / gians_tech
► TELEGRAM: t.me/gianstech
► TWITCH: / gianvitech
► Telegram Offerte Tech: t.me/amazontechoffers
► Offerte per tutti BOT: telegram.me/offerte_per_tutti...
► Sconti Amazon: www.offertepertutti.it/
📩 Business Mail: gianandreavilla@gmail.com
📹 I MIEI ULTIMI VIDEO:
► GUADAGNARE ONLINE ED AUMENTARE ISCRITTI CON LIVE INFINITE: • GUADAGNARE ONLINE ED A...
► CREARE un E-COMMERCE 🛒 FACILMENTE SENZA SAPER PROGRAMMARE: • CREARE un E-COMMERCE 🛒...
► Come CREARE UN SITO WEB da zero in MENO di 60 SECONDI: • Come CREARE UN SITO WE...
► CREARE e PUBBLICARE un SITO WEB con BOOSTRAP: • Come CREARE e PUBBLICA...
► Come GUADAGNARE CREANDO un SITO DI AFFILIAZIONE: • Come GUADAGNARE CREAND...
► GUADAGNARE con una ⚡️LASER ENGRAVER: • GUADAGNARE con una ⚡️L...
► Il VERO MONOPATTINO LEGALE in ITALIA 2023: • Il VERO MONOPATTINO LE...
► Come GUADAGNARE da MINORENNI 💶: • Come GUADAGNARE da MIN...
► GUADAGNARE PASSIVAMENTE - 14 VERE FONTI DI RENDITA: • Come GUADAGNARE PASSIV...
► 5 APP da avere ON THE ROAD: • 5 APP da avere ON THE ...
💶 OFFERTE IN CORSO:
► Amazon Prime Studenti: amzn.to/3bjj59B
► Amazon Prime Gratis per 30 giorni: amzn.to/399zFam
► Amazon Music Unlimited Gratis per 30 giorni: amzn.to/2wrjhom
► Amazon Prime Video Gratis per 30 giorni: amzn.to/2Wx4bbB
📺 LE MIE PLAYLIST:
► JavaFX Tutorial - IntelliJ & SceneBuilder: bit.ly/2wtIgY1
► DaVinci Resolve 16 Tutorial: bit.ly/2QCgsHT
► Hitfilm 4 Express Tutorial: bit.ly/2J3F48h
► FCPX ADVANCED: bit.ly/2vDVUHI
► Alle prima armi con Mac: bit.ly/33CvfYz
► Final Cut Pro X Le Basi: bit.ly/2xQOXnk
► Photoshop Tutorial: bit.ly/2J5tIR7 
Наука
![Claude 3.5 is the best AI out there [Artifacts Tutorial]](/img/1.gif)
Complimenti per la spiegazione praticamente perfetta! Grazie mille per il video
Grazie a te per aver visto il video 🙏🏻💥
Video molto utile e illustrato veramente bene in ogni singolo passaggio. Sarebbe utile se facessi un altro video come questo ma per un intelligenza artificiale che può generare immagini.
In realtà conosco il tool adatto! Stay tuned! 😎👌🏻
Forte, sto provando ad addestrarlo per sostituire, in parte, il manuale dei miei programmi e funziona abbastanza bene. :)
FIGATA 💯
Molto molto interessante. Bravo e grazie 👋
Grazie a te! Felice che sia piaciuto
Ciao Gian, complimnti come al solito, ma se la volessi disinstallare che comando dovrei utilizzare da terminale?
Bel video! A proposito, puoi dirmi qual è il tuo microfono? La tua voce suona alla grande
Maono PD400X
Ciao e Grazie. Photo aggiungere dei files per l’allenamento? Oppure devi inserire tutto in testuale?
se vuoi addestrare un AI da zero, non è questa la procedura
Ciao Ottimo video!. E' possibile passargli dei file per insegnargli alcune conoscenze come per i gpts di Chatgpt? grazie!
Ho un pc abbastanza nuovo ma temo di non avere una scheda video adeguata (Nvidia Gforce mx550) perché le risposte del chatbot sono veramente lente, cmq complimenti per il video, sicuramente questo aprirà nuovi scenari
Unico che non ho provato LLaMA3 sono anni che faccio queste cose non mi fanno terminare nulla mi bloccano e cancellano tutto il cputer e difficile da spiegare
Ciao, grazie per questo video molto utile, non mi è chiaro come iniziare la costumizzare l'AI, su Windows se do il comando "nano yoda" non lo riconosce, da che punto bisogna avviare la personalizzazione?
Ciao, nano e un text editor per Mac Os su Windows basta il semplice blocco note dove scriverci il tutto. Attenzione che se copi dalla descrizione mancano i "#" quindi controlla dove sono dal video se no ti da errore
@@lellotrek Grazie, seguendo le tue indicazioni funziona.
Ho due domande: è comunque censurato? E, secondo: davvero non ha limiti di token, ovvero gli si può far scrivere un romanzo di mille pagine? Grazie e complimenti per il video.
La censura dipende dal modello che scegli di usare!
Per quanto riguarda le generazioni, tecnicamente non ci sono limiti e la capacità computazionale del tuo pc potrebbe essere il collo di bottiglia.
Sto provando Llama3 sul LM Studio, non c'è modo di addestrarlo dei documenti PDF mail e MarkDown di alcune direttori? Così si che diventa fantastica!
Secondo me è fattibile. Andrà integrato con qualche tool esterno che prenda in input le sorgenti non compatibili direttamente e le trasformi in testo.
@@gianstech pensa che bello .... poterlo interrogare alla massima potenza, con tutti documenti del mio obsidian!
Avevo letto di questa "opzione" però non mi è chiaro come "addestrarla" per farmi inviare i dati che ha raccolto (esempio: inviare i dati ad una web-api che li salverà in un db)
C’è la documentazione su github per collegare le API
@@gianstech ottimo, se c'è anche il container docker, sono a cavallo! Grazie per il chiarimento!
Complimenti del bel video! Una domanda: come fare tutto questo su windows? grazie
Il processo di installazione di Ollama sarà differente ma poi l’esecuzione nel terminale mi aspetto sia uguale!
Grazie👍
@@gianstech e quasi tutto uguale e su windows viene eseguita in powershell ma per la creazione di quella personalizzata ho difficoltà non trovo i comandi giusti
Serve un computer adatto dillo perché molti si credono che possono funzionare su tutti i co.puter serve una GPU invidia. Senza GPU esempio schede Intel integrata senza GPU e senza avx2 non funziona di impalla tutto e risponde dopo circa un ora ad una domanda. Qualsiasi modello li ho provati tutti...
Non so che problema abbia sul tuo pc ma io lo faccio girare su arch linux su un vecchio thinkpad x230 di 12 anni fa, ci mette solo una ventina di secondi a rispondere ma risponde
@@matteovillani8983 ma davvero io credevo era perché non avevo GPU ho provato di tutto puoi darmi un link di ciò che hai usato tu sul esempio che mi hai fatto.. 20 secondi sarebbe un lusso per me anche mezz'ora hahahah visto come è andata..
@@matteovillani8983 io uso Linux mint ma lo avevo installato anche su peppermint appena formato e uguale
@@matteovillani8983 llama2 avevo iniziato poi li ho provati tutti e nessuno
Funziona anche solo con la cpu
La si può utilizzare anche per far scrivere libretti da vendere su Amazon KDP ?
Domanda Le cose che scrive non sono plagiate hai controllato?
Dovresti poter usare le risposte del tool per questi scopi. Controlla però la documentazione di LLAMA 3. Mi immagino che come parte del training abbia anche materiale protetto da copyright, ma non dovrebbe mai generare risposte che copiano passaggi.
@@gianstech scusa la domanda dove si può vedere la documentazione
@@gianstech dove trovo la documentazione
Quale sarebbe il template da scaricare?
Il testo in descrizione
@@gianstech ciao, ma se uso open webui basta andare nelle impostazioni, me lo confermi?
Ho installato funziona ma lentissima
Dipende dalla capacità computazionale del tuo device