Se ti interessa installare Ollama su Windows non riesco ad accontentarti perché non ho un PC con una scheda grafica idonea agli LLM. Se ti interessa installare invece OpenWeb UI su Windows i passaggi sono praticamente identici, invece di docker desktop per Mac basta scaricare quello per Windows.
ho trovato molto interessante questo video Top!!! ho notato che 'interfaccia do Open WebUI per caricare i documenti è cambiata e non trovo come selezionare ad esempio mxbai-embed-large:latest come suggerivi. Inoltre dalle prove che ho fatto con documento in pdf 164 kb il testo non è stato letto tutto. Mi piacerebbe sapere la tua opinione a riguardo o ricevere qualche suggerimento. Mi piace molto l'idea di processare documenti in locale per la la riservatezza!
Open WebUI è in continuo sviluppo e stanno facendo tante cose interessanti (appena ho un attimo voglio fare un video di approfondimento). In parte è cambiata l'interfaccia di amministrazione negli ultimi aggiornamenti. Dialogare con i documenti è complesso. teoricamente il PDF in questione non dovrebbe avere problemi (se è stato prima convertito in testo).
Ciao, video interessantissimo, mi piacerebbe vedere una spiegazione più dettagliata sui modelli da aggiungere. Grazie mille per le informazioni che condividi!
@@AvvocatieMac Comunque tanto per comprendere, ho provato a caricare un immagine ma non la vede, dice che vuole un url o comunque il file per visionarla, anche se è li mandata insieme al prompt. Ho provato anche a mettere un link di youtube, legge la descrizione ma non "vede" il video. Qui entrano in gioco i modelli o sto sbagliando qualcosa io?
Ho fatto un test rapido e con llava ed immagine funziona. Ho visto che con la versione 1.123 puoi interagire con i sottotitoli di RUclips (in modo testuale) ma il video deve avere i sottotitoli.
@@AvvocatieMac Perfetto, proverò llava, grazie mille. Ultima cosa (sono nuovo in questo mondo e sto cercando di capirne sempre di più) ho visto che docker mangia tantissima ram, ed ogni volta sono costretto a forzare l'arresto di WSL, non so se su mac fa lo stesso, ma c'è un modo di limitare la ram che si prende docker? (Scusa se ti faccio tutte queste domande)
Se intendi degli agenti, la risposta è sì. Ti segnalo un interessante progetto open italiano, lo “Stregatto IA ”cheshirecat.ai che, volendo, ti può creare anche qualcosa di più avanzato di quello che fa OpenAI (e funziona con Docker come OpoenWebUI). Io lo sto approfondendo e prima o poi ne parlerò (ora sono troppo inesperto).
Grazie mille.
Complimenti per il contenuto estremamente interessante. Sarebbe possibile avere una guida per windows? Ho già installato ollama e docker. Grazie mille
Se ti interessa installare Ollama su Windows non riesco ad accontentarti perché non ho un PC con una scheda grafica idonea agli LLM. Se ti interessa installare invece OpenWeb UI su Windows i passaggi sono praticamente identici, invece di docker desktop per Mac basta scaricare quello per Windows.
ho trovato molto interessante questo video Top!!! ho notato che 'interfaccia do Open WebUI per caricare i documenti è cambiata e non trovo come selezionare ad esempio mxbai-embed-large:latest come suggerivi. Inoltre dalle prove che ho fatto con documento in pdf 164 kb il testo non è stato letto tutto. Mi piacerebbe sapere la tua opinione a riguardo o ricevere qualche suggerimento. Mi piace molto l'idea di processare documenti in locale per la la riservatezza!
Open WebUI è in continuo sviluppo e stanno facendo tante cose interessanti (appena ho un attimo voglio fare un video di approfondimento). In parte è cambiata l'interfaccia di amministrazione negli ultimi aggiornamenti. Dialogare con i documenti è complesso. teoricamente il PDF in questione non dovrebbe avere problemi (se è stato prima convertito in testo).
Ciao, video interessantissimo, mi piacerebbe vedere una spiegazione più dettagliata sui modelli da aggiungere. Grazie mille per le informazioni che condividi!
Molto volentieri e grazie del suggerimento! Sono sempre in cerca di idee.
@@AvvocatieMac Comunque tanto per comprendere, ho provato a caricare un immagine ma non la vede, dice che vuole un url o comunque il file per visionarla, anche se è li mandata insieme al prompt. Ho provato anche a mettere un link di youtube, legge la descrizione ma non "vede" il video. Qui entrano in gioco i modelli o sto sbagliando qualcosa io?
Hai scaricato ed usato llava come modello? È l’unico modello multi modale. Non credo (ma non ho mai provato) che funzioni con i video.
Ho fatto un test rapido e con llava ed immagine funziona. Ho visto che con la versione 1.123 puoi interagire con i sottotitoli di RUclips (in modo testuale) ma il video deve avere i sottotitoli.
@@AvvocatieMac Perfetto, proverò llava, grazie mille. Ultima cosa (sono nuovo in questo mondo e sto cercando di capirne sempre di più) ho visto che docker mangia tantissima ram, ed ogni volta sono costretto a forzare l'arresto di WSL, non so se su mac fa lo stesso, ma c'è un modo di limitare la ram che si prende docker? (Scusa se ti faccio tutte queste domande)
Ciao , ottimo video molto utile, con ollama è possibile creare degli assistant come si platform di openai?
Se intendi degli agenti, la risposta è sì. Ti segnalo un interessante progetto open italiano, lo “Stregatto IA ”cheshirecat.ai che, volendo, ti può creare anche qualcosa di più avanzato di quello che fa OpenAI (e funziona con Docker come OpoenWebUI). Io lo sto approfondendo e prima o poi ne parlerò (ora sono troppo inesperto).
@@AvvocatieMac grazie mille darò un'occhiata