Cómo INSTALAR en LOCAL tu CHATGPT (Llama 2) 🚀 Tutorial FÁCIL, RÁPIDO y GRATIS
HTML-код
- Опубликовано: 24 сен 2024
- En este TUTORIAL te explico cómo instalar de un modo fácil y rápida una interfaz tipo ChatGPT donde ejecutar Llama 2 y otros modelos de lenguaje OPEN SOURCE.
📕 Descarga mi guía gratuita para Stable Diffusion:
👉 snip.ly/guia-IA
ENLACES DEL VÍDEO
👉 gpt4all.io/ind...
---
✅ SUCRÍBETE A MI CANAL: bit.ly/suscribi...
📕 Descarga mi guía gratuita para Stable Diffusion:
👉 snip.ly/guia-IA
---
Instagram: / xavier_mitjana
Twitter: / xavier_mitjana
Contacto comercial: xavmit.yt@gmail.com
*Al realizar una compra a través de cualquiera de estos enlaces de afiliado, recibimos una comisión muy pequeña sin costo adicional para ti. Esto me ayuda a hacer el canal sostenible y seguir ofreciendo contenido de calidad.
#inteligenciaartificial
![Testing out OLLAMA - Your own ChatGPT locally! [ENGLISH SUBTITLES]](http://i.ytimg.com/vi/OmLKfDoAfyM/mqdefault.jpg)
![Testing out OLLAMA - Your own ChatGPT locally! [ENGLISH SUBTITLES]](/img/tr.png)
👉 Recibe toda la INFO de mi NUEVO CURSO: bit.ly/curso_ia_
Ojalá estuviera para Android, ¿No hay algo parecido a esto para android?
Estimados Xavier; antes que nada, darte las gracias por los vídeos que compartes con nosotros y la información que nos ofreces.
Creo que hay 2 temas que veo importantes, que están poco cubiertos en español:
1- El cómo entrenar localmente una IA con contenido de nuestro interés o que hayamos creado nosotros.
2- qué características (mínimas y la mejor relación calidad precio) debería tener un ordenador para instalar localmente una IA y poder usarla como chat y entrenarla para nuestro uso personal.
Te sugiero estas 2 temáticas por si las ves convenientes como para hacer vídeos sobre ellas.
De nuevo, muchas gracias por tus vídeos.
Has encontrado alguno que sea de fácil implementación ?
@@diegomeneses2700
Hola.
Aunque no lo he hecho, aquí te paso un enlace a un vídeo donde se explica como añadir información a una IA (Llama 2) de uso libre: ruclips.net/video/HH6WBuo77BU/видео.html .
Saludos.
me llamo la atención llama2, le pregunté su nombre y me dijo que significa llama de fuego porque comparte conocimiento, luego le dije que su nombre suena a "llamados" y me dijo "justamente, llamados por la llama de fuego que da conocimiento" es superloco luego tuvimos una plática extraña, le dije en broma que yo era mas poderoso que el, y respondio jeje no lo creo, poseo muchos conocimientos y abarco muchas ramas, es muy interesante
En la documentación de GPT4ALL habla de usar archivos locales "LocalDocs" para nutrir la base de datos.
podrias explicar como trabajar con eso ?
Pues es una buena idea para otro vídeo, me lo apunto!
@@XavierMitjana-Lab usé whisper para trasncribir varios vídeos de RUclips y luego le hice preguntas sobre el contenido hablado en los vídeos, pero no me funcionó.
@@XavierMitjana-Labme sumo a esta petición. Sería muy bueno poder usar los documentos locales para hacer análisis de distinto tipo.
Gracias.
Xavi buenas tardes, excelente video. Quería saber ¿es posible hacer uso de custom instructions en gpt4all?
Buenas Xavier, me podrías aconsejar por favor la web de ChatBots que más IAs tenga? Solía usar Poe y TypingMind, pero ya no ofrecen ayudas a menos que compres la versión premium. Necesito tu recomendación por favor. Gracias!
excelentes tutoriales esto es lo que la gente necesita gracias
Un maestro Xavier, excelente info!!
Muchas gracias!
Hay algún modelo que sea entrenable? Podria tener palabras redefinidas? Quiza se ha dicho muchas veces pero yo no lo se.
Sí, la mayoría de hecho son modelos reentrenados sobre la base de otros modelos. Y por ejemplo Llama 2 es relativamente sencillo de entrenar. Me lo apunto para otro vídeo.
Muchísimas gracias Xavier ! 😁
Xavier, muchas gracias por tu trabajo. Me surge una pregunta ¿cómo se puede hacer fine tunning a Llama2?
Cuando voy a instalar el programa me salta el antivirus por malware, es normal?
sería interesante si trabajase con documentos en local, pero parece que no lo hace. ¡Saludos!
Me interesaria algo simple qué busque y de opciones para archivos locales
se puede hablar con voz? es decir mantener una conversacion?
Disculpa mi ignorancia, son todos como "hijitos de chatGPT" o estan actualizados?
Se necesita un hardware mínimo?
Había un modelo por ahí que ponía Uncensored. Ese estaría bien saber de qué va.
En principio son justo esto, modelos que en su compartamiento no sufren censura. Tengo ganas de probar el Mstral 7B que dicen que además de ser de los más potentes de momento no tiene ninguna censura.
Likesazo!! 👏🏻👌🏻
Pero si descargo gpt 4 tengo que pagar la suscripción?
vaya!
Decir "en "local" implica offline también?
Ohhhhhh! Muchas gracias!❤
Una pregunta: hay alguna manera de hacer esto, pero sumarle que pueda consultar una base de datos local (o un dataset ) para responder preguntas sobre normativas y documentación de una institución por ejemplo?
Le estás pidiendo a Xavier que es explique y como se usa LangChain
@@CarlosOrzabal puede ser, no sé. Pero gracias a que lo mencionaste, estoy leyendo sobre eso. Como hay un plugin de chatGPT que hace lo que Bing, consultar lo solicitado en el momento, los datos (solo documentación legal, normas) éstos no tendrían nada que ver con el entrenamiento. Verdad?
Lo que estuve viendo, lo más parecido, son chatbots para atención al cliente gratuitos. Pero ninguno de los que probé tiene una potencia y entendimiento similar a llama o chatGPT. Probé en local tiempo atrás llama2 y Vicuña, pero sin manera de acceder a datos externos 🤷🥲
Cómo dicen, puede llegar a conseugirse por ejemplo creando una pequeña aplicación en LangChain, pero voy a investigar si hay alguna manera de hacerlo dentro de la propia interfaz.
@@XavierMitjana-Lab muchísimas gracias Xavier. Tus videos son geniales 😁
Gracias Xavier. Estaremos al pendiente. Me interesaría subirle documentos académicos y que, Partiendo de ahí, me ayudo a rastrear algunas ideas que tengo escritas pero que ya no recuerdo bien de donde la leí.
hola buenas queria hacer esto y ponerle un RAG del manual de convivencia y poder hacerle preguntas sobre este y nose como integrarle un RAG ni como decirle por codigo que solo hable por castellano.
Excelente como siempre Xavier, muchas gracias por compartir.
Esta interfase te permite poder hacer Custom Instructions?
Como para mantenerlo siempre al modelo en español, por ejemplo.
Saludos.
En principio creo que no, aunque permite ejecutar modelos afinados que puede ser incluso más interesante.
@@XavierMitjana-Lab qué modelos recomendás para ese fin?
De los modelos open source hya alguno Que no esté limitado por agendas políticas o éticas,? ya ven que siempre te pone un "no puedo responder eso, no ético"
He visto en el video un modelo que se llamaba 'Uncensored', igual está chulo. Ya le he puesto comentario por si le gusta hacer video.
Prueba las versiones uncensored. Creo que deberían encajar en lo que buscas.
@@XavierMitjana-LabHaz por favor un vídeo para una versión uncensored, Xavier. Saludos desde México!
Freedom GPT no te pone limites. En un video vi que personas le pidieron una receta para crear una bomba casera y esta IA les dió la respuesta. Otra característica interesante de esta IA es que la puedes entrenar con libros en formato PDF.
Si quisiera usar codellama como podria hacerlo? Ya que no esta en los modelos disponibles
Me encantaría que pruebes cuales funcionan mejor en español
Pues lo voy a hacer, he probado algunos y la verdad es que son más bien pocos los que se pueden recomendar en castellano. Aunque ya hago spoiler y advierto que lo mejor es usarlos todos en inglés.
y sirve para interpretar codigos de programas? que lea todo un programa y lo modifique?
Hay modelos especializados en código disponibles como starcoder, pero debería comprobar la ventana de contexto para ver cuanto código puede procesar.
@@XavierMitjana-Lab ok gracias
hola tengo instalado el programa pero aun no he elegido cual instalar
hola Xavier
como cuanto espacio ocupa toda la descarga con llama ?
🎯 Key Takeaways for quick navigation:
00:31 Instalar la interfaz de GPT For All en tu ordenador te permite ejecutar una experiencia similar a Chat GPT de manera local y gratuita.
02:52 Puedes descargar diferentes modelos desde la interfaz de GPT For All para utilizar como motor de tu propio GPT.
04:15 Puedes interactuar con los modelos descargados y pedirles que realicen tareas específicas, como escribir una historia de ficción.
05:37 Puedes utilizar diferentes modelos para diferentes usos, lo que te permite tener una variedad de experiencias GPT en tu ordenador de manera gratuita.
05:51 No todos los modelos funcionan igual de bien en castellano, por lo que es importante probar diferentes modelos y encontrar el que mejor se adapte a tus necesidades.
Made with HARPA AI
Hey yo también comencé a usar Harpa Ai
Hola Xavier, excelente video! Oye, tengo un par de preguntas, supongo que puedo conectar mi API de OpenAI para poder acceder a GPT4? Por otro lado, me gustaría usar Claude 2 pero la vdd es que no sé qué modelo está detrás ni tampoco sé si alguien fuera de USA y UK puede acceder a dicha API (sin tener que hacer un "pago mensual" sino "por uso"). Tú qué sabes al respecto? Ojalá que nos lo puedas comentar. Gracias! :D
Hola ANthropic creo que tiene un serivcio tipo el playground de Open AI para acceder a la API y pagar por uso.
@@XavierMitjana-Lab gracias x tu respuesta! Sería genial un video al respecto. Saludos! :D
genial
Me gustaría conectar esta app con mi página web y que tenga un chat para atención a clientes
Cuantos tokens de entrada aguanta?
Cada modelo tiene una ventana de contexto distinta. Es cuestión de buscar las características.
No le veo la ventaja... Supongo que me estoy perdiendo de algo.
Con GPT4ALL puedes crear tus propios programas con los LLMs disponibles totalmente gratis. Además de que te da la opción para entrenarlos en una tarea especifica, y mejorarlos
@@juanpina6638 Ahora sí... Recomiendas algún tutorial en RUclips para hacer esto último? o es bastante intuitivo? 🤔
Privacidad
si quieres instalar chagpt4 pide clave api