Hola! con LlamaIndex puedes ejecutar cualquier modelo ya sea mediante API o en local. Si quieres ejecutarlo en local te recomiendo Ollama ya que lo puedes usar fácilmente con LlamaIndex y efectivamente puedes usar Llama3 8b con Ollama en local y LlamaIndex. Saludos!
Hola! Está todo en el repo que hemos indicado en la descripción ;). En el README te explica como utilizarlo y si te das cuenta, en la carpeta de "GarajeDeIdeas" encontrarás esta parte: github.com/codingmindset/youtube-tutorials/tree/main/GarajeDeIdeas/2.RAG
Interesante bro, sin duda hay que hacer algo chulo con este framework
Fuera interesante ver si es posible, y como. Crear un rag que con llamaindex que se conecte a múltiples bases creadas
Se podra ejecutar llamaIndex con el modelo llama3 de 8b? AH! Y se podra ejecutar en local? (sin depender de la nube).
Hola! con LlamaIndex puedes ejecutar cualquier modelo ya sea mediante API o en local. Si quieres ejecutarlo en local te recomiendo Ollama ya que lo puedes usar fácilmente con LlamaIndex y efectivamente puedes usar Llama3 8b con Ollama en local y LlamaIndex.
Saludos!
excelente aportación, el repo que específicas no es el de este código
Hola! Está todo en el repo que hemos indicado en la descripción ;). En el README te explica como utilizarlo y si te das cuenta, en la carpeta de "GarajeDeIdeas" encontrarás esta parte: github.com/codingmindset/youtube-tutorials/tree/main/GarajeDeIdeas/2.RAG