Hola espero estén bien si en efecto cualquier servicio que involucre cómo actor a un LLM de los disponibles podría ser casos de uso cómo Chatbot, RAG entre otras posibilidades
Has podido hacer la respuesta en streaming?, me funciona cuando utilizo virtualenviroment pero no con docker, tengo una arquitectura muy similar, FastAPI y Streamlit
interesante, que tipo de funcionalidades backend se puede lograr con esta ia?
Yo creo que se puede usar como api para conectar un servicio para que sea administrado por ia ejemplo un chat
Hola espero estén bien si en efecto cualquier servicio que involucre cómo actor a un LLM de los disponibles podría ser casos de uso cómo Chatbot, RAG entre otras posibilidades
@@davidbu8248 se puede integrar un sistema de recomendación con un llm ?
Interesante! Como puedes poner un ollama despues del fine tuning?
does this method use the CPU or the GPU?
Currently this version runs on CPU, but can be adapted for GPU-enabled machines
Buen video gracias
De nada Carlos espero te sirva
Has podido hacer la respuesta en streaming?, me funciona cuando utilizo virtualenviroment pero no con docker, tengo una arquitectura muy similar, FastAPI y Streamlit
Hola Guillermo. Buen punto en streaming no lo he probado con docker pero podría hacer un video acerca del tema
🚀
me suscribo
:O