Cómo conectar tu base de datos a un chatbot con Inteligencia Artificial
HTML-код
- Опубликовано: 16 окт 2024
- Te explico como conectar tu base de datos (MySQL, postgres, etc) a un chatbot con IA para que puedas hablar con tus datos.
📈 Regístrate para el lanzamiento de una herramienta para conectar tu base de datos con un chatbot con IA: chatbotfactory...
🤖 Curso "Crea apps con Inteligencia Artificial desde cero", usa el código "DESDE-RUclips":
julioandres.de...
🚀 ¿Quieres concretar un proyecto de Inteligencia Artificial y no sabes como empezar, o como abordarlo? Agéndame una reunión y hablemos: cal.com/julioa...
► Háblame por acá
/ julio-andres-olivares
x.com/julioand...
/ julioandresdev
Código mostrado: gist.github.co...
Gracias Julio, es la primera vez que intento que mi base de datos pueda incorporar IA, te cuento que trabajo en un organismo del estado donde se hace investigacion de plantas, ej. buscar familia, genero especie, tipo de suelos, lugar de colecta etc. voy a seguir intentandolo, y gracias desde Argentina
por nada, ojalá te resulte estimado, cualquier cosa me puedes encontrar en las redes 🙌
Yo también estoy desarrollando algo parecido
Buenas yo también trato de hacerlo pero no lo he logrado aún tienes alguna guía para hacerlo.
@@DennyRosalesbuenas también quiero poder hacer algo como esto desde Google o por otro medio lo lograste ? Necesito ayuda.
@@CloudMastersca Yo estoy utilizando postgreSQL, tengo los módulos de la taxonomía ya listos, estoy terminando un módulo de inventarios forestales para luego de eso hacer la vinculación con IA, así que todavía no lo tengo concluído
Buenísimo!! Es una pena que YT no te de la visibilidad que merece esta info. Enhorabuena amigo!!
Gracias amigo! De a poco el algoritmo de YT me va queriendo jaja abrazos!
Brutal Julio, te agradezco un montón. Este video es oro. 👏👏👏👏👏👏👏👏👏👏👏
por nada amigo, gracias por comentar 🙌
eaeaea Ahora con Java? jkajaja, Mi hermano esta terrible el contenido, es verdad super claro todo y muy entretenido.
Cuando tenes una DB como la que se muestra en el video con tablas muy simples de compras, clientes, productos ordenes etc funciona muy bien. Ahora cuando tenes tablas mas complejas con muchas transacciones empieza a fallar. Mi pregunta es si en el curso que das enseñas a como indicarle que es exactamente cada cosa en la DB para que cuando puedas preguntarle tenga un contexto mas claro y pueda responder. Gracias
Igual uno puedo simplificar el asunto, teniendo alguna capa semantica para este modelo, algo que sea mucho mas facil para que interactue, porque las grandes empresas no solo tienen una db con ventas o clientes pero generando un esquema dedicado a este chatboot podria ser viable puliendolo con lo que necesite el cliente,
Eres el mejor. Felicitaciones!!
Excelente, Julio. Una consulta, como funciona el modelo con una BD de 10 o más tablas relacionadas. Gracias
Excelente video y explicaciones!!! Felicitaciones!!
Muy buen video, muchas gracias.
Una consulta, mas o menos cuanto se podria cobrar por esta herramienta a una empresa de retail que usa Sql Server?
Muy bueno Julio!! Excelente contenido, ojala consigas muchos likes! Vas a compartir el código del backend?
Graciaaas! si lo puedo compartir, mañana lo subo, saludos!
Hola Julio, muchas gracias! Te quería consultar si esto serviría de igual manera haciendo un asistente con la API. Gracias!
que recomiendas para bases de datos grandes (300 tablas aprox), ya que al enviar el esquema completo consume muchos tokens? Gracias por compartir tu conocimiento 🤯
Interesante problema. Te recomiendo hacer un paso previo para saber que tablas son realmente necesarias en la consulta, y pasarle solo esas tablas, puedes incluso usar el mismo LLM para que te ayude.
Lo otro que puedes hacer, si es que la base de datos no cambia tan seguido, es escribir tu mismo un mini schema de las tablas que te interesan a mano, y pasarla en el contexto, tendrías que estar atento de actualizar esto si es que la base de datos cambia.
@@julioandresdev_esp de una, de hecho si las tenes en excel podes integrarle gpt y usar la ia para que te haga esas tablas dinamicas que necesitas. Pero esta re buena la pregunta, si es mejor automatizarlo todo.
muy buena la info del video. para el curso que vendes, hay que saber programación? gracias por el material que compartes
Excelente video, muchas gracias
simplemente ¡ ¡ ¡ E S P E C T A C U L A R ! ! ! muuucchass gracias!
por nada amigoooo, gracias por comentaaaar 🙌
Muchas Gracias, Excelente video. Pregunta, en un frontend se podrá capturar y mostrar los gráficos? Que opciones hay?
Hola! se me ocurren 2 alternativas:
1. Puedes usar la assistants API, donde puedes acceder a "Code Interpreter", donde si le pides gráficos, te los devuelve como imágenes y simplementa las muestras en tu frontend.
2. Puedes crear una función en tu código para generar gráficos con los parametros que necesites, por ejemplo pasarle un diccionario con etiquetas y montos, e internamente usar la librería que quieras para hacer el gráfico y devolver la imagen. Y luego usar "functions" para que el LLM sepa que existe esa función y la llame cada vez que identifique que se quiere generar un gráfico.
@@julioandresdev_esp Muchas gracias por tu respuesta!
Muchas gracias Julio, excelente trabajo y muy buena explicación. ¿Podría entregarse al gpt el esquema en la definición para no tener que pasarlo en cada prompt? Se me ocurre que podremos ahorrar tokens
Si lo sabes de antemano, si se puede entregar en la definición perfectamente. Vas a tener que tener cuidado de actualizarlo si es que algo cambia en la base de datos si.
Excelente contenido, muy bien explicado
Gracias estimado 🙌
Fantástico!!!
Gracias Julii Andres. Una consulta, existe probabilidad de alucinaciones a pesar de que el modelo conozca el schema?
La verdad siempre hay posibilidad de alucinaciones, pero si le das las instrucciones claras, le indicas que sólo tiene que guiarse por la información que le pases, y mientras las preguntas que le hagas no sean "capciosas", no debería alucinar.
Si uno lo empieza a forzar para que alucine es más probable que lo haga, pero con un uso normal, no debería.
Saludos!
Excelente vídeo. Una pregunta, se puede hacer con un LLM en local? Del estilo de Ollama con Llama 3 o algo similar? De esta forma se podría tener todo en local en vez de conectar a través de API con ChatGPT. No se si esto lo explicas en tu curso. Si fuera así, seguro que lo adquiriría. Gracias por tu tiempo.
Si se puede, lo voy a agregar pronto al curso y también subir una parte a youtube 👌
Deseando que añadas esa parte al curso y subas una parte aquí en YT. Espero sea pronto. Gracias
Muy interesante, muchas gracias por compartir tu conocimiento, en caso de tener ya el backend donde solo envías la consulta y devuelve la respuesta, el asistente creado en chatGTP puede ser compartido por ejemplo con 100 usuarios o no es factible, porque la interfaz me parece muy chevere, más que todo por la generación de gráficos. o que tecnologías me recomiendas para obtener un frontEnd parecido?
Si el GPT lo puedes compartir, puedes generar un link publico para compartir y pasárselo a quien quieras, lo que si tienes que tener cuidado de agregarle algún método de autenticación para resguardar tu backend.
@@julioandresdev_esp entiendo y que pasa si se me acaba la membresía mensual de chatGTP también dejan de funcionar el asistente?
Julio, buenas tardes, Excelente!!. El código de ejemplo lo podes compartir?
gracias! si lo puedo compartir, mañana lo subo, saludos!
@@julioandresdev_esp Muchas Gracias Julio. Saludos
estaria bueno poder tener el codigo
Una pregunta! Hay forma de conectar chatgpt con tu onedrive para que busque en automático la información sin tener que adjuntar archivos? (algo como lo hace copilot para microsoft 365) gracias!
Que buena pregunta che, de ser asi hasta podria linkear mi biblioteca de libros en Drive para tenerla a mano, aveces quiero citar frases y no las recuerdo exactamente, y aunque soy de leer libros en físico me hago un respaldo de un pdf siempre para saber cuantos libros llevo en esta vida =)
Saludos Julio, excelente video. Trabajo en la Industria de Procesos, específicamente en aplicaciones de Calderas Generadores de Vapor. Deseo saber si este tipo de soluciones aplica para Bases de Datos de Variables de Proceso donde tenemos variables como: Nivel, Temperatura, Flujo, etc. Donde cada variable se guarda segundo a segundo en una Base de Datos con una Marca de Tiempo.
Mientras puedas sacar el schema para decirle a la IA como está estructurada tu base de datos, si deberías poder usarlo. No influye cuan seguido se actualice la base de datos, por qué con esto solo la lees cuando hagas la consulta.
Pudiera hacer un análisis estadístico?
Magnífico vídeo. Me pregunto cómo se logra separar las sesiones para que el LLM trabaje con los historiales de prompts de manera separada
Al LLM le pasas texto y te devuelve texto, no retiene nada, así la tarea de separar los contextos e historiales de prompts lo tienes que manejar en la app, en este caso en el server python, imagina como manejar distintas conversaciones en un chat.
@@julioandresdev_esp Muchas gracias.
Quisiera aclarar que cuando dije "historiales de prompts" me refería a lo que permite que cuando en el minuto 23:06 escribes "pregunta de nuevo" haga que se disponga de "contexto" en el LLM. Yo asumo que la conexión al LLM crea una sesión, o lo que intuyo que será una conversación que corresponde a ese "contexto" al que refiero.
Lo que no veo en el código es que exista ninguna alusión a que en las conexiones con OpenAI se usen diferentes conversaciones, más bien parece que únicamente existe una única conversación, y por lo tanto un único contexto común, y es ahí a donde quería llegar.
Entiendo que técnicamente no hay problema en gestionar fácilmente conversaciones por sesión del chatbot, pero... OpenAI tiene thersholds al respecto?
Gracias por todo
Es genial la idea
Existirá alguna forma de obtener un resultado similar sin gpt? En el caso de empresas de salud no la tienen tan facil en este sentido.
Es un buen punto, varios me preguntan esto. Puedes usar modelos de lenguaje open source e instalarlos en tu cloud, pero puede salir un poco caro, o puedes usar modelos de lenguaje de forma local, pero requieren una máquina más o menos potente para que realmente sean útiles, es un tradeoff.
Voy a hacer un video sobre esto.
Excelente video.
Gracias!
Las funciones que utilizas en inspect como get_table_names()
De donde viene? En mí IDE no la detecta me arroja un Any
Hola Julio, como estas? como obtengo el codigo de descuento para comprar el curso? Saludos
Oh verdad, se me olvidó ponerlo en la descripción, es el código "DESDE-RUclips"
Saludos!
Porque los programadores no utilizan los borrados lógicos y no persistentes
Buen video, hay posibilidades de poder integrarlo con bases de datos no sql? como MongoDb
Si con cualquier base
Sip
Me caes bien papú, bien ahi!
que honor ron damon morrison
Hola Julio, que buen contenido! una duda, qué pasa si el usuario ingresa una pregunta que no sea exactamente igual a la definifica en el programa? se pueden crear variables de entorno? para no exponer datos de usuario y clave de la bd?
hola! gracias :)
Claro que puedes crear variables de entorno para poner los datos del usuario y la base de datos.
Y no entendí tu primera pregunta, a que te refieres con "que no sea exactamente igual a la definida en el programa?"?
@@julioandresdev_esp Hola Julio, me referia por ejemplo si el usuario pregunta: Cuántos autos se vendieron en mayo? y en el programa la pregunta predeterminada es: Cuántos vehículos se vendieron en mayo?
@@user-412hm7i2 ah entiendo. Es que no hay preguntas predeterminadas, si el usuario pregunta: "Cuántos autos se vendieron en mayo" el LLM (la IA) tiene que ser lo suficientemente inteligente, o tener el contexto suficiente, para entender en que tabla buscar esa información.
También para hacerlo más robusto, puedes guiarla, junto con el schema puedes decirle cosas como "Los productos que vendemos son: autos, camiones, motocicletas," etc
@@julioandresdev_esp que maravilla! otra duda, para un sitio web x ejemplo de autos, puede estar en chatbot online? o es solamente para uso interno de los empleados x ejem (vendedores) de una emrpesa.
@@user-412hm7i2 Si, puede estar en la página web para los clientes (no vendedores), pero esto implica considerar otro set de reglas y ser más riguroso con la seguridad, por que estaría expuesto a internet donde cualquier podría accederlo. Si tienes algo en mente me puedes enviar un email y vemos que se puede hacer: hola@julioandres.dev
Gracias Julio, es posible integrarlo a mi sitio web?
Claro, de que forma te imaginas integrándolo a tu sitio web?
@@julioandresdev_esp me gustaria incluirlo como una seccion dentro de mi sitio web para poder hacerle consultas sobre mi negocio, hay manera de que podamos conversar?
@@julioandresdev_esp me gustaría agregarlo dentro de mi sitio web como una sección para que los usuarios hagan sus consultas, podemos conversar por interno?
Gracias Julio por compartir tus conocimientos y experiencia una consulta, si quisiera conectar a una base de datos Postgres cómo y donde modifico el código para colocar el usuario y clave de la base de datos. Por otro lado en el video tienes 3 archivos .py podrías compartir los 3 archivos por favor, te agradezco y saludos.
Hola!, junté lo de los 3 archivos en un archivo para que quedara más fácil.
Tienes que poner tu código para conectarte a tu postgres en las funciones get_schema() y query(), estas depende de como te conectas a tu base de datos.
@@julioandresdev_esp Muchas gracias, saludos.
En realidad el usuario y clave debería ir en un archivo .env y luego con dotoenv lo llamarías al código hay muchas explicaciones de eso en RUclips ojo que no me hago el que se Python, soy un enamorado de este lenguaje pero aprendo día a día solo que así lo hago yo y la mayoría!!! Pero bueno el profesor acá no soy yo
Hola julio, encantado.Te envié una solicitud a LinkedIn porque estoy interesado en contactarte. Un saludo
Contestado! 🙌
Uff hacer esto con LM Studio sería precioso, hermoso, magistral. lm studio nos permitiria tener el system prompt del aldo del server, asi evitamos enviarlo todas las veces. estoy probando con 200 tablas y es un reto que el modelo entienda todo el contexto
Te refieres para usar un LLM local en tu máquina con tu base de datos?
Anything llm,
@@julioandresdev_esp Hola, con lmstudio podemos levantar un server y aparte tener el system prompt del lado del server.
@@julioandresdev_esp lmstudio nos permite tener el system prompt de lado del servidor. asi evitamos el envio del scheme. y podemos probar con distintos modelos.
Como cuantas peticiones puede soportar al día??
tu servidor para recibir las preguntas depende de ti, el uso de la LLM depende del proveedor, en el caso de usar OpenAI soporta un zillion por día (no se exacto, pero un montón)
Como harias para evitar eliminaciones o manipulaciones de la base de datos. Por ej elimina todos los registros de ventas. Es decir podes "restringir" las redpuestas del llm?
Explico formas de mitigar esto al final del video.
Puedes tratar de restringir que es lo que responde el LLM, pero nunca va a ser 100% confiable que te haga caso, lo que si puedes controlar 100% es que se ejecuta en tu base de datos, ahí tienes que poner el control.
@@julioandresdev_esp gracias valor, fue lo que pensé luego de preguntarte.
Yo hice una funcion que evalua el sql y si contiene palabras como update, drop, alter, delete , etc devuelve una advertencia y no lo ejecuta.
El problema de ese método es que en el esquema no están implícitas las reglas de negocio, solo defines los campos, relaciones, objetos.,vistas, etc, pero en la realidad, los grandes sistemas siempre trabajan con nomenclaturas en la tablas, yo hice algo diferente hace un tiempo atrás que permitía aplicar reglas de negocio
Junto con el schema puedes pasar las reglas necesarias para entender las tablas o dar más contexto a donde buscar lo que se necesite. Un gran sistema real no va a funcionar de una, pero con un poco de análisis, funciona perfecto.
@elantagno animate y haz un vídeo con la explicación
@@plmperez podría hacer una demostración de lo que hice, pero hacer un video, creo que no es para mi
Like y me subscribo
🙌
Yo prefiero conversar con mi mujer pero si estás soltero entiendo que prefieras a María db
ajajajaja me rei
creo que me llama más la atención Cassandra
Con eso regalas toda tu información de bd data nombre de tablas modelo etc, a la ia
sólo estarías enviando el schema, y la verdad es que no es tan privado, probablemente el 80% de las tablas del mundo se llaman igual y tienen las mismas columnas. Si quieres aun más seguridad puedes ofuscarlo y luego convertirlo de vuelta en tu backend.
En este mundo siempre hay tradeoffs que hay que hacer
Y con voz no se puede ser??
Hola Julio, excelente video, te envié una solicitud a LinkedIn porque estoy interesado en contactarte.
Hola Bryan, claro! mándame un mensaje no más 🙌
mw agrada tu forma de explicar genial te vpoy a seguir y espero que me ayudes para invpolucrar una IA en mi trabajo., Sera que me puedes ayudar, Gracias. y mañana hablamos ´por esytewmedio. Rafael Fabrega C.
Hola Rafael, aquí haremos lo posible en guiarte, éxito en tu trabajo y tu acercamiento a la IA!