This Chinese MICRO PC runs a HOME-MADE SUPER ARTIFICIAL INTELLIGENCE (like ChatGPT)
HTML-код
- Опубликовано: 4 окт 2024
- I'm Alejandro Pérez and I'm going to tell you how I've installed an artificial intelligence (Vicuna) with a quality of 90% compared to ChatGPT-4 on a low-consumption microcomputer (Khadas Edge 2).
Microcomputer on the official website: www.khadas.com...
Khadas Edge 2 on Amazon Spain: amzn.to/3mZD88o
Program to run AI locally: github.com/oob...
Repository with artificial intelligence models: huggingface.co/
Vicuna: vicuna.lmsys.org/
Telegram with daily deals and offers for products analyzed on this RUclips channel: t.me/chollosEn...
SUBSCRIBE to this channel: / @alejandroperez
My social networks:
Twitter: → / aperezyt
TikTok → / alejandroperezyt
Facebook: → / aperezyt
Instagram: → / aperezyt
Telegram: → t.me/alejandro...
AFFILIATE LINKS policy:
In many cases, the included links will be affiliate links. If you purchase through them, I may receive a commission from that sale, but this will not affect the price you pay. These types of links allow me to finance the purchase of new devices for the channel and maintain impartiality in all videos.
Seria interesante si pudieras comprobar si se pueden conectar a internet y si se pueden entrenar para que cada uno pueda hacer su IA parecida a ChatGPT
Fantástico!
Esto va a ser una guerra entre productos portátiles y la IA's entrenadas más adecuadas para correr en ellos.
Los fabricantes de todas estas Mini pc que llevan muchos años en el mercado ahora si van a tener su boom de ventas...eso sí, si se ponen vivos ( listos )
Estamos viviendo un antes y un después tecnológico.
Saludos desde Monterrey, México
Excelente Video!
Gracias 🙂
Todo esto que estamos viviendo hoy en día es genial, es un momento demaciado interesante para la historia de la humanidad en sus avances... Este tipo de contenido debería de recibir más apoyo, necesitamos que más personas aprendan de la inteligencia artificial, se relacionen con ella, experimenten, pues el miedo que impone no es tanto miedo a la inteligencia artificial, si no a los humanos que la entrenan/programan, así que se necesita con urgencia que las personas aprendan de esta tecnología para que estemos más capacitados para lidiar con las implicaciones que traiga con sigo.
Por esto me encanta tanto tu contenido, no hay muchas personas en RUclips que experimenten de esta manera y me encanta como lo haces
Cómo fanático de estos proyectos valoro mucho el trabajo que haces y que hay detrás, cuando he hecho cosas así se lo costoso que puede resultar en algún momento que salte un mínimo error y a veces rompe la cabeza jajajaj
Excelente trabajo Alejandro, sigue así
Muchísimas gracias 😊
Excelente video como siempre Alejandro. Qué bueno que pudieras hacer un vídeo ensayando la IA en un Raspberry. Un saludo.
Hola maestro, habrían IAs locales dedicadas en ciertas áreas(Cultura, Conversaciones, historia, matemática, música,etc.) q sean superiores a lo q obtendríamos con otras.
Cada día me sorprende más está revolución 😱
.
@AlejandroPérez Haz experimentos para integrar pluggins caseros,es decir que por ejemplo la IA que tienes pueda usar aplicaciones como la Calculadora o acceder a archivos de texto y prompts sin que tengas que copiar y pegar,como lo que están haciendo en HuggingGpt, SmallVille, pluggins ChatGpt pero casero.
Muy bueno este video porque deja en claro que se puede hacer más sobre las limitaciones que tratan de imponernos para que los veamos como si fueran la única solución y fueran casi inalcanzables. #Ingenio #Creatividad
😀😀
Impresionante trabajo, es ideal para implementarlo a gran escala en escuelas. Felicitaciones
Eres un crack Alejandro.Te lo has currado mucho, investigando y desarrollando este magnífico proyecto.
Creo que esto no ha hecho más que comenzar, por mucho que también le reconozca a Chomsky que tiene toda la razón.
Sin embargo, muchos ya han reconocido el exceso de hipérbole sobre lo revolucionario de esta tecnología.
Y que aún estas IAs estén muy lejos de la inteligencia artificial general no implica que,tal y como está sucediendo ya mismo, no sean verdaderamente peligrosas e incluso una gran amenaza (en buena medida porque, para variar, los políticos llegan tarde).
honestamente es impresionante comprimir una inteligencia de esa forma, y más hacerla portable!
No esta comprimiendola la i.a
Antes de opinar vete el video @nashe. 😂
@@MachineCodes ¿cuando la conprime?
@@nashe-gr7uy se nota que no sabes que es una ia, chat gpt es una ia que usa computo de bastante servidores, y este tipo usa un ordenador miniatura que no sepas lo sorprendente que puede ser esa ventaja no es cuestión de decir que no la comprime, Esta ejecutando una ia de forma local con un cpu que no supera ni los 3 ghz y solo usa una placa ya creada para correrlo.
@@MachineCodes no tengo ni idea tenes razon
Estaria bien que pudieramos conectarla a unas gafas con camara 3D y que nos pudiera ayudar en el dia a dia.
Seguro que en ciertos trabajos es muy util.
Lo que tu has hecho es bastante complicado para un simple terrestre como yo.
Gracias
Por mi parte lo veo buenísimo, tengo muchos proyectos de electrónica y quería aprender Arduino desde cero para desarrollarlos y si la inteligencia artificial te ayuda a programar, más que bien, para poder hacer un proyecto de este tipo en mi país con gente especializada son carísimos y por esto lo veo una opción viable y de modo "Hazlo tú mismo"
Muchas gracias por el esfuerzo, no puedo aplicarlo de momento, pero es un referente...
Alejando, excelente video. Por favor síguenos contando como va el micro!!!!!
Excelente video, podrías realizar un video de como instalar una IA desde 0 en nuestro PC, para inexpertos. Alguien me podría recomendar una IA entrenada para abogados o análisis de Leyes. Gracias
Estan en ingles, si te interesa te paso el nombre.
@@notarizado Si por favor, me interesa. Muchas gracias.
Vaya locura de vídeo. Estaría genial aunque no fuera tanto tu contenido, un tutorial de como implementar stable diffusion en Photoshop de forma sencilla
Me he guardado este video para más tarde, me pareció muy interesante lo que nos has mostrado hoy respecto a IA, el producto me pareció genial, y ojalá pudiera tener uno, pero en el momento inmediato quiero ver e instalar Vicuna, muchas gracias por el video Alejandro!
VIendo lo que tenes en tu video cuando descargaste el model, creería que no era necesario descargar dos ficheros, ya que uno entiendo que es una mejora del otro, pero supongo que lo descargaste usando el instalador que tiene el programa
Con esa mini computadora me armó una mini PC gamer y a la vez un TV box, lo malo es que no cuento con dinero para hacer ese armado porque es muy interesante
Gracias primero que todo. Es fantástico este mundo y bueno que nos muestres las alternativas que hay y son viables, hay bastante por hacer.
Es el principio del reinado de las máquinas
Maravilloso video, felicidades Alejandro! 🤩
Me pregunto si habra alguna placa a la venta con el snapdragon 8 gen 2. Habra una diferencia importante con este, no solo por CPU, sino por RAM LPDDR5X y UFS 4.0.
Saludos!
lastimosamente no, SD 8 gen 2 en tablets de samsumg u otras, he visto algunas tablets modificadas con linux corriendo nativamente y van muy bien, solo pon en google "android tablets install linux" pero el problema es que los que ví la pantalla táctil no es muy buena (posiblemente por los drivers) y toca usar un ratón y teclado ya que se convierte en una PC, otra opción con esta misma cpu es una laptop de 200 dólares que se llama Pine64 pro y ya viene con un procesador rockchip y linux de fábrica, saludos...
Joder, como me encanta este canal
De acuerdo @TchnicalParadox, muy buen análisis, apoyemos contenido de calidad; otro seguidor p/ Alejandro 👍
Justamente buscaba algún proyecto opensource para hacer lo mismo pero en Android y correrlo localmente. Me has facilitado mucho el buscar. Muchas gracias y nuevo sub
Me encanta tu voz, siento que me esta hablando el antagonista de DooM 3 doblado al español jaja, muy buen video sinceramente me parece muy impresionante lo que se viene logrando con las IAs estos ultimos años..
Excelente explicación y sistema..
Imagino en un futuro muy cercano una inteligencia artificial, portable que no este conectada permanentemente a internet, pero se retroalimente de la inter acción con el usuario, via texto, voz o video, de tal manera que sea única y personal; podrían haber millones de inteligencias artificiales totalmente distintas, donde también puedas adquirir de forma gratuita o de pago módulos de actualización de conocimiento o especialización para tu inteligencia artificial. Seria una forma en que con la ayuda de estos dispositivos la humanidad evolucionaría exponencialmente en vías jamas vistas o se autodestruiría en pocas décadas.
Con un i3 10th y 8GB ram corro el vicuna 7b y funciona relativamente bien. Creo que esto va para más con los avances que están logrando en no dentro de mucho va a poder ejecutarse fluidamente en pc domesticas
Que buena onda la usaste con GPU o CPU?
es el futuro o mejor dicho ya estan aca los minis pc y para mi son lo mejor las cjas grandes de pc ya son de mi abulitos bien por la tecnologia
Excelente exposición!!. Te felicito y te agradezco por brindarnos esta información!!.
Respecto a las IA’s, estoy totalmente de acuerdo a qué es imparable y transformadora. Es obvio que es y será una herramienta multiproposito que impulsará el desarrollo de la ciencia práctica de una manera que no podemos predecir a ciencia cierta. En investigación, robótica, medicina, energías renovables, fotografía y video, diseño, enseñanza y un sin número más de ramas de la ciencia y la cultura será penetradas de una manera revolucionaria!, pero también hay que tener en cuenta todo lo malicioso, es decir, una herramienta puede ser usada, y lo será, para hacer daño, como por ejemplo violar la seguridad informática, para el robo de distintos bienes como dinero o información. La guerra cibernética dará un salto cuántico, será una guerra de IA’s.
También la transición será traumática para millones de personas, que serán reemplazadas y que por su formación y edad, no tendrán fácil conseguir nuevos empleos. Toda transición rápida y revolucionaria, trae como consecuencia daños colaterales profundos, es muy difícil minimizarlos.
En fin, la IA es una realidad que promete un futuro muy cercano que ni un escritor de ciencia ficción puede predecir con certeza.
Saludos 🖖
por favor haga un paso a paso de cómo instalar el software en un computador normal. Gracias
gracias por compartir tan interesante proyecto me da ganas de usarlo a ver tal funcioa en mi pc
cuando hace el paso a paso de la instalacion de todo el sofware para un pc. toma tu poderoso like y GRACIAS
Buena currada colega!
No se hasta qué punto se podrá entrenar una IA con archivos .pst, por ejemplo. Imaginemos mi histórico de emails de varios años de trabajo. Podría dar respuestas a mis clientes como casi yo lo haría! Has investigado algo sobre cuál es la mejor opción IA para entrenarla y cómo?
Gracias 1000 😊
me gusta, suscrito, quiero un tuto completo de esto y una comparativa con chatgpt... puedo escribir un libro tan bueno como el tuyo publicado en amazon? que pasaría si lo instalas en tu notebook? aumenta la velocidad de escritura? gracias y felicitaciones!
Creo que es fabuloso. Tengo que depurar una base de datos de 114000 aproximadamente de archivos para quitar: betas, demos, revisiónes, regiones y lenguajes. Solo pensar que está inteligencia artificial me ayudaría a eso es fenomenal, no se pense en esto porque es una chamba muy laboriosa la que estoy haciendo y aveces pierdo la esperanza de poder terminar eso.
Excelente video Alejandro, muchísimas gracias por hacernos conocer está maravilla. ¿Se podrá en un OrangePie?.
Saludos Cordiales.
Yo tuve un problema al usar derivados de llama localmente y esq asignan por ejemplo 16GB de vram de los 24GB disponibles y usa en el momento de inicarlo 15GB, pero al pedirle algo medianamente largo, este crashea, como si la ventana de contexto fuera largisima, y al empezar a completar, la vram se dispara llegando a los 16GB maximos asignados, como puedo aumentar la vram maxima asignada? Como puedo evitar que crashee?
Probablemente de los mejores videos que he visto relacionados con explicaciones claras concisas y sencillas, buen trabajo, has ganado un follower jajaja.
Aprovecho para preguntar, existe la posibilidad de conectarlo a internet?
Un saludo!
Bienvenido. En principio no se puede conectar
@@alejandroperez Tienes por casualidad un tutorial más completo y detallado de la instalación que has realizado? Gracias!
El Orange pi 5 tiene las mismas características, buen video.
La estoy probando también, pero no tiene las mismas especs 😀
@@alejandroperez Orange pi5 corre ps2 🤤🤤
Maravilla podremos tener pronto calculadoras de bolsillo con muchas ventajas en la matematica aplicada
Oye una pregunta, ¿Cómo sé si el modelo entrenado es con gráfica o procesador?
Un gran video...! Intentaré replicarlo.
Una duda, se podrán entrenar en local el modelo que se descargó? Ejemplo. Incluirle algunos contenidos específicos de ciencias o cosas como esas. PD. Excelente explicación
A mi me parece que puede ser el avance más grande desde la revolución industrial pero sin duda necesita de regulación y de una adaptación de toda sociedad, empezando por la educación y el uso profesional de los diferente tipos de IA. Me parece fascinante que las IAs funcionen de manera autónoma y no dependamos de las grandes corporaciones que nos obligan a pasar por sus filtros y sus modelos de captación de información personal. Muchas gracias por la información!
Tienes razón, Alejandro, yo también te hubiera dicho que estabas completamente loco.
Como siempre genial análisis, un video de como entrenarla estaría genial!!
Justo me preguntaba eso, si sería posible usar esta clase de inteligencia artificial sin internet, que funcione básicamente como nosotros "por defecto", con el tiempo seguro mejorará mucho más esta forma de ejecutarla
Exelente video como siempre Alejandro, pero olvidaste mencionar que pasa con la memoria del chat de la IA, pues en el video anterior los chats no guardaban esa continuidad en la conversación
No guarda el contexto
Gran video Alejandro y gracias por estas pruebas de innovación🎉
Gracias Mariano
Hola Alejandro, es muy interesante todo el tema de las IA, te recomiendo que trastees con stable diffusion porque tiene una de chicha... Saludos!
Siiiii
Muchas gracias, lo he probado en windows y funciona bastante bien. He de decir que es prácticamente obligatorio tener un mínimo de 16GB de RAM, ya que lo he probado en un PC con 4GB y no ha funcionado muy bien. Sí se ejecutaba pero era extremadamente lento en las respuestas.
Entonces en una PIII de 2gb ram no vale pena hacer esa gestión?
Cuál es la diferencia de usarlo con procesador o tarjeta gráfica?
Yo use la versión de Windows y en la versión de Windows no son compatibles las tarjetas gráficas de AMD que es la que yo tengo. Si tienes una tarjeta gráfica de AMD tendrás que usar la versión de Linux. Mirando el monitor de recursos de Windows 11 el uso del aplicativo sube a 15 GB de RAM. Desconozco el uso de recursos en Linux
@@cardiakbrain360 anotado!
Hola buenas. Fantástico video y grandisima mente.. Me as echo pensar en instalarlo en tfn sin conexión o con,, allá cada uno,, , como el asistente de ironman.
Excelente aporte alejandro sencilla mente magistral. Pregunta crees que con este proyecto podamos crear una especie de Jarvis el asistente de Tony start. ? Gracias leo tus comentarios.
Excelente vídeo Alejandro. Omitiste decir, como detalle, que vicuna viene de vicuña, mamífero andino apreciado por la calidad de su lana.
Cierto Jon. Gracias por el aporte
Excelente vídeo Alejandro! Muy interesante
esta aincreible quiero aprender algo de programacion para hacer lo que necesito esta genial todo
Alejandro, gracias por esas infos.
Hay una placas de las chinas que traen apoyo de chip para IA; las banan Pi puede hacer un vídeo evaluando estás, el vídeo está exelente
Gran video Alejandro, felicitaciones.
Al margen de la performance que se nota la diferencia, qué te pareció la calidad de contenido?
Por más de estos "experimentos tutoriales".
Saludos.
Podrías hacer el ejemplo en Windows en una pc viejita? Cuál sería el mínimo de RAM necesario?
16 de ram
me encanta la inteligencia artificial tambien me pondre a experimetnar
La inteligencia que instalaste .puede aprender?
Esta bonito pero recuerdo haber visto otros que vienen con case y su cargador de una de un tamaño similar
Fuera del tópico: La Vicuña es un camelido salvaje la cual se domestico formándose la Alpaca (que tiene un poco de genes de Llama [domesticado del Guanaco]). Saludos.
Excelente 👌
K makina eres Alejandro… otro nivel…
Muchas gracias 😀
¿qué carrera has estudiado?, te sigo desde hace un par de años y realmente me gusta mucho tu canal
Ingeniería informática
Como siempre fantástico!! Una consulta podrías hablar en algún vídeo de hyena AI ,para entender las diferencias.Muchas gracias
Hola, interesante, pero acá en argentina pagar USD 250 no es barato. La mejor opción seria Rasberry pi 400, que sale la mitad y se consigue. Podrías hacer un video con ese ordenador?.
Se ve interesante el proyecto, sobre el boom, me sorprende que haya tantas IA, que parece que fue de un día para otro, cómo si levantarán la piedra y salieran, también aplica para toda esa gente que dice enseñarte a hacer negocios con las IA
Excelente proyecto 👍. Ahora me genera una inquietud. Estas inteligencias artificiales podrían comunicarse con los asistentes como Alexa para solicitar por voz en vez de escribirlo?? saludos y éxito ✌️✌️
Interesante, creo que sí que se podrían conectar de algún modo. Lo voy a investigar
Si se puede, por ahí ví un vídeo de una chica que logro conectarlo con alexa
Me gustan mucho tus proyectos
Deberias crear un tutoral paso a paso sobre como descargar e instalar vicuna.
Hola saludos de México puedes hacer un vídeoñ, de como instalar la inteligencia artificial en Windows la verdad estoy muy verdad en entornos Linux 😅 gracias me gusto tu vídeo
Alejandro. Muy buen video y me interesesa mucho. Acabo de mepezar a segyirte. Te quiero hacer una pregunta, es posible con esta IA si se puede configurar usarla como una APi? Me serviría para mis proyectos personales. Quedo atento.
Que tal? Entonces concluyo que lo que tomó tiempo fue entrenar a estas IA y no tanto la tecnología que se usó? O hacer programas eficaces de auto aprendizaje?
Amigo 3:18 es vicuña , saludos desde Bolivia.
🙂
Puedes hacer un vídeo explicando cómo hacer que funcione en una tarjeta gráfica de AMD?
FANTASTICO.....
Y de donde sale la información que ingesta, por que chat gpt fue entrenado con internet
Muy buen contenido, no hay tanto en Espanol del tema. Mi pregunta seria cual sera tu utilidad principal para este sistema?
buen video alejandro me a dado que pensar tio jaajajaj creo que me voy a montar uno para preguntarle cosas del curro
muy interesante el video, entiendo que todo eso que has hecho se podría realizar en un pc con linux sin problema, y si encima tenemos una nvidia o una gráfica amd, pues mejorará el rendimiento. Entiendo lo de buscar un factor forma mini para hacer nuestros proyectos aislando máquinas y de una manera elegante. Un saludo.
Al parecer es por que no estoy usando la RAM, nos podrías instruir para saber como usar la RAM y no el SSD?
Congrats muy bueno tu video e investigacion
Gracias
Hola. Ya tengo andando a Vicuna en mi PC. Podrías explicar sobre como entrenarla en un determinado tema?
Ese procesador tiene un NPU, más adelante puede que tenga compatibilidad con la NPU así se libera mucha carga a la CPU.
Una duda, no se han hecho pruebas usando la API de alpaca?, es decir, entrenamiento directo por órdenes en un CSV y cosas así. Me interesa para generar código
hola pero muestra el proceso completo porfavor buen video pero si uno queda con muchas dudas
Haré mi propia IA y le pondré mi personalidad.
Que limitaciones podría tener ? Me.refiero a su base de datos, realmente cuánto podría saber sobre diferentes temas, música, matemáticas etc...
Buenísimo hermano. ¿Crees que sea posible correr la IA también en una raspberry pi?
que interesante eso se puede hacer en una PC cualquiera para experimentos o en una virtual, tendrasn una guia me interesa colocarle inteligencia a una mi reporteria interna en la red
¿Qué tan rápido va?, no entiendo como algo tan pequeño sin gráficas CUDA puede funcionar, por lo generar un llama requiere de mucho hardware.
puedo entrenar a vicuna de forma local con materiales pdf y word de la universidad?
A mi la idea que me has dado es que lo ejecute en una máquina virtual en vmware en un ubuntu server que es más ligero. Lo probaré, gracias.
Un proyectazo sería hacer que Vicuna se aprovecharse de la npu (el soc de ese pc un rockchip3588 creo)
Si se puede en un mini ordenador arm debe poderse en Android es decir en una apk
Sería interesante ver si se puede correr sobre android y hacer un clúster de móviles para sumar potencia de cálculo. Por cierto muy buen video.