Тема про Агенты действительно очень интересна. Если будет возможность прошу записать ролик о создании или взятии готового агента. А так же до тренировке! О том что существуют мульти-агентные системы мы знаем. Но если и об этом расскажешь то вообще круто. Спасибо за видос.
Запустил через lm studio qwen 2.5 32b на radeon 7800 xt. Работает не супер быстро. Но уровень познаний модели впечатляет. Как раз искал себе помощника ии для изучения программирования на esp32, микропитона, web 3d и других интересных штук.
Интересно было бы увидеть finetuning модели Qwen 2.5 и её возможности работы с другими программными продуктами 🙂 на машине пользователя или в арендованном сервере :)
Спасибо! Реально интересно! Обратил внимание на эту модель давно, предлагает прекрасные результаты. Хотелось бы обусающее видео по подключению к Alibaba cloud, непосредственно, к этим моделям
6:15 Нужен ли Квену файнтюнинг для появления русского? Китайцы, afaik, с первых версий закладывали мультиязычность изначально, включая русский. А тренировка для специфичных задач у Квена, теоретически, имеет те же возможности и риски, что и у прочих локальных LLM.
на m1 max qwen-2.5-coder 14b летает. Кстати можете его попробовать с его моделью агента qwen-agent. там уже вжиты разные модели поведения но самое интересное это вызов функции. в итоге у меня получилось сделать 2 агента которые создают python приложение по описанию и запускают его а также устанавливают зависимости. сейчас экспериментирую для созданию авто добавления новых api для fastapi а касательно rag с модель на 7b получилось облегчит задачу по созданию sql запросов по моим витринам
Тема про Агенты действительно очень интересна. Если будет возможность прошу записать ролик о создании или взятии готового агента. А так же до тренировке! О том что существуют мульти-агентные системы мы знаем. Но если и об этом расскажешь то вообще круто. Спасибо за видос.
Спасибо!
Запустил через lm studio qwen 2.5 32b на radeon 7800 xt. Работает не супер быстро. Но уровень познаний модели впечатляет. Как раз искал себе помощника ии для изучения программирования на esp32, микропитона, web 3d и других интересных штук.
Интересно было бы увидеть finetuning модели Qwen 2.5 и её возможности работы с другими программными продуктами 🙂 на машине пользователя или в арендованном сервере :)
спасибо!
Спасибо! Реально интересно! Обратил внимание на эту модель давно, предлагает прекрасные результаты.
Хотелось бы обусающее видео по подключению к Alibaba cloud, непосредственно, к этим моделям
Как можно нафайнтьюнить модель? можно ли это сделать на 3080 8гб? или на 3060 12 гб?
Qwen 2.5 Coder 14B на 3060 12G летает, в Q4, вообще не вижу проблем скорость и качество впечатляют.
Интересно,а что будет лучше 7B Q8 или 14B Q4?
@@pashahous 14B Q4 будет лучше
6:15 Нужен ли Квену файнтюнинг для появления русского? Китайцы, afaik, с первых версий закладывали мультиязычность изначально, включая русский.
А тренировка для специфичных задач у Квена, теоретически, имеет те же возможности и риски, что и у прочих локальных LLM.
Мультиязычность есть, как у любой базовой модели. Вопрос в качестве. Надо бы прогнать дефолтный Квен на русскоязычном бенчмарке и посмотреть
Вполне прилично на русском отвечает. Из коробки. Но иногда встречаются ошибки в склонениях.
на m1 max qwen-2.5-coder 14b летает. Кстати можете его попробовать с его моделью агента qwen-agent. там уже вжиты разные модели поведения но самое интересное это вызов функции. в итоге у меня получилось сделать 2 агента которые создают python приложение по описанию и запускают его а также устанавливают зависимости. сейчас экспериментирую для созданию авто добавления новых api для fastapi
а касательно rag с модель на 7b получилось облегчит задачу по созданию sql запросов по моим витринам
Ну блин это база. Ты в студио пользовался cline он все за тебя делает и файлы создаёт и код в них пишет и все это с камином 2,5.
Что то ты уставший...сделай деплой и обзор этой модельки в роли мультиканального оператора
#илонмаск #грок #openaidie 😂 и в Х расшарить 😂