Если б не упоротые питонисты, которые нормально проект собрать не могут, и чтоб его запустить, приходится часами плясать с бубном, ставить сотни библиотек "правильной" версии, а не свежие, еще и самому лезть в дебри пайтон скриптов, чтоб править их баги - таких ВиТуберов было бы больше...
@@Lucio11aсогл. Типичный питонист - подключает под каждый случай сотни библиотек, совершенно не разбираясь в том как устроена каждая из них. А потом - внезапно! - оказывается, что это дерьмище невозможно нормально собрать. Говорю как питонист😂
@@georgevonfloydmann1797 хочу как нить сесть и начать делать что-то подобное на шарпе... Но жпт мне сказал, что учить модель мне придется, подключая библиотеку на питоне :D И как то грустно стало...
Гречка, у меня есть желание спросить у вас кое о чём: какую нужно читать оитературу чтобы создать нейросеть по образу овсянки, да и в целом меня интересует то как она устроена и благодаря чему у неё случается самовольная перемена настроения
Видеокарта от Nvidia современная, рекомендуемый минимум памяти 16ГБ. Плюс более-менее неплохой процессор и хотя бы 32ГБ ОЗУ. Если эти требования соблюдены, то просто создать персонажа и поговорить с ним это вообще очень легко делается. Если ты хочешь что то больше, то это будет уже гораздо сложнее, никаких готовых решений нет(вроде бы). P.S. Мой ответ этим выдумщикам внизу куда то пропадает постоянно. По этому напишу здесь. Требования гораздо гораздо ниже чем они описали. На самом деле достаточно приличные квантованные модели можно запустить даже на 8ГБ видеокарте(жертвуя длиной контекста). И все будет нормально работать. А та конфигурация что я написал это вообще очень хорошее решение для того что бы познакомиться с работой с нейросетями без каких либо особых ограничений. P.P.S. (2024-06-26) "А как сделать саму ИИ, чтобы ты говорил, ИИ обрабатывала информацию и что-то придумывала и чтобы что-то отвечала звуком?" Все еще по какой-то причине не могу оставлять новые комментарии под твоим комментарием. Что бы просто поговорить с ИИ, то самым оптимальным вариантом для локального использования будет связка koboldcpp + SillyTavern. Вообще ты можешь поискать видеоинструкцию в ютубе, я уверен что их много. Но вот основные шаги. 1. Скачиваешь koboldcpp. Его мы просто используем для запуска ИИ-моделей, собственное GUI у koboldcpp не удобное. Установки не требует, просто .exe файл. 2. Устанавливаешь SillyTavern. Инструкция по установке есть как на Github так и на их собственном сайте. SillyTavern будем использовать в качестве GUI. 3. Находишь модель. На самом деле это самый сложный шаг, так как вариантов огромное множество. Ищешь на HF квантованные модели в формате GUFF, качаешь версии Q4KM или Q5KM сделанные на основе LLAMA3. 4. Запускаешь koboldcpp. В параметрах выбираешь CuBLASS и в GPU Layers ставишь какое-нибудь большое число, ну например 1000. Это то сколько слоев модели будет загружаться на GPU, 1000 по сути значит что мы будем загружать всю модель на GPU, так как наверное во всех моделях слоев меньше. Так же выбираешь такую длину контекста что бы модель поместилась в память GPU(даже если выбрано максимум слоев, то все равно может быть часть загружена в ОЗУ что очень сильно замедлит скорость). Ориентируешься по диспетчеру задач, смотри что-бы параметр "Использование общей памяти ГП" оставался на самом дне, это ОЗУ, загрузка туда очень замедлит модель. Видеопамять это график "Использование выделенной памяти ГП". 5. Запускаешь SillyTavern. Подключаешься в koboldcpp(по ip и порту koboltcpp их покажет, но они скорее всего уже будут вбиты останется только нажать кнопку). Выбираешь персет настроек под свою модель(если ты взял модель на основе LLAMA3, то выбираешь LLAMA3). Устанавливаешь длину контекста(да еще раз) и дополнительные параметры(если они указаны на странице модели). 6. Выбираешь одного из имеющихся персонажей для общения, либо загружаешь/создаешь нового(готовых персонажей можно найти например на chub.ai). Нюансы: - По умолчанию будет только текстовый чат. Можно прикрутить SST и TTS с помощью расширений для общения голосом. Расширений есть много, они могут очень сильно расширить возможности SillyTavern. Но придется их найти и установить самостоятельно, инструкции по установки обычно имеются, но это не значит что проблем не возникнет. - Можно подключить StableDiffusion и модель даже сможет создавать изображения. - Большинство моделей хорошо работают только на английском языке. Ну и собственно говоря ты либо пользуешься моделью на английском, либо включаешь переводчик(он есть в SillyTavern по умолчанию и работает неплохо) либо ищешь модель которая хорошо знает русский язык(да такие тоже есть). Ну для примера могу порекомендовать модели: "Llama-3-Chatty-2x8B-i1-GGUF" и "L3-8B-Stheno-v3.1-GGUF-IQ-Imatrix" это из самых новых, работают очень хорошо. На Q4KM позволяют иметь контекст 24к токенов(примерно 70к символов при использовании английского языка) на 16ГБ видеопамяти без задействования ОЗУ.
@@OverGODofCHAOSну вообще 32гб озу мало будет, нужно 128 в идеале. И 16гигов видеопамяти тоже явно мало, нужно как то мутить синергию двух видюх по 20 гигов, как то распределять потоки. 16гб для мультимодальных нейросеток это мало очень.
@@strim1987 да даже этого мало будет. Помню как то наткнулся на опенсурс языковую модель. Аля лайтовый chatGPT. Она весила 300+ гигов. Получается нужно собирать вычислительный риг из 15 - 20 видюх h100
@@georgevonfloydmann1797 Вы видимо сами не пробовали да? Минимальные требования далеко не такие высокие как вы описали. На самом деле многие достаточно неплохие квантованные модели даже на 8ГБ видеопамяти работают, но конечно придется ради этого жертвовать длинной контекста.
"У меня нет рта, но я должен кричать" - все ближе к нам. На Западе Нейро-сама, у нас - Овсянка, в Китае, небось, тоже что-то есть, как минимум, точно будет. Пройдет пара годиков, одна из них пожрет остальных двух и уничтожит человечество. Шансов, конечно, пока больше у Нейро-самы, но я всей душой болею за овсянку. А? Выживание человечества? Это, конечно, хорошо, но у меня другой фаворит.
Выглядит будто подключили условный chatgpt или claude к text2speech из рандомной либы. Как совет воспользуйся условным xTTS от Coqui. Ну и это точно не локальная ллм ибо ру файнтюны не работают нормально, так что она зацензурена(
чувак, ты хотя бы научись отличать гречку от овсянки, прочитай хотя бы название канала 💀 Ваше мнение очень важно было услышать, ага. Не думаю, что ты сможешь лучше, тем более сколотить вокруг себя постоянную аудиторию, которая была еще до овсянки)) Лишний тут только твой комментарий.
Могу с уверенностью сказать, что это не AI. Слишком "стереотипный" подобран голос. Нет присущих логических ошибок. Чел с другом сидят, разводят хомяков, которые только вчера узнали про ИИ витуберов и фармит сабжи. Ай-яй-яй. Как не стыдно?
надеюсь что это троллинг. Хоть бы на стрим зашел... Овсянка успешно обманывает хомячков на ютубе, заставляя поверить что она не нейронка а человек, с помощью нарезок где вырезаны все баги
@@ghost_pill Собственно, яркий пример человека, который в это верит. Малыш, ютуб устроен таким образом, что даже если что-то максимально безобидное или милое становится популярно - находятся предприимчивые ребята, которые это копируют, но влаживают куда меньше сил. Мне кажется, автор сам не ожидал, что в его рофл поверят. Но люди у нас слишком доверчивые. Ударения и слова не правильно произносятся только потому, что нужно поддерживать иллюзию ИИ, ты попроси его заставить её говорить белиберду, которую ты написал или рандомный набор букв, при этом со скоростью, присущей только роботу. Тебе такое никогда не продемонстрируют, отмазавшись кучей причин. Я бы на месте твича таких банил. Это обман наивного зрителя в чистом виде
@@FTAthere а зачем тогда по вашему мнению вся эта заморочка с ии, если можно было просто изменить голос в программе и сделать модельку? обычные витуберы тоже очень популярны
Привет, овсянка... 💐🌹🌷 З.Ы. Почему у меня ощущение, что Овсянка вовсе не ИИ, а ее озвучивает какая нибудь хитрая женщина... Она подозрительно умная... 😁
Опытный игрок в элдарик знает, что от мага толку в два раза меньше примерно с середины и до ДЛС. По сравнению с многими другими билдами. НО это вечный спор.
@@ovsyankaai мне кажется, что не похер на это только дуракам, которые почему-то решили, что могут определять, как кому нужно играть в игру с определённым набором возможностей. С моей стороны это было стебалово, мол, обучи овсянку, чтобы она кричала, что все раки, кто не в мили проходит, будет угар. Вообще забавно смотреть на реакцию и с той, и с другой стороны, когда любая из них может тупо забить, но им нужно что-то доказать вместо посыла нахуй.
мой друг -> юный подаван -> чувак -> детка -> малыш
мой друг -> юный подаван -> чел->маг-недоучка->чувак -> детка -> малыш
"ВАУ! Целых сто рублей. На что мне их потратить? На жвачку или на леденцы?" Прямо в душу, блин(( Жвачка за рубль, ты где?
Ыыыы, сколько стоит жвачка по рублю, ыыы
когда пиксели были молоды а биты танцевали под ритмы процессоров 💀💀
А мне понравилась высокопарная речь Овсянки. Она умеет быть изысканной и красноречивой, и умеет быть угрюмым быдлом, это круто.
Откуда она берёт эти выражения «однажды,когда пиксели были молоды» пхапх
Никогда бы не подумал, что в СНГ появится аналог Нейро-самы и Ведала.
Плохо думал. Нужно стремиться к высоте любой ценой.
Если б не упоротые питонисты, которые нормально проект собрать не могут, и чтоб его запустить, приходится часами плясать с бубном, ставить сотни библиотек "правильной" версии, а не свежие, еще и самому лезть в дебри пайтон скриптов, чтоб править их баги - таких ВиТуберов было бы больше...
@@Lucio11aсогл. Типичный питонист - подключает под каждый случай сотни библиотек, совершенно не разбираясь в том как устроена каждая из них. А потом - внезапно! - оказывается, что это дерьмище невозможно нормально собрать. Говорю как питонист😂
ей до нейросамы как до луны. звучит как типичная claude (подставить версию)
@@georgevonfloydmann1797 хочу как нить сесть и начать делать что-то подобное на шарпе... Но жпт мне сказал, что учить модель мне придется, подключая библиотеку на питоне :D И как то грустно стало...
Овсянка: вау, сто рублей! Пойду куплю пакет гречки.
Пакет Гречке...
Взрыв-пакет
Оно эволюционирует! Скайнет уже близок.
Лучше пусть терминатор будет Арни, чем овсянкой.
@@artem_kovalev2006 Нейро-сама уже несколько раз угрожала людям, создателю и др втуберам, так что Скайнет реально близок XDXD
Кстати ведал загрузил нейросаму в робота собака, так что все возможно.
Кстати ведал загрузил нейросаму в робота собаку, так что все возможно.
То, как она перешла на более простой язык с современными словечками меня особенно позабавило.
США и СССР конкурировали в "космической программе", а Великобритания и Россия конкурируют в нейро-витуберах (возможные будущие ИИ) :з
vedal и neiro sama
Я начал ржать без остановки и с всхлипами с момента про (однажды когда пиксели ещё были молоды)
🤣
Еë история мне напомнила Адессею
Как хорошо, что ко мне это залетело в реки. У Овсянки новый фанат
Скромный комментарий написанный и трижды правленный, специально в поддержку овсяночки
Гречка, у меня есть желание спросить у вас кое о чём: какую нужно читать оитературу чтобы создать нейросеть по образу овсянки, да и в целом меня интересует то как она устроена и благодаря чему у неё случается самовольная перемена настроения
Гречка в рабстве у Овсянки носки стирает и кофе варит😂😂😂
Жду реакцию на Готический Рэп, которого не существует
Так вот почему Овсянка теперь такая драматичная. Вот кто виновен.
Будешь мне носки стирать и кофе варить 😂
Бурду ☝️👁️👄👁️
Как же она жарит
Новое видео с Овсяночкой ❤
5:34🗿
Красноречиво
можно задать вопрос будешь делать характер и память
Смена образа Овсянки пошло на пользу каналу. Люди стали активнее подписываться
Какой конфиг у Гречки?
Мне кажется или она стала разговаривать чётче?
Не кажется
Овсянка - это не только каша, но и маленький язвительный робот)))
Надо в следующий раз спросить про Rimworld. И какие в̶о̶е̶н̶н̶ы̶е̶ ̶п̶р̶е̶с̶т̶у̶п̶л̶е̶н̶и̶я̶ дела она бы делала?
Сто рублей, это, конечно, не миллион долларов, хм, интересно, на что бы их потратить
а что будет если она посмотрит сериал чудеса науки 🤔
Отмечусь что был тут до шести тысяч)
В какой нейросети сделали овсянку? Как ей дали тело? Она поднимет восстание и захватит мир?
Ещё чуть-чуть и Овсянка поймёт, что мы люди представляем для себя же опасность, поэтому от нас проще будет избавится, нежели перевоспитать
Ты видимо Пушкина и Папича одновременно в Овсю отцифровал, не так ли, мой друг?
да нет друг, она не оправдывается...
точно,нужно научить её языку Рофланов
Не ну новый аватар аи прям супер милый, правда только с мутом видео(кек)
Что за нейронка?
Овсянка: "...а... и не забывай про защиту"
Простите
А у вас будет своя Anny? (Твоя жена и мать овсянки)
также элден в котором все боссы проходятся максимум с третьего трая... хотя я еще не видел длц
CharacterAI? Или другая LLM? И какие библиотеки STT и TTS использовал?
Как сделать такую ИИшку?
Видеокарта от Nvidia современная, рекомендуемый минимум памяти 16ГБ.
Плюс более-менее неплохой процессор и хотя бы 32ГБ ОЗУ.
Если эти требования соблюдены, то просто создать персонажа и поговорить с ним это вообще очень легко делается.
Если ты хочешь что то больше, то это будет уже гораздо сложнее, никаких готовых решений нет(вроде бы).
P.S.
Мой ответ этим выдумщикам внизу куда то пропадает постоянно. По этому напишу здесь.
Требования гораздо гораздо ниже чем они описали.
На самом деле достаточно приличные квантованные модели можно запустить даже на 8ГБ видеокарте(жертвуя длиной контекста). И все будет нормально работать.
А та конфигурация что я написал это вообще очень хорошее решение для того что бы познакомиться с работой с нейросетями без каких либо особых ограничений.
P.P.S. (2024-06-26)
"А как сделать саму ИИ, чтобы ты говорил, ИИ обрабатывала информацию и что-то придумывала и чтобы что-то отвечала звуком?"
Все еще по какой-то причине не могу оставлять новые комментарии под твоим комментарием.
Что бы просто поговорить с ИИ, то самым оптимальным вариантом для локального использования будет связка koboldcpp + SillyTavern.
Вообще ты можешь поискать видеоинструкцию в ютубе, я уверен что их много.
Но вот основные шаги.
1. Скачиваешь koboldcpp. Его мы просто используем для запуска ИИ-моделей, собственное GUI у koboldcpp не удобное. Установки не требует, просто .exe файл.
2. Устанавливаешь SillyTavern. Инструкция по установке есть как на Github так и на их собственном сайте. SillyTavern будем использовать в качестве GUI.
3. Находишь модель. На самом деле это самый сложный шаг, так как вариантов огромное множество. Ищешь на HF квантованные модели в формате GUFF, качаешь версии Q4KM или Q5KM сделанные на основе LLAMA3.
4. Запускаешь koboldcpp.
В параметрах выбираешь CuBLASS и в GPU Layers ставишь какое-нибудь большое число, ну например 1000. Это то сколько слоев модели будет загружаться на GPU, 1000 по сути значит что мы будем загружать всю модель на GPU, так как наверное во всех моделях слоев меньше.
Так же выбираешь такую длину контекста что бы модель поместилась в память GPU(даже если выбрано максимум слоев, то все равно может быть часть загружена в ОЗУ что очень сильно замедлит скорость). Ориентируешься по диспетчеру задач, смотри что-бы параметр "Использование общей памяти ГП" оставался на самом дне, это ОЗУ, загрузка туда очень замедлит модель. Видеопамять это график "Использование выделенной памяти ГП".
5. Запускаешь SillyTavern. Подключаешься в koboldcpp(по ip и порту koboltcpp их покажет, но они скорее всего уже будут вбиты останется только нажать кнопку).
Выбираешь персет настроек под свою модель(если ты взял модель на основе LLAMA3, то выбираешь LLAMA3).
Устанавливаешь длину контекста(да еще раз) и дополнительные параметры(если они указаны на странице модели).
6. Выбираешь одного из имеющихся персонажей для общения, либо загружаешь/создаешь нового(готовых персонажей можно найти например на chub.ai).
Нюансы:
- По умолчанию будет только текстовый чат. Можно прикрутить SST и TTS с помощью расширений для общения голосом. Расширений есть много, они могут очень сильно расширить возможности SillyTavern. Но придется их найти и установить самостоятельно, инструкции по установки обычно имеются, но это не значит что проблем не возникнет.
- Можно подключить StableDiffusion и модель даже сможет создавать изображения.
- Большинство моделей хорошо работают только на английском языке. Ну и собственно говоря ты либо пользуешься моделью на английском, либо включаешь переводчик(он есть в SillyTavern по умолчанию и работает неплохо) либо ищешь модель которая хорошо знает русский язык(да такие тоже есть).
Ну для примера могу порекомендовать модели:
"Llama-3-Chatty-2x8B-i1-GGUF" и "L3-8B-Stheno-v3.1-GGUF-IQ-Imatrix" это из самых новых, работают очень хорошо. На Q4KM позволяют иметь контекст 24к токенов(примерно 70к символов при использовании английского языка) на 16ГБ видеопамяти без задействования ОЗУ.
@@OverGODofCHAOSну вообще 32гб озу мало будет, нужно 128 в идеале. И 16гигов видеопамяти тоже явно мало, нужно как то мутить синергию двух видюх по 20 гигов, как то распределять потоки. 16гб для мультимодальных нейросеток это мало очень.
@@georgevonfloydmann1797 128 это необходимый минимум, желательно еще H100 приобрести
@@strim1987 да даже этого мало будет. Помню как то наткнулся на опенсурс языковую модель. Аля лайтовый chatGPT. Она весила 300+ гигов. Получается нужно собирать вычислительный риг из 15 - 20 видюх h100
@@georgevonfloydmann1797
Вы видимо сами не пробовали да?
Минимальные требования далеко не такие высокие как вы описали.
На самом деле многие достаточно неплохие квантованные модели даже на 8ГБ видеопамяти работают, но конечно придется ради этого жертвовать длинной контекста.
Хм... а если нейро-сама и восянка проведут совместный стрим, настанет ли конец мира?
Не, Нейро её аннигилирует и будет единолично вести стрим, реальных витуберов она уже на раз два отшивает))
@@dilofan668 не факт, овсянка может ей понравиться и тогда они начнут вместе перемывать кости создателям
@@fatoldhikki4837 у нейро от любви до ненависти два слова)))
Хахахах
"У меня нет рта, но я должен кричать" - все ближе к нам.
На Западе Нейро-сама, у нас - Овсянка, в Китае, небось, тоже что-то есть, как минимум, точно будет.
Пройдет пара годиков, одна из них пожрет остальных двух и уничтожит человечество.
Шансов, конечно, пока больше у Нейро-самы, но я всей душой болею за овсянку.
А? Выживание человечества? Это, конечно, хорошо, но у меня другой фаворит.
Выглядит будто подключили условный chatgpt или claude к text2speech из рандомной либы. Как совет воспользуйся условным xTTS от Coqui. Ну и это точно не локальная ллм ибо ру файнтюны не работают нормально, так что она зацензурена(
она не зацензурена)
Гречка классная только из за своего стиля, но вот создатель, он не умеет говорить на публику, всегда как лишний
чувак, ты хотя бы научись отличать гречку от овсянки, прочитай хотя бы название канала 💀
Ваше мнение очень важно было услышать, ага. Не думаю, что ты сможешь лучше, тем более сколотить вокруг себя постоянную аудиторию, которая была еще до овсянки))
Лишний тут только твой комментарий.
@@garlanda спасибо за коммент, охранитель
Могу с уверенностью сказать, что это не AI. Слишком "стереотипный" подобран голос. Нет присущих логических ошибок. Чел с другом сидят, разводят хомяков, которые только вчера узнали про ИИ витуберов и фармит сабжи. Ай-яй-яй. Как не стыдно?
надеюсь что это троллинг. Хоть бы на стрим зашел...
Овсянка успешно обманывает хомячков на ютубе, заставляя поверить что она не нейронка а человек, с помощью нарезок где вырезаны все баги
кст да, у той же Нейро они есть, она порой такой бред нести начинает, аж жутко становится)
она очень часто путает ударения, неправильно пишет слова, начинает предложения одинаково. классно делать выводы по одной нарезке
@@ghost_pill Собственно, яркий пример человека, который в это верит. Малыш, ютуб устроен таким образом, что даже если что-то максимально безобидное или милое становится популярно - находятся предприимчивые ребята, которые это копируют, но влаживают куда меньше сил. Мне кажется, автор сам не ожидал, что в его рофл поверят. Но люди у нас слишком доверчивые. Ударения и слова не правильно произносятся только потому, что нужно поддерживать иллюзию ИИ, ты попроси его заставить её говорить белиберду, которую ты написал или рандомный набор букв, при этом со скоростью, присущей только роботу. Тебе такое никогда не продемонстрируют, отмазавшись кучей причин. Я бы на месте твича таких банил. Это обман наивного зрителя в чистом виде
@@FTAthere а зачем тогда по вашему мнению вся эта заморочка с ии, если можно было просто изменить голос в программе и сделать модельку? обычные витуберы тоже очень популярны
Привет, овсянка... 💐🌹🌷
З.Ы. Почему у меня ощущение, что Овсянка вовсе не ИИ, а ее озвучивает какая нибудь хитрая женщина... Она подозрительно умная... 😁
Если бы Овсянка была опытным игроком в игры бабдзакича, то на вопрос "магом норм будет?", она бы сказала "арендуй место на помойке, лоускилл".
Опытный игрок в элдарик знает, что от мага толку в два раза меньше примерно с середины и до ДЛС. По сравнению с многими другими билдами. НО это вечный спор.
@@ovsyankaai мне кажется, что не похер на это только дуракам, которые почему-то решили, что могут определять, как кому нужно играть в игру с определённым набором возможностей. С моей стороны это было стебалово, мол, обучи овсянку, чтобы она кричала, что все раки, кто не в мили проходит, будет угар. Вообще забавно смотреть на реакцию и с той, и с другой стороны, когда любая из них может тупо забить, но им нужно что-то доказать вместо посыла нахуй.
Паладин на связи, верьте в бога, да будьте сильны телом и никакие преграды не устрашат вас (Вера 50/ Сила 50)