Нейро-БУМ!!! Open Source LLM. Лучшие локальные и веб-модели нейросетей.

Поделиться
HTML-код
  • Опубликовано: 24 янв 2025

Комментарии • 47

  • @KonAVas
    @KonAVas 8 месяцев назад +5

    Молодец! Очень познавательно! Ждем подробный гайд по LM Studio с запуском локального сервера и т.д :)

  • @Cyberdiver999
    @Cyberdiver999 9 месяцев назад +3

    Полезно! Благодарю за труд, продолжай!

  • @NoilWhite
    @NoilWhite 8 месяцев назад +1

    Автор просто молодчина, такой отличный ликбез по инструментам и указание всех ссылок в описании ролика - это безумно круто, спасибо за заботу о смотрящих!

    • @SEE.YOU.ROUND.
      @SEE.YOU.ROUND.  8 месяцев назад

      Спасибо за мотивацию!!!!♥

  • @another-pain
    @another-pain 8 месяцев назад +1

    Благодарю за видео! Наконец то нашел нейросеть для веселья)

  • @alexusfreee
    @alexusfreee 6 месяцев назад +4

    ollama это ядро для нее нужно GUI отдельно. WEB UI например. это самое лучшее решение для self hosting LLM

  • @CyberBrain362
    @CyberBrain362 9 месяцев назад +7

    Спасибо автору.ролик огонь🔥 может следующий на тему все варианты моделей без цензуры? Или работающие варианты джеилбрейков и т.п. Такой ролик залетит в реки 100%👍

    • @SEE.YOU.ROUND.
      @SEE.YOU.ROUND.  9 месяцев назад +2

      Спасибо. И спасибо за идею про джеилбрейки, если хватит сил реализую

    • @Cyberdiver999
      @Cyberdiver999 9 месяцев назад

      UP

  • @Igor-qd6ou
    @Igor-qd6ou 5 дней назад

    Думаю,что преимущество локального запуска не только в конфиденциальности, а и в тонкой и расширенной настройке. Например, при фри онлайн использовании модели нам могут ограничивать как контекст модели так и количество токенов на ответ, не говоря уже об общем количестве токенов. Что обосновано потреблением ресурсов моделей. А на локальной модели мы ограничены исключительно мощностью и терпением)

  • @temuriosebadze
    @temuriosebadze 8 месяцев назад +1

    Большое спасибо.

  • @Dryg-o5c
    @Dryg-o5c 8 месяцев назад

    Ооо, наконецто , выложили , понятным языком на болезненые темы ) сразу большой лайк и колокольчик с сеня , спасибо ! Буду ждать дальнейших развитий )

  • @true_rus364
    @true_rus364 8 месяцев назад +3

    Ollama просто сделана как базовый инструмент, без всевозможных наворотов, но с API. И тут как раз раскрывается потанцевал. Для неё есть отличная вебморда - open webui, практически один в один копирующая chatgpt, с кучей ещё своих возможностей. Там тебе и распознавание речи, и картинок, и даже немного упоротая генерация картинок, через stable diffusion, например. В общем, ollama это в первую очередь API, а lmstudio просто имеет графический интерфейс из коробки.
    А, ну и можно так же подключить в vscode, например, через это API. И графический интерфейс не будет болтаться, неприкаянный. Больше для таких целей, и для использования как бэк энд, при разработке собственного продукта на базе нейросетей.

    • @SEE.YOU.ROUND.
      @SEE.YOU.ROUND.  8 месяцев назад

      Ого, ну видите я не до конца осведомлен в теме поэтому когда чего не знаю просто подсвечиваю инструменты. Спасибо за такое развернутое объяснение. Просто сейчас многим людям сразу хочется пользоваться готовым продуктом и мало кто хочет копаться и разбираться в этом. ((А канал ABILITY вообще про все и про копание и про "легкие" нейросети -- я скоро об этом выпущу видео ролик. )) Пока работаю на широкую аудиторию, и у меня просто знаний нет раскрыть потецевал всех программ. Спасибо что мне в этом помогаете!

    • @dmitrysmirnov6095
      @dmitrysmirnov6095 8 месяцев назад +1

      @@SEE.YOU.ROUND. по сути все проги работающие в "командной строке"(bash,PoSh) можно использовать для сложных конструкций в любых скриптах, перенаправляя результаты исполнения каждого кусочка, в другой инструмент итд.

  • @ocifrovka
    @ocifrovka 6 месяцев назад +1

    вышел с запроса *openrouter обзор*

    • @SEE.YOU.ROUND.
      @SEE.YOU.ROUND.  6 месяцев назад

      даже не знаю что это такое )

  • @SEE.YOU.ROUND.
    @SEE.YOU.ROUND.  9 месяцев назад +3

    Задавайте вопросы если остались, постараюсь ответить

  • @RA-lo1vy
    @RA-lo1vy 9 месяцев назад +2

    Наверное, нейросети генерирующие изображение, будут интересны многим, на них наверное неплохо бы сделать обзор.

    • @SEE.YOU.ROUND.
      @SEE.YOU.ROUND.  9 месяцев назад +1

      Я думаю таких обзоров уже вроде как много, ну что нибудь по этому поводу. Спасибо за наводку

    • @RA-lo1vy
      @RA-lo1vy 9 месяцев назад +1

      @@SEE.YOU.ROUND.
      У меня уже на 50 %
      gligen/gligen-generation-text-image-box
      скачена, на LM Studeo,
      на 6.79 ГБ
      Не знаю что это будет в итоге.

    • @RA-lo1vy
      @RA-lo1vy 9 месяцев назад +1

      ​ @SEE.YOU.ROUND.
      Не знаю что это будет в итоге
      gligen/gligen-generation-text-image-box
      Качаю 50 % уже

    • @RA-lo1vy
      @RA-lo1vy 9 месяцев назад +1

      на МЛ студия

    • @RA-lo1vy
      @RA-lo1vy 9 месяцев назад +1

      На Студии, той что от Майкрософт и которую здесь писать нельзя.

  • @nicivanov5135
    @nicivanov5135 7 месяцев назад +1

    Мне нужна локальная сеть, чтобы обучить её по нужной мне теме.
    На выходе получать файл типа интелектульной карты Xmind со ссылками на видио картинки, заметки. Эдакий помошник для состовления карты со множоеством связей но если мне понадобится нужна возможность упаковать все по выбранной теме одной кнопкой в архив и отправить.
    Следующим этапом будет возможность выдават разрешения на использование софта локального пк так, как если бы это делал человек.

    • @SEE.YOU.ROUND.
      @SEE.YOU.ROUND.  7 месяцев назад

      звучит конечно амбициозно, но я не понял ) в любом случае, надеюсь, что вам хоть чем то помог данный ролик🦾

    • @nicivanov5135
      @nicivanov5135 6 месяцев назад +1

      @@SEE.YOU.ROUND. Есть такой софт Xmind в нем создают интилектуальные карты. Что то типа спикеров со связями. Связи могут быть на локальные ссылки. Да на все что может быть полезно в теме которую человек визуализирует при помощи этого софта. Так вот локальную нейронку нужно подружить с этим или подобным софтом. С возможностью обмениваться темами. Это будет круче, чем любой самый прокаченный ИИ.

    • @SEE.YOU.ROUND.
      @SEE.YOU.ROUND.  6 месяцев назад

      @@nicivanov5135 прикольно я вообще не знал об этом 🧐

  • @aapugin
    @aapugin 9 месяцев назад

    Где можно скачать исходники нейросетей обученных, чтобы себе на комп поставить. Чтобы разобраться как они работают. Нормально оаботающую, чтобы себе на комп поставить и у себя получить тот же результат. Напоимер интересует поиск определенных объектов на видео или фото. Но для начала подойдет любая работающая и с исходниками, на любом языке

    • @arsen_ask
      @arsen_ask 8 месяцев назад

      Здравствуйте, посмотрите ролик хауди хо нейросети + Пайтон за час возможно та найдете ответ на данный вопрос. Я к сожалению более точно сказать не могу

    • @aapugin
      @aapugin 8 месяцев назад

      @@arsen_ask не пойму, вроде название с ошибкой написали, не могу найти. Можете точнее название ролика написать или ссылку дать ? Плиз

    • @SEE.YOU.ROUND.
      @SEE.YOU.ROUND.  8 месяцев назад

      @@aapugin ruclips.net/video/1quKqf47V6s/видео.html

    • @SEE.YOU.ROUND.
      @SEE.YOU.ROUND.  8 месяцев назад

      @@aapugin возможно это вообще не то что вы имели ввиду, может я не так вас понял ) поэтому не обессудьте

  • @Evgeni953
    @Evgeni953 9 месяцев назад +1

    Пытался поиграться с локальными сетями. Ничего разумного нет. Пока не будет реализована возможность переобучения нейронных сетей на основе текста, документов и т.д. практического смысла не будет, максимум это ответы на детские вопросы

    • @SEE.YOU.ROUND.
      @SEE.YOU.ROUND.  9 месяцев назад

      я пока еще не скачивал себе большие модели на ПК, но по идеи они должны выдавать хорошие ответы. Вы какие модели устанавливали?

    • @Evgeni953
      @Evgeni953 9 месяцев назад

      @@SEE.YOU.ROUND. уже не помню, но самая большая была на 13 биллионов связей, все свободные нейронки так или иначе являются модификациями ламы, но когда в них загружаешь текстовый документ достаточного объема они сыпятся в ответах.

    • @SEE.YOU.ROUND.
      @SEE.YOU.ROUND.  9 месяцев назад

      ​@@Evgeni953 понятно, ну будем пробовать пока не получится, если что нибудь годного найду обязательно сообщу об этом в новых видеороликах. Спасибо за отзывчивость