搭建私有大模型原来这么简单|第53期

Поделиться
HTML-код
  • Опубликовано: 28 янв 2025

Комментарии • 23

  • @jinxing-xv3py
    @jinxing-xv3py Месяц назад

    非常客观的评价大模型~

  • @laopaofr
    @laopaofr Месяц назад

    感谢分享❤

  • @hjn19953
    @hjn19953 Месяц назад +1

    感谢分享。干货。能否分享一下你的4090的配置和Linux环境?

    • @realbluegeek
      @realbluegeek  Месяц назад +1

      @@hjn19953 13900k+索泰4090+64G内存+1TB固态+2TB机械+z690主板+水冷机箱,ubuntu22.04,CPU似乎有些不稳定,据说13和14代有问题,可以考虑用12代的芯片

    • @hjn19953
      @hjn19953 Месяц назад

      @@realbluegeek 感谢

  • @呀咧呀咧
    @呀咧呀咧 3 дня назад

    用Docker搭是基本吧

    • @realbluegeek
      @realbluegeek  3 дня назад

      @@呀咧呀咧 见仁见智吧

    • @呀咧呀咧
      @呀咧呀咧 3 дня назад

      @ 複製docker compose然後docker compose up -d就搞掂的事情,更新也只是docker compose pull/watchtower自動更新。
      不用擔心dependencies 與其他app衝突,不用搞virtualenv/conda 然後下個十年八年。Docker已經基本devops workflow,有什麼見仁見智的?直接裝在系統上不說我還以為你用的LXC/VM

    • @realbluegeek
      @realbluegeek  3 дня назад

      @@呀咧呀咧 没删你留言啊,都没看到你说了啥

    • @realbluegeek
      @realbluegeek  3 дня назад

      @@呀咧呀咧 你说我删你留言的那条也不见了,看来你是被RUclips针对了

  • @jackme4165
    @jackme4165 Месяц назад

    感谢分享❤请问能介绍下文生图的部署吗?

    • @realbluegeek
      @realbluegeek  Месяц назад

      @@jackme4165 之前部署了一个diffusion的,稍微有点麻烦,不知道现在是不是有更成熟的开源方案,等我有空了解一下

    • @jackme4165
      @jackme4165 Месяц назад

      @ 期待你的作品!

  • @alexanderliu4362
    @alexanderliu4362 Месяц назад

    感谢分享

  • @zyliu4633
    @zyliu4633 9 дней назад

    训练本地知识库,是怎么操作?

    • @realbluegeek
      @realbluegeek  9 дней назад

      @@zyliu4633 这个用的都是开源的模型,没有自己训练。如果要学习自己训练过程的话,可以参考github上的一个项目,tiny-llm-zh

  • @hubenbu
    @hubenbu 20 дней назад

    丐版Mac mini 能玩不?好想接觸一下。

    • @realbluegeek
      @realbluegeek  20 дней назад

      @@hubenbu 我的M2挺好的,不过不是丐版,现在的m4丐版应该更好,建议升级一下硬盘到512

  • @RAG_7755
    @RAG_7755 5 дней назад

    這能回答色色的東西嗎

    • @realbluegeek
      @realbluegeek  5 дней назад

      黄文本吗?没试过。这年头看黄文的应该不多吧

    • @RAG_7755
      @RAG_7755 5 дней назад

      @@realbluegeek 都自己搭了,當然不想有限制,要不然用別人提供的就好

  • @donhunt3649
    @donhunt3649 Месяц назад

    這還真的是可以隨便搞大模型的網頁程序啦

    • @realbluegeek
      @realbluegeek  Месяц назад

      @@donhunt3649 是啊,非常简单,不会写程序的都能做