微调Llama 3大模型!简单几步即可轻松打造自己的专属大模型!无需本地配置即可轻松完成!

Поделиться
HTML-код
  • Опубликовано: 19 апр 2024
  • 👉👉视频中的GitHub项目地址:github.com/unslothai/unsloth
    👉👉我的开源项目地址:github.com/win4r/AISuperDomain

Комментарии • 63

  • @user-vx5gy7vj4e
    @user-vx5gy7vj4e 27 дней назад +1

    感谢兄台分享!很期待出一期如何创建数据训练集的教学视频。另外,请问如何将自己的数据训练集加入到这个在Colab上运行的代码中?

  • @martiniscoming
    @martiniscoming 27 дней назад

    很棒,请问您有会员群吗?大家大家互相交流

  • @martiniscoming
    @martiniscoming 27 дней назад

    这个unsloth微调好自己的模型后,再通过ollama来本地运行自己微调好的模型,是不是就可以定制自己的私有的ai产品了? 比如昆虫识别

  • @zoeyuwang6123
    @zoeyuwang6123 16 дней назад

    colab上面微调好的模型保存在本地的哪个位置吗,还是hugging face上面?

  • @jjwangel
    @jjwangel 16 дней назад

    你好,有个问题想请教,在Colab里微调成功后,怎么把微调后的模型下载到本地?谢谢

  • @liangchang3678
    @liangchang3678 17 дней назад

    博主请问下, 单机多卡如何操作unslosh训练? 感谢

  • @user-mv9ul9tz1c
    @user-mv9ul9tz1c Месяц назад +2

    感謝分享 不過看用來訓練的資料集都是短文本的,如果是想用長文本文獻資料做summary整理 如: 會談對話、小說文字、文獻期刊、病歷資料等 做摘要的話
    訓練集資料要怎麼設計比較好呢? 謝謝

    • @user-nz4pj3yz8w
      @user-nz4pj3yz8w 16 дней назад

      您好,请问您在用长文本微调大模型方面有什么方法吗?我最近也在做这方面的工作,谢谢。

  • @jiabin26
    @jiabin26 24 дня назад

    想想 Jenny 他们在外国得表现 可能不用微调! 想 Albert 得男同学 可能要微调!

  • @user-hi1ui3pp5z
    @user-hi1ui3pp5z 18 дней назад +1

    教程里没说如何上传自己的数据集,这块有文档可以参考么?

  • @jeson998
    @jeson998 Месяц назад

    如果做个类似客服的模型,是不是可以选择最小尺寸的模型作为底模去训练呢?

  • @jiabin26
    @jiabin26 24 дня назад

    一般学英文时不会用通用常用名! jiabin 不是通用泛用名 像 Albert 一样!

  • @supwang
    @supwang 18 дней назад

    请问,怎么在本地微调?

  • @Jingkaishuoshuo
    @Jingkaishuoshuo Месяц назад +2

    用它去调试奇门遁甲的,起步妙哉

    • @AIsuperdomain
      @AIsuperdomain  Месяц назад

      哈哈哈 太有创意了 可以试试

    • @Jingkaishuoshuo
      @Jingkaishuoshuo Месяц назад

      @@AIsuperdomain 哈哈哈₍ᐢ⸝⸝› ̫ ‹⸝⸝ᐢ₎

    • @user-eg4vg9vj6o
      @user-eg4vg9vj6o Месяц назад +2

      我现在正在做

    • @Jingkaishuoshuo
      @Jingkaishuoshuo Месяц назад

      @@user-eg4vg9vj6o 啊,一起深入研究,我弄了个本地,用的是阿里的千问,不是很好用。

  • @user-ot8ww7vh8s
    @user-ot8ww7vh8s 15 дней назад

    70b的模型能不能48g显存微调出个教程

  • @leowang55
    @leowang55 Месяц назад

    請問有建議至少要多少數據集嗎?例如8B , 70B 要多少數據集才夠呢

    • @AIsuperdomain
      @AIsuperdomain  Месяц назад +1

      8b模型对算力要求低,但如果显卡多算力足,70b模型也是可以的

  • @user-wd6ei4hl4u
    @user-wd6ei4hl4u Месяц назад

    小白想问一句,照着这样弄完后,东西在哪?模型怎么下回来

    • @user-xx1ut4xl1q
      @user-xx1ut4xl1q Месяц назад

      colab可以挂载自己的google硬盘,然后保存到硬盘即可

    • @AIsuperdomain
      @AIsuperdomain  Месяц назад +1

      在Google drive里

  • @kirito.c8763
    @kirito.c8763 Месяц назад

    請問是要把示範的數據集“全部”換成自己的數據嗎?這樣好像有點多耶

    • @AIsuperdomain
      @AIsuperdomain  Месяц назад

      示范数据只是个例子,可以将自己的数据转为json格式即可

    • @kirito.c8763
      @kirito.c8763 Месяц назад

      ​@@AIsuperdomain謝謝妳你,請問數據越多越好嗎?

    • @kirito.c8763
      @kirito.c8763 Месяц назад

      另外,影片中有提到清洗數據集,請問要怎麼清洗?

  • @user-qm3ky1yh9y
    @user-qm3ky1yh9y 23 дня назад

    笔记本4080能跑多少 b

  • @albertwang5974
    @albertwang5974 Месяц назад

    有没有什么微调前后的评测结果展示?

  • @jianwang2011
    @jianwang2011 Месяц назад

    怎么将一般企业的知识库(pdf、word等)简便的转换成可训练的json格式?

    • @AIsuperdomain
      @AIsuperdomain  Месяц назад +3

      这需要对数据进行清洗和处理,等我下期视频具体演示

  • @back_to_the_future9187
    @back_to_the_future9187 Месяц назад

    Rag or fine tuning, that is the question

    • @fooevr
      @fooevr Месяц назад +5

      RAG is used to solve knowledge-based questions, while fine-tuning is used to address logical problems. They are complementary, not conflicting.

  • @ssssuper4225
    @ssssuper4225 Месяц назад

    他这个数据集可以是那种pdf文件吗

    • @AIsuperdomain
      @AIsuperdomain  Месяц назад

      不是pdf,但是可以将pdf转为这种数据集

    • @ssssuper4225
      @ssssuper4225 Месяц назад

      @@AIsuperdomain 求方法或者出一期视频,感谢up主

  • @king-of-doomsday
    @king-of-doomsday Месяц назад +1

    部署本地可以文生图吗

    • @AIsuperdomain
      @AIsuperdomain  Месяц назад +1

      stable diffusion模型可以本地

  • @mengli1706
    @mengli1706 Месяц назад +1

    文生图场景有可以微调的大模型么?

    • @AIsuperdomain
      @AIsuperdomain  Месяц назад

      stable diffusion

    • @mengli1706
      @mengli1706 Месяц назад

      @@AIsuperdomain 老铁出一款教程吧,起到你了

  • @user-wq1lm7wv4x
    @user-wq1lm7wv4x Месяц назад

    核显有gpu吗

    • @AIsuperdomain
      @AIsuperdomain  Месяц назад

      可以用这个命令检查:nvidia-smi

  • @calm2802
    @calm2802 Месяц назад

    如果涉及机密内容,在这上面训练是不合适的

  • @Messine5496
    @Messine5496 27 дней назад

    各种大模型低价api官方接口直连,欢迎企业、科研机构、实验室、合作洽谈

  • @meimei-if3hh
    @meimei-if3hh Месяц назад

    数据集可以出现中文字符么

  • @micheleyu3125
    @micheleyu3125 Месяц назад

    能读PDF吗?

    • @AIsuperdomain
      @AIsuperdomain  Месяц назад +1

      pdf需要清洗和处理,等我下期视频演示

  • @user-ps2lr8ci2d
    @user-ps2lr8ci2d Месяц назад +1

    看不懂你 到底是教程还是炫耀 要教就好好教

  • @user-fadeshun
    @user-fadeshun Месяц назад

    博主,问一下,我在谷歌云上这样操作,这算是收费的?还是免费的?

    • @AIsuperdomain
      @AIsuperdomain  Месяц назад

      免费的

    • @user-fadeshun
      @user-fadeshun Месяц назад

      @@AIsuperdomain 哦,已经搞好了!我不是搞编程的,是搞硬件的,所以不太理解!我问一下,我这样部署好了,能不能再弄个比较好的UI界面 ,然后再发布出来使用,我可以给到别人通过WEB访问?

    • @Trevor0713
      @Trevor0713 Месяц назад

      @@user-fadeshun 你可以參考一下gradio, 或是更複雜的streamlit這兩個框架. 個人推薦用gradio

    • @user-cn5gw7fx9d
      @user-cn5gw7fx9d Месяц назад

      @@user-fadeshun 可以,cloudlflare tunnel 可以让你自己的电脑映射到公网上提供web服务

    • @AIsuperdomain
      @AIsuperdomain  Месяц назад

      @@user-fadeshun 👍