台大資訊 深度學習之應用 | ADL TA Recitation: LLM Basics & Architecture 大型語言模型基礎與架構

Поделиться
HTML-код
  • Опубликовано: 1 окт 2024
  • 2023/11/09 Applied Deep Learning
    Lectured by Yen-Ting Lin 林彥廷 @ NTU CSIE

Комментарии • 3

  • @infinirc
    @infinirc 10 месяцев назад +6

    教授好：我是資工系大一的學生，近期在GitHub上看到您們的Taiwan LLaMa項目很感興趣，使用體驗相當好，在暑假時我有用一些資料及去fine tuning LLaMa模型，但效果不是很好，我用家中自建的NVIDIA T4(顯存太小)與線上的Colab A100 GPU一直被中斷，想請問教授如果方便有推薦的GPU或是雲端嗎，AWS跟GCP價格好高而且資料中心幾乎都滿了，目前再試RunPod與RTX A4500。
    謝謝教授

    • @droidcrackye5238
      @droidcrackye5238 10 месяцев назад +1

      Colab中断这个问题直接谷歌可以解决，因为colab每隔一段时间页面会检测用户是否在操作，假如没有会自动中断

    • @李振維-c7q
      @李振維-c7q 6 месяцев назад

      可以考慮llama factory 做微調，實測rtx titan (24 GB) 可以微調到13B 模型

Следующие
Автовоспроизведение
台大資訊 深度學習之應用 | ADL 8.1: LLM Adaptation 如何改變(洗腦?)語言模型47:44台大資訊 深度學習之應用 | ADL 8.1: LLM Adaptation 如何改變(洗腦?)語言模型
台大資訊 深度學習之應用 | ADL 8.1: LLM Adaptation 如何改變(洗腦?)語言模型陳縕儂 Vivian NTU MiuLab
Просмотров 2,6 тыс.
台大資訊 深度學習之應用 | ADL 3.3: Recurrent Neural Network 簡介21:48台大資訊 深度學習之應用 | ADL 3.3: Recurrent Neural Network 簡介
台大資訊 深度學習之應用 | ADL 3.3: Recurrent Neural Network 簡介陳縕儂 Vivian NTU MiuLab
Просмотров 856
超強的AI推理能力!? LLM版本重新計算 OpenAI o114:53超強的AI推理能力!? LLM版本重新計算 OpenAI o1
超強的AI推理能力!? LLM版本重新計算 OpenAI o1Yulandy Chiu的AI觀測站
Просмотров 119
Seattle Seahawks vs. Detroit Lions | 2024 Week 4 Game Highlights18:07Seattle Seahawks vs. Detroit Lions | 2024 Week 4 Game Highlights
Seattle Seahawks vs. Detroit Lions | 2024 Week 4 Game HighlightsNFL
Просмотров 1,8 млн
Rich Homie Quan - Song Cry (Official Video)04:09Rich Homie Quan - Song Cry (Official Video)
Rich Homie Quan - Song Cry (Official Video)Rich Homie Quan
Просмотров 345 тыс.
I Tested Viral Stone and Wood Bench24:30I Tested Viral Stone and Wood Bench
I Tested Viral Stone and Wood BenchJohn Malecki
Просмотров 347 тыс.
I Tried Every Airbnb Category27:15I Tried Every Airbnb Category
I Tried Every Airbnb CategoryRyan Trahan
Просмотров 6 млн
台大資訊 深度學習之應用 | ADL TA Recitation: LLM LoRA Training 大型語言模型太大怎麼調整呢?18:15台大資訊 深度學習之應用 | ADL TA Recitation: LLM LoRA Training 大型語言模型太大怎麼調整呢?
台大資訊 深度學習之應用 | ADL TA Recitation: LLM LoRA Training 大型語言模型太大怎麼調整呢?陳縕儂 Vivian NTU MiuLab
Просмотров 6 тыс.
台大資訊 深度學習之應用 | ADL 0: Course Introduction 課程介紹與規定31:16台大資訊 深度學習之應用 | ADL 0: Course Introduction 課程介紹與規定
台大資訊 深度學習之應用 | ADL 0: Course Introduction 課程介紹與規定陳縕儂 Vivian NTU MiuLab
Просмотров 5 тыс.
【人工智能】万字通俗讲解大语言模型内部运行原理 | LLM | 词向量 | Transformer | 注意力机制 | 前馈网络 | 反向传播 | 心智理论38:45【人工智能】万字通俗讲解大语言模型内部运行原理 | LLM | 词向量 | Transformer | 注意力机制 | 前馈网络 | 反向传播 | 心智理论
【人工智能】万字通俗讲解大语言模型内部运行原理 | LLM | 词向量 | Transformer | 注意力机制 | 前馈网络 | 反向传播 | 心智理论最佳拍档
Просмотров 71 тыс.
Milvus 向量数据库：大模型的长期记忆体44:17Milvus 向量数据库：大模型的长期记忆体
Milvus 向量数据库：大模型的长期记忆体WasmEdge 中文
Просмотров 8 тыс.
台大資訊 深度學習之應用 | ADL 1.1: What is ML? 甚麼是機器學習?16:45台大資訊 深度學習之應用 | ADL 1.1: What is ML? 甚麼是機器學習?
台大資訊 深度學習之應用 | ADL 1.1: What is ML? 甚麼是機器學習?陳縕儂 Vivian NTU MiuLab
Просмотров 4,2 тыс.
善用ChatGPT，讓專業的你更亮眼 ! | 生成式AI主題論壇47:51善用ChatGPT，讓專業的你更亮眼 ! | 生成式AI主題論壇
善用ChatGPT，讓專業的你更亮眼 ! | 生成式AI主題論壇臺大演講網
Просмотров 226 тыс.
ChatGPT的信念与没走的捷径｜对LLM的常见理解误区｜垂类模型有前途吗？｜大语言模型技术深度访谈1/336:59ChatGPT的信念与没走的捷径｜对LLM的常见理解误区｜垂类模型有前途吗？｜大语言模型技术深度访谈1/3
ChatGPT的信念与没走的捷径｜对LLM的常见理解误区｜垂类模型有前途吗？｜大语言模型技术深度访谈1/3课代表立正
Просмотров 16 тыс.
台大資訊 深度學習之應用 | ADL 1.2: What is DL? 甚麼是深度學習?41:26台大資訊 深度學習之應用 | ADL 1.2: What is DL? 甚麼是深度學習?
台大資訊 深度學習之應用 | ADL 1.2: What is DL? 甚麼是深度學習?陳縕儂 Vivian NTU MiuLab
Просмотров 1,5 тыс.
便宜的火箭彈就可以殲滅國軍地面部隊了嗎? 國軍地面部隊的惡夢?【Dino Brothers Studio】[CC字幕]10:50便宜的火箭彈就可以殲滅國軍地面部隊了嗎? 國軍地面部隊的惡夢?【Dino Brothers Studio】[CC字幕]
便宜的火箭彈就可以殲滅國軍地面部隊了嗎? 國軍地面部隊的惡夢?【Dino Brothers Studio】[CC字幕]Dino Brothers Studio
Просмотров 354 тыс.
#kikakim00:10#kikakim
#kikakimKika Kim
Просмотров 11 млн
БЕЛКА ЗВОНИТ ДРУГУ#cat00:20БЕЛКА ЗВОНИТ ДРУГУ#cat
БЕЛКА ЗВОНИТ ДРУГУ#catЛайки Like
Просмотров 895 тыс.
ПОДАРЕННУЮ КВАРТИРУ ЗАБИРАЮТ А ТАНЮ УВОЗЯТ.22:23ПОДАРЕННУЮ КВАРТИРУ ЗАБИРАЮТ А ТАНЮ УВОЗЯТ.
ПОДАРЕННУЮ КВАРТИРУ ЗАБИРАЮТ А ТАНЮ УВОЗЯТ.ВАСЯ НА СЕНЕ
Просмотров 443 тыс.
Арестович: Силы обороны Украины на грани обвала. Сбор для военных👇2:02:15Арестович: Силы обороны Украины на грани обвала. Сбор для военных👇
Арестович: Силы обороны Украины на грани обвала. Сбор для военных👇Alexey Arestovych
Просмотров 486 тыс.
Qizim 109-qism | Anons |Guldek o'g'lingizga it tekkan juvonni olib berdingizmi?00:55Qizim 109-qism | Anons |Guldek o'g'lingizga it tekkan juvonni olib berdingizmi?
Qizim 109-qism | Anons |Guldek o'g'lingizga it tekkan juvonni olib berdingizmi?CineMediA
Просмотров 780 тыс.
Lp. Сердце Вселенной #22 ВЕЛИКИЙ ОТЕЦ [Начало Церкви] • Майнкрафт26:51Lp. Сердце Вселенной #22 ВЕЛИКИЙ ОТЕЦ [Начало Церкви] • Майнкрафт
Lp. Сердце Вселенной #22 ВЕЛИКИЙ ОТЕЦ [Начало Церкви] • МайнкрафтMrLololoshka (Роман Фильченков)
Просмотров 841 тыс.
🔴СРОЧНО ИРАН АТАКОВАЛ ИЗРАИЛЬ | 400 БАЛЛИСТИЧЕСКИХ РАКЕТ! #новости #иран #израиль #атака19:55🔴СРОЧНО ИРАН АТАКОВАЛ ИЗРАИЛЬ | 400 БАЛЛИСТИЧЕСКИХ РАКЕТ! #новости #иран #израиль #атака
🔴СРОЧНО ИРАН АТАКОВАЛ ИЗРАИЛЬ | 400 БАЛЛИСТИЧЕСКИХ РАКЕТ! #новости #иран #израиль #атакаОдин день
Просмотров 832 тыс.
НУБ ПРО И ГРИФЕР СТРОЯТ ДОМ СТАТУЮ ЗА 5 МИНУТ В МАЙНКРАФТ ! БИТВА СТРОИТЕЛЕЙ MINECRAFT21:22НУБ ПРО И ГРИФЕР СТРОЯТ ДОМ СТАТУЮ ЗА 5 МИНУТ В МАЙНКРАФТ ! БИТВА СТРОИТЕЛЕЙ MINECRAFT
НУБ ПРО И ГРИФЕР СТРОЯТ ДОМ СТАТУЮ ЗА 5 МИНУТ В МАЙНКРАФТ ! БИТВА СТРОИТЕЛЕЙ MINECRAFTDakPlay
Просмотров 443 тыс.