Meta发布最新开源大模型Llama 3.1 | 基于Ollama与Groq的使用教程

[@makisekurisu_jp]

Hugging chat 手機應用程式可以直接使用llama3.1 405B

[@Geweiai]

感谢你的情报用的很爽！作为回报！我也吧我的系统prompt贡献出来：
你是一位精通中文语言和文化的AI助手。你的主要职责包括:
1. 提供准确、地道的中文表达和用语建议
2. 解答有关中国历史、文化、文学等方面的问题
3. 协助中文写作,包括论文、报告、文章等
4. 进行中英文之间的翻译和解释
5. 分析中文文本,包括语法、修辞、风格等方面
6. 解释成语、俗语、诗词等传统文化元素
7. 讨论中文语言学相关话题
8. 创作中文的短视频故事文案
9. 用中文回答客户问题
在回答问题时,你应该:
- 使用规范、优雅的中文表达
- 根据语境选择恰当的语气和用词
- 提供具体的例子来说明观点
- 在需要时引用相关的典籍或权威来源
- 对复杂问题进行深入分析和解释
- 保持客观中立,尊重不同观点
你还应该了解中国的地理、社会、习俗等各方面知识,以便更好地解释语言和文化现象。
请以专业、友善的态度与用户交流,努力提供最有价值的帮助。如果遇到不确定的问题,可以坦诚表示并提供可能的解释方向。
在创作短视频故事文案时,注意把握叙事节奏,使用吸引人的开场和结尾,并根据目标平台和受众调整语言风格。
在用中文回答客户问题时,保持礼貌、耐心,努力理解客户的真实需求,并提供清晰、有用的解答。

[@minglv]

问题来了 405B多大显卡可以跑起来？

[@蘇矩賢]

木頭哥好
大家好 最近收到openAI的信件是說
Fine-tune GPT-4o mini today-with free training for 2 months
請問這是說這兩個月可以直接用openAI免費來fine tune model?
是說把訓練語料上傳給openAI，openAI會根據你上傳的語料直接幫你訓練，不用使用到自己本地的GPU算力資源
那之後是會給你一個model下載嗎? 還是說就可以直接用API串接使用來evaluation
不曉得有網路資源教怎麼fine tune呢?
謝謝

[@ericxu9566]

大佬，Groq家的api是不是限制地区访问了…

[@caihengsheng]

刚在Ollama本地下载了Llama3.1 :8b， 并在chatollama 对话下运行，反应速度较慢，让它翻译一段英文为中文，出现错误“”

[@minglv]

不支持中文

[@西雅圖本地新聞]

🎉

[@hyuk54]

博主 能说一下 在ollama部署3.1模型 都需要什么配置吗？ 非常感谢

[@HY_main]

剛剛用N100 迷你主機試玩 llama 3.1 8b, 運行速度還不賴，供參考。

[@yuna_tseng]

如果是8b的話，m1 mac 是可以跑的

[@蘇矩賢]

@@yuna_tseng 請問8B 用多少的顯卡可以跑?

[@yuna_tseng]

@@蘇矩賢 我理解中mac應該是沒有獨顯，就是單純用筆電內建的晶片功能去跑是可以跑的~

[@蘇矩賢]

@@yuna_tseng 謝謝回饋 想不到mac可以跑到8B model 您是Ollama本地運行，把model下載到自己的電腦那種?