Размер видео: 1280 X 720853 X 480640 X 360
Показать панель управления
Автовоспроизведение
Автоповтор
CPU : Apple M1RAM : 16GBOS : macOS Ventura 13.5.2Model : Taiwan LLaMa 1 0 13B q4_k_m ggufResult : 成功。速度慢,CPU 100%,Speed 4.40 tok/s
電腦規格跟我差不多耶...跑13B真的比較喘一點...
處理器: Apple M1 Max記憶體: 64G作業系統: MacOS 14 Sonoma測試模型: Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf測試心得: 用泛科學那幾段話邏輯測試1. 開啟使用Apple Metal GPU,Enter按下去大概一秒後回答完成。2. 使用CPU (4 threads) 大概五秒鐘回答。
CPU: AMD Ryzen 5 5500URAM: 64 GB OS: Win11Model: Taiwan-LLaMa-13b-1.0.Q4_K_M.ggufResult: 可以跑,但怪怪的,而且CPU不夠力跑起來真的超級慢,會寧可用chatgpt 的API Key付錢問問題。
期待泛科學院推薦其他好用的模型
處理器: Apple M2 pro記憶體: 32G作業系統: MacOS 13.5.2測試模型: Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf測試心得: 成功執行,但只能用 CPU 運行,文字產生速度偏慢。
處理器:5975wx顯示卡:rtx4090記憶體:128gb作業系統:win11(22H2)測試模型:Llama2-70B 測試對話,:hi成功運行,全佔滿運行,速度極慢,但應該可以靠加卡解決更新:不知道為甚麼 運行一段時間後(睡了一覺起來)記憶體占用剩一半對話速度也更快了 同樣都是70B...好神奇
處理器:Intel i7-7700記憶體:32G (16*2)作業系統:Win10 (22H2)測試模型:Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf測試心得:成功不曉得,這個軟體有沒有支援GPU加速,只用CPU計算,回應速度感覺稍微有點慢。
在右手右手面的setting - hardware setting - 開啟gpu
@@852timHKS 看到setting,但找不到hardware setting,跟頁面有關嗎?但每頁都看過了......求指點!
@@ScriptureWong 不知道,我在SETTING都有HARDWARE SETTING,入面都有GPU Acceleration.
@@852timHKS 後來找到了, 謝謝你
處理器:Intel i7 1180H記憶體:16G作業系統:Win10測試模型:Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf測試心得:成功
處理器:Intel(R) Core(TM) i5-7300HQ CPU @ 2.50GHz 2.50 GHz記憶體:16G作業系統:Win10測試模型:Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf測試心得:成功,但對話回應的速度很慢
偷偷跟你說,我用AMD R5-5600X連掛載都會失敗.....
M2 Pro 16GB跑起來有點慢,這也是預期中的事,不知道大家覺得96GB的M2 Max會不會表現得更好?其實我不只是想在本地跑那些訓練好的模型,我更希望能在本地運行自己用個人隱私資料訓練出來的數位分身。
處理器:Intel i9 12900KF記憶體:64G作業系統:Win11測試模型:Taiwan-LLaMa-13b-1.0.Q8_0.gguf測試心得:成功,但速度不夠快..
GPT3.5真的很快...大家都被慣壞了...
最重要的Preset一点没提到
筆電(MSI Prestige 15 A10SC):處理器:10th Gen. Intel® Core™ i7 U-Processor記憶體:32G (16*2)作業系統:Win10 (22H2)測試模型:Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf測試心得:成功缺點:速度慢,可能要3~5分鐘回應,而且他不會依據上下文判斷,會重複回答文不對題,需要開新的Chats,才能正常運作。
2020年的M1 MacBook Air 16GB Ram 512GB SSD Taiwan LLaMa 測試成功
Air上面跑會明顯的慢喔XD
MAC m1 無腦測試Q4 KM
那台灣以外的中文國家你建議用哪一個模型呢?謝謝🙏🙏
还是用bard AI 比较好
MacBook Pro 15-inch, 2017處理器: 3.1 GHz 四核心Intel Core i7macOS: 13.6.3(22G436)錯誤訊息:無法打開應用程式「LM Studio」,因為此 Mac 不支援此應用程式。請問這有解嗎?😮💨
這我沒很肯定...僅提供兩個可能的狀況1. 這台 mac 不是 apple m 系列的處理器,讓 LM studio 無法在 MacOS 中順利開啟2. 你的 i7 處理器太舊,沒有 AVX2 指令集,但看 mac 出場年份,處理器應該是第七代的 i7,是有內建 AVX2 的,所以很可能不是這個問題(A.)
@@panscischool 那可能是一吧……可惜了…… 🥲
安裝失敗,電腦說我的java有問題。但我看不懂哪裡出問題。
期待博主做一期将模型部署在云服务器上的教程
請問使用這個還有字數限制嗎?
根據模型的不同一樣會有token的限制..
13b的模型nvidia VRAM太少幾乎沒啥用用CPU跑真的頗慢的
如果你的問題剛好7b模型就可以跑....就當賺到了...(?)
處理器:Intel i5-6600記憶體:16G作業系統:Win10測試模型:Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf測試心得:失敗
處理器:Intel i5-12400F記憶體:64G (32*2)作業系統:Win11 (22H2)顯示卡:RTX 3080 12G測試模型:Taiwan-LLaMa-13b-1.0.Q5_0.gguf測試心得:成功
Taiwan-LLaMa-13b-1.0.Q8_0.gguf 測試心得:成功
我用3060 12G+ R5-5600X不知為何就是掛不起來
我自己使用起來,反應很慢,並且只要他回應的文章一長他後面就會亂講話餵給他youtube網址他也不能正確的幫我做摘要而且常常答非所問,完全比不過chatgpt3.5
要摘要RUclips可以看這裡ruclips.net/video/T1NBZIgjO0U/видео.html
不知是哪裡設定錯誤,問他GPT4 經典問題:魯迅為何暴打周樹人? 回覆都不正確,硬掰!我的是Macbook Air M2 (16GRAM)
可能使用的模型智慧有限....換個模型試試 XD
我的筆電7b parameter都很勉強😢
我的桌上型電腦明明是3060但是任何一個模型都掛不起來...(這樣有安慰到你嗎 )
@@panscischool 😂
@@panscischool 但我有個不錯的桌上型電腦 可以當server連mac但7b真的沒啥用 知識不夠準 可能13b好一點
不能搜索模型是怎么回事啊?
There was an error searching for models. Please check your internet connection.
我的也是,怎么回事啊
要等一下,我一開始也是這樣
具体怎么做呢@@albert-yu
可以考慮更新lm studio.我一開始也有遇到類似的問題,但過兩天更新之後就可以了
对电脑要求太高,很难发展。
只能等待之後電腦處理器內建神經網路運算核心囉....
GPT3.5普号+API/New Bing号零售个3元1个,批发1元1个!!!!!
那叫 llama -> [jiama] 你学学西班牙语吧
咦google 翻譯也唸錯了嗎.....
超級難用,答非所問的...
換個模型試試XD
@@panscischool我一開始裝檔案最大的,問了問題都不知道在說甚麼,之後跑去裝推薦的,也是差不多問題, CPU: i5 13500RAM: 32 GB OS: Win10GPU RTX4070
CPU: Intel 13900KRAM: 128 GB OS: Win11Model: Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf測試心得:成功
13900k真香~~ 128G Ram真香~~
CPU : Apple M1
RAM : 16GB
OS : macOS Ventura 13.5.2
Model : Taiwan LLaMa 1 0 13B q4_k_m gguf
Result : 成功。速度慢,CPU 100%,Speed 4.40 tok/s
電腦規格跟我差不多耶...跑13B真的比較喘一點...
處理器: Apple M1 Max
記憶體: 64G
作業系統: MacOS 14 Sonoma
測試模型: Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf
測試心得: 用泛科學那幾段話邏輯測試
1. 開啟使用Apple Metal GPU,Enter按下去大概一秒後回答完成。
2. 使用CPU (4 threads) 大概五秒鐘回答。
CPU: AMD Ryzen 5 5500U
RAM: 64 GB
OS: Win11
Model: Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf
Result: 可以跑,但怪怪的,而且CPU不夠力跑起來真的超級慢,會寧可用chatgpt 的API Key付錢問問題。
期待泛科學院推薦其他好用的模型
處理器: Apple M2 pro
記憶體: 32G
作業系統: MacOS 13.5.2
測試模型: Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf
測試心得: 成功執行,但只能用 CPU 運行,文字產生速度偏慢。
處理器:5975wx
顯示卡:rtx4090
記憶體:128gb
作業系統:win11(22H2)
測試模型:Llama2-70B
測試對話,:hi
成功運行,全佔滿運行,速度極慢,但應該可以靠加卡解決
更新:不知道為甚麼 運行一段時間後(睡了一覺起來)記憶體占用剩一半
對話速度也更快了 同樣都是70B...好神奇
處理器:Intel i7-7700
記憶體:32G (16*2)
作業系統:Win10 (22H2)
測試模型:Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf
測試心得:成功
不曉得,這個軟體有沒有支援GPU加速,只用CPU計算,回應速度感覺稍微有點慢。
在右手右手面的setting - hardware setting - 開啟gpu
@@852timHKS 看到setting,但找不到hardware setting,跟頁面有關嗎?但每頁都看過了......求指點!
@@ScriptureWong 不知道,我在SETTING都有HARDWARE SETTING,入面都有GPU Acceleration.
@@852timHKS 後來找到了, 謝謝你
@@852timHKS 後來找到了, 謝謝你
處理器:Intel i7 1180H
記憶體:16G
作業系統:Win10
測試模型:Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf
測試心得:成功
處理器:Intel(R) Core(TM) i5-7300HQ CPU @ 2.50GHz 2.50 GHz
記憶體:16G
作業系統:Win10
測試模型:Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf
測試心得:成功,但對話回應的速度很慢
偷偷跟你說,我用AMD R5-5600X連掛載都會失敗.....
M2 Pro 16GB跑起來有點慢,這也是預期中的事,不知道大家覺得96GB的M2 Max會不會表現得更好?其實我不只是想在本地跑那些訓練好的模型,我更希望能在本地運行自己用個人隱私資料訓練出來的數位分身。
處理器:Intel i9 12900KF
記憶體:64G
作業系統:Win11
測試模型:Taiwan-LLaMa-13b-1.0.Q8_0.gguf
測試心得:成功,但速度不夠快..
GPT3.5真的很快...大家都被慣壞了...
最重要的Preset一点没提到
筆電(MSI Prestige 15 A10SC):
處理器:10th Gen. Intel® Core™ i7 U-Processor
記憶體:32G (16*2)
作業系統:Win10 (22H2)
測試模型:Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf
測試心得:成功
缺點:速度慢,可能要3~5分鐘回應,而且他不會依據上下文判斷,會重複回答文不對題,需要開新的Chats,才能正常運作。
2020年的M1 MacBook Air 16GB Ram 512GB SSD Taiwan LLaMa 測試成功
Air上面跑會明顯的慢喔XD
MAC m1 無腦測試Q4 KM
那台灣以外的中文國家你建議用哪一個模型呢?謝謝🙏🙏
还是用bard AI 比较好
MacBook Pro 15-inch, 2017
處理器: 3.1 GHz 四核心Intel Core i7
macOS: 13.6.3(22G436)
錯誤訊息:無法打開應用程式「LM Studio」,因為此 Mac 不支援此應用程式。
請問這有解嗎?😮💨
這我沒很肯定...僅提供兩個可能的狀況
1. 這台 mac 不是 apple m 系列的處理器,讓 LM studio 無法在 MacOS 中順利開啟
2. 你的 i7 處理器太舊,沒有 AVX2 指令集,但看 mac 出場年份,處理器應該是第七代的 i7,是有內建 AVX2 的,所以很可能不是這個問題
(A.)
@@panscischool 那可能是一吧……可惜了…… 🥲
安裝失敗,電腦說我的java有問題。但我看不懂哪裡出問題。
期待博主做一期将模型部署在云服务器上的教程
請問使用這個還有字數限制嗎?
根據模型的不同一樣會有token的限制..
13b的模型
nvidia VRAM太少幾乎沒啥用
用CPU跑真的頗慢的
如果你的問題剛好7b模型就可以跑....就當賺到了...(?)
處理器:Intel i5-6600
記憶體:16G
作業系統:Win10
測試模型:Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf
測試心得:失敗
處理器:Intel i5-12400F
記憶體:64G (32*2)
作業系統:Win11 (22H2)
顯示卡:RTX 3080 12G
測試模型:Taiwan-LLaMa-13b-1.0.Q5_0.gguf
測試心得:成功
Taiwan-LLaMa-13b-1.0.Q8_0.gguf 測試心得:成功
我用3060 12G+ R5-5600X不知為何就是掛不起來
我自己使用起來,反應很慢,並且只要他回應的文章一長他後面就會亂講話
餵給他youtube網址他也不能正確的幫我做摘要
而且常常答非所問,完全比不過chatgpt3.5
要摘要RUclips可以看這裡
ruclips.net/video/T1NBZIgjO0U/видео.html
不知是哪裡設定錯誤,問他GPT4 經典問題:魯迅為何暴打周樹人? 回覆都不正確,硬掰!
我的是Macbook Air M2 (16GRAM)
可能使用的模型智慧有限....換個模型試試 XD
我的筆電7b parameter都很勉強😢
我的桌上型電腦明明是3060但是任何一個模型都掛不起來...(這樣有安慰到你嗎 )
@@panscischool 😂
@@panscischool 但我有個不錯的桌上型電腦 可以當server連mac
但7b真的沒啥用 知識不夠準 可能13b好一點
不能搜索模型是怎么回事啊?
There was an error searching for models. Please check your internet connection.
我的也是,怎么回事啊
要等一下,我一開始也是這樣
具体怎么做呢@@albert-yu
可以考慮更新lm studio.我一開始也有遇到類似的問題,但過兩天更新之後就可以了
对电脑要求太高,很难发展。
只能等待之後電腦處理器內建神經網路運算核心囉....
GPT3.5普号+API/New Bing号零售个3元1个,批发1元1个!!!!!
那叫 llama -> [jiama] 你学学西班牙语吧
咦google 翻譯也唸錯了嗎.....
超級難用,答非所問的...
換個模型試試XD
@@panscischool我一開始裝檔案最大的,問了問題都不知道在說甚麼,之後跑去裝推薦的,也是差不多問題,
CPU: i5 13500
RAM: 32 GB
OS: Win10
GPU RTX4070
CPU: Intel 13900K
RAM: 128 GB
OS: Win11
Model: Taiwan-LLaMa-13b-1.0.Q4_K_M.gguf
測試心得:成功
13900k真香~~ 128G Ram真香~~