想問一下 老師或者版上大神，從docker上安裝open webui 完成後出現以下錯誤(HTTP code 500) server error - Ports are not available: exposing port TCP 0.0.0.0:3000 -> 0.0.0.0:0: listen tcp 0.0.0.0:3000: bind: An attempt was made to access a socket in a way forbidden by its access permissions. 請問這個怎麼解決😭
docker: error during connect: Head "%2F%2F.%2Fpipe%2FdockerDesktopLinuxEngine/_ping": open //./pipe/dockerDesktopLinuxEngine: The system cannot find the file specified. See 'docker run --help'. 這個有沒有人遇到 求求版上大神
這個頻道最強的就是使用短短十幾分鐘，就能把一些核心議題論述的很清楚，厲害!!
同感，哈哈
已經用 ollama 很長一段時間了，也大力推坑同事一起來用，沒想到居然有出教學！以後直接丟影片連結就好了ＸＤ！
提醒一句 在Windows 11 安裝docker需要啓動虛擬機服務程式才能正常運行 安裝后如報告WSL無法啓動的相關錯誤：1. 在主板boot頁面開啓虛擬機功能（不同廠商的主板操作各異）2. 在控制面版中「啓用或關閉Windows功能」中勾選虛擬機服務 重啓系統后 可通過任務管理器的「CPU性能」選項卡中有提示虛擬機已開啓作驗證
真的是太感謝老師分享了，這個部屬流程，安裝真的已經教的很簡化了，剩下的是我需要多高的硬體規格才能負擔常規使用了。
mac另當別論，GPU的VRAM的需求取決於要跑什麼模型，從幾十Ｍ到破百Ｇ的模型都有，想跑主流模型還是建議上12Gvram
@@terryterry8999Mac需要怎样的环境？
好厲害喔！我之前繞了很多彎路 LM studio 和 anythingLLM 都試過 ... 你教的方法比較淺顯易懂，也比較實用！
昨天才看到有人用8GB的GPU微調這個 PAPAYA老師就來了！
太讚了！
這個太棒了！！
希望老師可以教RAG🥳🥳
在使用colab時，免費用戶也能切換至gpu運算，會比預設的cpu快很多，不用十分鐘就搞定
保存了一堆關於微調模型的視頻,這個視頻最終保存,簡單明瞭,沒有廢話
papaya老师总能与时俱进推广技术。几年前工作用word excel跟您学中高阶功能，工作受益良多。现在整起了大模型。之前安装找的网上其他教程。但回到papaya的频道，信息总是很清晰、有用，一步步跟着学就好👍
謝謝！
讲得非常好，简单、明了、清晰，内容实在。希望进一步的深入讲解，比如，“載入外部檢索文件”是不是太简略了，复制粘贴，AI转换后再复制粘贴到新建的文件里面，效率低不说，恐怕容易卡顿掉，请深入地展开讲，举2个例子：1、一个比较大的文档比如PDF书籍如何加入到AI的微调当中或如何RAG；2、对视频如何用AI翻译加字幕，分两种情况，下载的（本地） 视频和实时的（直播）视频如何翻译。
我是在看這支影片學會的佈置本地AI，非常喜歡你的影片，現在想提出一個新的問題，在這個基礎上做新的客製化AI，就是類似ragflow這一類的，雖然我已經佈置好了，但是很想看你也做一個相關的教學影片，不僅僅這個話題肯定是大家喜歡的，更因為感覺看你的影片是一種享受啦。很想看你做，謝謝你papaya。
這是我看過講解最清晰好懂的影片
以為自己了解了，但每次觀看都還是有學到，厲害~!
154萬訂閱!!!值!!!!超值!!!
感谢老师！如此精致又友好的视频实在难得，已成功下载Ollama并开始使用，十分感谢！
感謝讓我學到可以用colab微調LLM模型🥹
感恩❤你的內容太棒了👏
非常有用的教學，感謝分享
非常實用且專業的教學 感謝
影片含金量很高
這個教學真是太棒了。
木瓜大一貫優質又清晰的教學，感謝~
這實在太讚了，感謝製作介紹影片
感謝分享! 希望在能出一集新! 本地資料查詢建立應用!
謝謝老師的用心教學!
謝謝老師，影片太讚
感謝
看了這麼多的介紹，還是這部最簡短又清楚，這是多難的實力表現。
非常有料
Backyard AI 也是一個很好又易用的工具
謝謝老師
太棒了👍
老師也太厲害了吧！
謝謝分享
太棒了 非常喜欢
太強啦
真的太扯太強了老師...
好東西！
清晰
教程太棒了，真正的手把手教。data prep 那里的数据集格式现在在不同的模型下要求不一样了，llama3.2 现在默认 unsloth 脚本下的 data 要求格式已经是standardize_sharegpt 格式了，数据集中还要记录 conversation 的得分，有点麻烦了。
超級厲害，老師真的很讚!
講解的超棒，但自己有架起來測了一下，不論檔案檢索或模型微調的結果好像都沒展示的這麼完美(其實是完全沒找到定義好的答案)。
真不错哦
真的有料 但好奇9:00的時候和按+號上傳檔案的訓練模式有差嗎? 還是多一個預設的概念
上傳檔案的方式是RAG的一種，輸入的指令會先查找上傳的index，再輸入到LLM生成回答
微調則是直接調整LLM的參數
超棒的說明！請問下次可以討論如何讓本地的模型也可以從網路搜尋資訊嗎？比方説請他藉由搜尋告訴我今天某地的天氣。
太强了吧，还有fine tune教程！
牛逼，没一句废话！
還是蠻推薦 Jan 的 😎
WIN10、11家用版用戶會遇到安裝Docker Desktop無法開啟跳出警示語的問題，原因為缺少Hyper-v，須另行安裝且至Bios設定
沒錯～也有遇到這個問題
要把 windows 設定裡面的虛擬化打開才能使用喔
因為要虛擬化
現在是不是用wsl2就好，home也沒有Hyper-v的選項
我用家用版的win11裝起來了 專業版的沒辦法...
Open WebUI 不只可以接ollama跟openai還可以接很多家的api，只要配合litellm就行。也是docker架一下就有。
請問是如何在setting裡model中新增「管理LiteLLM模型」的進階設定啊？
因爲我照著步驟下載都沒有出現😢 3:15
我照著下載結果顯示unable to find image locally docker
太讚了吧老師，這真的是免費能看的東西嗎？
請問老師可以多分享一點有關微調 LLM 的使用心得和方法嗎？我看影片中示範只是一份簡短的 PDF file, 假如我想把自己多年來整理的行業心得導入到 AI 裡把它作為我第二個大腦使用又應該怎樣做？把所有的資料一次過換成 JSON 貼在同一個 File 裡面嗎？感謝.
希望大神能教 facebook ads， google ads 😉😉😉
你教學ollama十分清楚,請問我用ollama如何設定為2D LIVE vtuber??
老師好，請問封面羊駝的圖畫是自己做的嗎？是運用哪一款可以做到這麼可愛的圖片？
很棒的教學，但有一個疑問就是如何測試以及提高資料準確度？
PAPAYA老师，能否系统来一节关于GPTs等智能体的打造课程，非常期待！
蹲
設定介面好像改惹
求大大更新教學～～～
連 Unsloth 用 custom data fine-tuning 都有教學了... 😳 該不會下一次就是教 RAG 了吧
厉害(๑•̀ㅂ•́)و✧！学习了。
🎉🎉🎉❤❤❤
想請問Colab會使用到要付費嗎
Ollama 可以單獨使用嗎? 不需要用到Open WebUI 及docker
老大 你要出一集win11的設定
還有微調也太專業了吧
謝謝老師。另外想請問一下，docker用CPU運行非常慢，請問有什麼辦法可以提速嗎。謝謝
請問json的屬性名稱(如:instruction, input, output)，這些是一定是這只有這些嗎?還是如果補一些自己隨便想的屬性，也能用於微調模型嗎?
Papaya老師，ollama不允許離線模型使用網路搜尋，有沒有其他和手機上的huggingchat一樣可以讓離線模型使用網路搜尋回答問題的開源專案？
感謝教學
那請問
Llama 3.2 1B、3B的model 可以上傳檔案做分析嗎? 還是單純文字QA?
Ollama 去啟動 能有圖形化介面嗎? 不然只能在CMD下跑
Llama 3.2 11B的若是要在本地執行
顯卡要幾G以上才能跑呢?
謝謝
可以請老師教我們如何使用got來學習語言嗎？
或者學習一門新技術
2:39為甚麼我的沒有辦法自動跑出網站連結
現在可以用Msty
老師能請教如何將模型安裝至D槽，使用docker&cuda讀取到D槽已下載的模型並進行運算嗎?
我看見活菩薩了🥺
博主为什么我最后完成了gguf文件，在实验模型里上传后找不到模型呀，是路径问题吗
想問翻譯日語影片綜藝自動生成SRT字幕應該安裝那個模形？
请问我如果有很多知识要让大模型学习，微调的时候，是生成一个庞大的json文件，还是生成很多json文件，不停地训练呢？而且这种微调方式还是太麻烦，专业知识有非常多内容。而且专业文档很多并不是问答式的。这个有点难搞。请问有没有什么快捷的方法。谢谢！
Data Prep 的部分只能用一個檔案，不然會出錯，跟大家分享
您好 Open WebUI的介面設定已經沒有模型這個選項了 請問該從哪裡下載模型?
同問🙏🏻🙏🏻
請問安裝 Ollama 在硬件上有沒有一定要求？
至少8G的顯卡
有個問題，要先下載ollama到本地還是不用
很想知道像這樣點了就馬上回答需要到甚麼等級的卡... 4080夠嗎?
普通電腦的顯卡 + 8-12GB已經可以做到了，甚至比較新的手機也可以。因為那模型不是原始的，是壓縮過的，所以能力也有限制，但也有不錯的效果，我自己有用。
提示詞要寫好一點，彌補模型的限制
不用顯卡. 現在有 gguf . ＣＰＵ＋ 16GB記憶體就可以跑
主要是内存需要32至128gb才行，中等的最好64以上才行，硬盘占用率也很高，但是CPU和显卡占用反而不高
@@Alihuzzysf 視頻中那個模型16GB已經很足夠吧
您好 請問為何我的openwebui 0.44 版本 裡面的介面功能內容和排版 和影片的差異很大 影片裡的介面功能齊全好用
我的卻是連要怎麼裝模型都無法 還只能在CMD下重新安裝 謝謝
同問！而且自己在cmd下載的模型跑答案速度都很卡很慢🥲
想問一下 老師或者版上大神，從docker上安裝open webui 完成後出現以下錯誤(HTTP code 500) server error - Ports are not available: exposing port TCP 0.0.0.0:3000 -> 0.0.0.0:0: listen tcp 0.0.0.0:3000: bind: An attempt was made to access a socket in a way forbidden by its access permissions.
請問這個怎麼解決😭
这个错误可能是因为端口占用或者docker运行权限不足；可以优先检查3000端口是否被占用，或者更简单的方法是将运行open webui 的docker 命令中的3000端口改为3001或者其他端口）；如果不是端口占用问题，那么可能是docker运行权限的问题，可以尝试在运行命令前加上 sudo，像这样 "sudo docker run -d -p 3000:8080...."
@@aarontalk9999 請問版大神,如果局域網實體IP:192.168.1.28, 請問需要怎麼設定可以讓192.168.1.28:3000連上這台open webui ? 謝謝！
docker: error during connect: Head "%2F%2F.%2Fpipe%2FdockerDesktopLinuxEngine/_ping": open //./pipe/dockerDesktopLinuxEngine: The system cannot find the file specified.
See 'docker run --help'.
這個有沒有人遇到
求求版上大神
目前本地部署CP值最高的選擇就是兩張3090了，最少還是要70B以上的模型才比較實用。
老師, 我安裝好 Ollama 及 llama3 Model, 不過我上傅圖片及 PDF 檔後, 他一直表示看不到已上傳的檔案, 請問會是什麼原因? (生成純文字是沒有問題) 謝謝
一開始就不想隱私外洩才用本地布署。
模型微調又上傳資料並使用chatgpt 不就違反第一個目標。
老师，能出chatTTS吗🎉
每次微調都是一個新的語言模型嗎？
請問老師，為什麼AI回答我的都是一些粗橫線，什麼字都沒有。🥲
請問一下 Open WebUI 如果忘記密碼的話該怎麼辦? 謝謝
想知道使用GUP跑的部分需要怎麼改>
真的就離譜，太猛了
windows用docker會吃很多記憶體喔
並且前置作業WSL安裝好像沒提到
非專業版系統不會顯示這個
ollama有沒有api, 能讓我用python 拿到他的輸出, 然後我在python再做處理?
我按照上述做法完成後導入模型，問json內的內容，給出的答案與匯入的內容都不一致，請問有哪裡需要修正的嗎?
想問一下 ollama 也能像gpt 直接用api傳送json檔案收送問題嗎？
我愛你
請問多顯卡調用要在哪邊設定？
自問自答。ollama 2.0 以後不用設定，預設自動調用系統上所有GPU的CUDA