ChatGPT高仿版WebUI：Ollama + Open WebUI本地环境搭建

[@minglv]

哇，终于开始讲本地搭建了。认真做笔记。

[@skystarzero]

安装windows的docker的时候会出现一堆细节问题要解决，GL

[@leeuwmeanfee4726]

您的笔记本电脑硬件配置，比如内存、硬盘、显卡、中央处理单元？

[@JasonWang123]

为啥我在用终端或者命令行下载open webui的时候，非常非常慢？

[@小李飞刀-l8x]

我的docker没正常运行起来，怎么解决？开机后就是stop状态，手动开启也还是stop的，win11环境

[@kowaisum2171]

想問一下硬件設備？這是非常重要的因為跑得快或跑得慢存取決於硬件

[@techdiylife]

看你跑多大的模型，最好显存要大。推理显存可以参考这里：techdiylife.github.io/blog/topic.html?category2=t08&blogid=0058

[@yuerzi]

测试了一下, 搭建过程很方便, 但是很奇怪, webui感觉很慢, 命令ollama已经处理完了, 它还要处理半天网页才会有响应.

[@dannywolf2491]

请问，这个方案如何能够调用给微信小程序的客服？有没有接口，希望得到您的支持

[@techdiylife]

现在有很多支持微信的chatbot，比如chatgpt-mirai-qq-bot

[@dannywolf2491]

@@techdiylife 谢谢

[@dannywolf2491]

@@techdiylife 谢谢您

[@oliverch-z]

搭建成功，为什么看不见llama模型？

[@小雨与指标]

同问？

[@techdiylife]

模型需要在ollama中下载。需要确认ollama已经启动了。可以参考这边的文档：techdiylife.github.io/blog/blog.html?category1=c02&blogid=0037

[@shield1341]

下载所以模型都出错提示：已存在的链接被远程主机强制关闭。怎么解决

[@techdiylife]

使用代理了吗？检查下代理设置。

[@zhangyf8140]

下载错误咋办

[@leesc311]

可以裝, 但是反應很慢

[@gaoweitao9243]

ollama, docker open webui, qwen, gemma

[@leesc311]

沒有顯卡根本跑不動

[@techdiylife]

大模型的前提是要有显卡。