玩转本地大模型:Ollama + Open WebUI简明使用指南
引言
在过去的几个季度里,大语言模型(LLM)的平民化运动一直在快速发展,从最初的 Meta 发布 Llama 2 到如今,开源社区以不可阻挡之势适配、进化、落地。LLM已经从昂贵的GPU运行转变为可以在大多数消费级计算机上运行推理的应用,通称为本地大模型。
在过去的几个季度里,大语言模型(LLM)的平民化运动一直在快速发展,从最初的 Meta 发布 Llama 2 到如今,开源社区以不可阻挡之势适配、进化、落地。LLM已经从昂贵的GPU运行转变为可以在大多数消费级计算机上运行推理的应用,通称为本地大模型。
对于大模型的使用也1年多了,从最开始的chatgbt3.5/4到现在的国产大模型,开源大模型也越来越强,比如Llama,SD等,今天介绍两个使用了很久的工具ollama和open-webui。
1.docker部署ollama
原文链接:https://blog.csdn.net/shdabai/article/details/131661634
NVIDIA AI Workbench 简化了 GPU 工作站的设置过程,让各种技能水平的开发者都能跨异构平台开展工作、管理相关事宜并进行协作。
为了方便我们的客户寻找外贸方面的工具,我决定用专用的导航类主题建一个网站,可是我又不想用新的域名或者子域名建立,计划直接在wordpress的目录下创建一个tools的文件夹再上传wordpress源文件来搭建一个外贸导航类网站,也就是在一个wordpress网站中再嵌套一个网站。
这个真没啥用,完全不推荐这样操作,对搜索引擎也并不友好,你的多个网站的链接又不一样,要是这么发出去让谷歌收录的话,对你的网站是有一定的影响,我只是突发奇想,做一下操作记录而已。