乘风破浪




以前blog的bgm,记得那时还做了一个网上的日记本,不少的网友从此找到了一个能在网上抒发情感、互相交流的地方,也因为这首歌认识了一些知音人...20年了,这首歌依然好听,那感觉依然熟悉...感谢陪同一路成长,一路走来的你和你们...

7.18
介绍如何利用Ollama工具,实现Llama 3模型的本地部署与应用,以及通过Open WebUI进行模型交互的方法。
在过去的几个季度里,大语言模型(LLM)的平民化运动一直在快速发展,从最初的 Meta 发布 Llama 2 到如今,开源社区以不可阻挡之势适配、进化、落地。LLM已经从昂贵的GPU运行转变为可以在大多数消费级计算机上运行推理的应用,通称为本地大模型。