本地部署 DeepSeek-R1 大模型!免费开源,媲美OpenAI-o1能力

最近,一家名叫DeepSeek的初创公司经过技术迭代与升级,发布了全新一代大模型,“DeepSeek-V3”。由于这款大模型太过好用,DeepSeek R1 更是直接免费开源,在AI发烧友圈子传播后,传到了海外社交平台、技术论坛,引发了海外网友的连连称赞。

>>展开阅读

AI Couplets - 在线的 AI 对联生成器

在线的 AI 对联生成器「AI Couplets」只需要输入你想要的主题就可以帮你生成一副春联的东西。马上成为春联领域高手!支持调整福字方向、对调上下联的位置,并提供红底黑字或红底黄字的样式。生成的对联图片可以分享或者下载图片到本地。
   20250122

>>展开阅读

比尔·盖茨最新专访:谈论童年、与特朗普的“奇妙会面”和马斯克

退休许久的科技富豪比尔·盖茨本周再度出山“营业”,推销他即将出版的新书,同时也被媒体拉着谈论了他与美国总统特朗普近期的会面,以及他对当红科技富豪马斯克的看法。作为出面公开发声的缘由,盖茨将在2月初发布他的新书《源代码:我的开始》,聚焦于盖茨的童年时光,直到创办微软公司初期的那些故事。

>>展开阅读

如何在本地部署大模型并实现接口访问( Llama3、Qwen、DeepSeek等)

本文详细介绍了如何在本地服务器上部署大模型(如DeepSeek、Llama3、Qwen等),并通过接口实现外部调用。首先,从HuggingFace或魔搭网站下载模型,使用git lfs和screen确保大文件完整下载;接着,使用FastAPI封装模型推理过程,支持多GPU运行并通过CUDA_VISIBLE_DEVICES指定显卡,提供完整的app.py代码实现模型加载和接口响应;然后,通过conda创建Python 3.10环境并安装依赖,使用nohup后台运行服务;最后,展示如何通过Postman或代码调用接口,发送请求并获取模型生成的文本。本文提供了从模型下载、部署到接口调用的完整流程,适合在本地服务器上运行大模型并实现高效的推理服务。

>>展开阅读