JeecgBoot 对接本地化的大模型 DeepSeek-R1

第一步:下载安装 Ollama

Ollama:可以理解为是 docker,快速安装各种大模型,下载后一键安装

下载地址: https://ollama.com

第二步:执行命令安装 deepseek-r1

ollama run deepseek-r1:14b

这里你可以搜索自己想安装的模型,获取不同的命令

第三步:输入问题 AI 回答

安装完成后,提示输入信息

好了,就这么简单,搭建私服 AI 完成。

查看本地安装了哪些 AI 大模型命令

ollama list

第四步:如何对接 jeecgboot

修改 jeecgboot 的 yml 文件,改成如下配置,这样就对接了本地私有化的 AI 模型。

jeecg:
  # AI集成
  ai-chat:
    enabled: true
    model: deepseek-r1:14b
    apiKey: ollama
    apiHost: http://localhost:11434
    timeout: 60

提问,发现回复多了个 <think> 标签,说明对接成功 [图片上传失败...(image-1e935d-1739425295583)]

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容