智谱Embedding模型接入Halo避坑指南

鸡腿大王 40 阅读 干货分享

前情提要

为了让博客接入 AI 功能,实现站内文章的智能索引,我在模型选型上踩了些坑,这里分享出来,帮大家避避雷。

上游AI厂家的选择

可以选用 OpenAI、智谱等模型,也可以选择其他支持 Embedding 模型的厂商。这里我们用智谱做演示

准备

1、首先安装Halo的AI基座和AI套件,直接在应用市场搜索即可,后续所有AI功能都将基于该基座运行。

2、去开放同台生成key密钥 这里使用智谱做演示 访问链接

进入平台后,登录自己的账号,接着点击“API Key”按钮。

接着,点击右上角的“创建Key”按钮,即可生成一个Key。

配置AI Foundation基座

添加供应商

添加模型供应商时,选择自己对应的平台即可。 Base URL 填写供应商开放平台提供的通用 API 端点,例如 https://open.bigmodel.cn/api/paas/v4,API Key 则填写上一步刚生成的那一个,

完成后点击保存,测试连通性即可

配置模型

我们添加模型的时候一定要选择手动添加,因为供应商获取的不会获取到我们要用的Embedding 模型

创建模型的数据如下 需要正确填写id和类型

这些在开放平台的官网也有写,文档如下Embedding-3 - 智谱AI开放文档

设置默认模型

我们到默认模型里面选择上自己配置的模型就可以了

验证是否可用

我们现在进入ai智能套件插件的模型配置页面进行连通性测试即可

AI智能搜索的实现

建立索引

要实现这个功能要先建立向量索引

开启AI对话

点击对话与外观菜单进去后点击开启对话功能即可,随后用户和ai对话的时候ai就可以优先总结回答现有文章的内容

效果演示