模型服务与配置

jev4pg 默认使用 TypeSafe 的 JEV 服务，也支持符合相同类型化问答协议的自定义服务。JEV 服务配置与混合模式中的 LLM 配置相互独立。

默认 JEV 服务#

在服务端配置 TYPESAFE_API_KEY。默认模型为 jev-1.13.0，可以通过 SDD_JEV_MODEL 指定模型。默认接口地址为 https://api.typesafe.ai/v1/systemone。

密钥保存在服务端或受保护的配置文件中。浏览器使用数据库访问令牌，不直接持有模型服务密钥。

自定义 HTTP 服务#

SDD_JEV_TRANSPORT=systemone
SDD_JEV_ENDPOINT=https://your-provider.example/v1/systemone
SDD_JEV_API_KEY=your-provider-key
SDD_JEV_MODEL=your-model
SDD_JEV_REVISION=your-revision

将示例值替换为你的服务配置。自定义地址不会自动继承 TypeSafe 密钥，须使用对应服务的密钥。

接口必须实现 JEV 所需的类型化问题与答案协议。普通聊天接口即使接受 JSON，也不一定兼容。模型和服务版本应保持明确，以便判断保存的证据是否还能复用。

本地推理#

Python 运行时支持通过 python transport 接入本地适配器。Rust 原生执行器使用兼容的 HTTP 接口；若模型只提供 Python 接口，需要先将它封装成 HTTP 服务。

“原生执行”表示执行器位于 PostgreSQL 内，并不意味着模型也在本机。实际数据发送到哪里，由模型接口地址决定。

混合查询#

混合模式另外需要 LLM 服务，用来提出 SQL。可配置 SDD_LLM_TRANSPORT、SDD_LLM_MODEL 和对应凭据。部署示例见混合查询。

本页介绍用法与注意事项。完整参数及详细约定请参阅对应英文文档。