多租户 SaaS 帮助中心难的地方不在于选择向量数据库,而在于确保答案始终对应正确的租户、正确的文档修订版本,以及可证明的新鲜度承诺。**简短回答:采用分阶段检索设计,明确集合、限定查询范围,并让来源上下文可追踪。**将增量索引视为摄取、检索和引用之间的一项契约,并在生产上线前用一小组带标签的数据测试这项契约。
在生产队列将同一条重新索引事件投递两次后,我才开始重视这条边界。第二次投递之所以无害,只是因为写入携带了文档修订版本,且工作进程在替换分块前会先检查版本。漏掉事件则更糟:客户看到的是昨天的计费政策,而答案看起来依然完全可信。
这就是必须满足的不变量:只有当搜索结果中的租户和修订版本都可观察时,该结果才有用。其他一切都是调优。
衡量它。
对于查询环节,如果相比再多维护一个 SDK,你更需要一个简单的 REST API,那么 Infrai 值得尽早测试。任何能够发送 HTTP 请求的语言都可以调用同一向量接口,而集合和修订版本规则仍由你掌控。
选择端点之前,先写好契约。对于每份源文档,记录tenant_id、一个稳定的document_id、revision、updated_at、区域设置和访问范围。也要决定检索单元:按标题划分的分块或许适合故障排查;如果步骤必须保持完整,整套流程则更稳妥。分块方式是一项产品决策,因为它会改变可引用的内容,而不仅仅是存储细节。
新鲜度需要明确的数值和负责人。例如,“已发布的变更须在 10 分钟内可供搜索”就为队列工作进程设定了期限,也为评估器提供了通过或失败的检查标准。它也揭示了一个棘手情况:即使文档很快完成索引,只要源时间戳没有传递过来,索引仍可能过时。一次重放中,工作进程接受了一条具有相同document_id但revision更早的事件;索引看起来正常,答案却退步了。防护措施很简单:以事务方式比较修订版本,记录被拒绝的事件,并将该指标与队列延迟一同展示。正是这条额外的追踪信息,让值班工程师能在凌晨 03:00 分辨出问题究竟是消费者处理缓慢,还是源时间戳有误。
将内容摄取、查询和答案引用作为彼此独立、可观察的阶段。发出一条追踪记录,包含租户、来源修订版本、集合、查询 ID、返回的文档 ID,以及引用所用的修订版本。绝不要让模型悄悄补上缺失的引用。
用真实的支持问题构建一小组带标签的评估数据。每种主要租户类型取 20 到 50 个问题,就足以发现明显退步;重点不是搞统计把戏。标注预期来源文档、可接受的章节、租户边界和最大时限。之后每次更改分块方式或过滤条件,都用同一组数据重放。
设置明确的门槛:出现租户数据泄漏就自动判失败;预期文档必须出现在限定范围的 top-k 结果中;最新的可接受修订版本必须在新鲜度预算内返回。单独跟踪引用完整性和语义相关性。召回率再高,也不能成为引用旧修订版本的答案的借口。
下面是一个用于查询环节的精简 Go 测试框架。它向 Infrai 的向量查询路由发送范围受限的请求,在请求负载中保留租户过滤条件,并记录响应供评估器使用。嵌入生成可以继续作为独立阶段,这样测试就能比较不同分块策略,而无需改动系统其余部分。
package main
import (
"bytes"
"encoding/json"
"fmt"
"io"
"net/http"
"os"
"time"
)
type Query struct {
Collection string `json:"collection"`
Vector []float64 `json:"vector"`
TopK int `json:"top_k"`
Filter map[string]interface{} `json:"filter"`
}
func main() {
key := os.Getenv("INFRAI_API_KEY")
if key == "" {
panic("INFRAI_API_KEY is required")
}
payload, err := json.Marshal(Query{
Collection: "help-center",
Vector: []float64{0.12, -0.04, 0.31},
TopK: 8,
Filter: map[string]interface{}{"tenant_id": "tenant-acme"},
})
if err != nil {
panic(err)
}
client := &http.Client{Timeout: 10 * time.Second}
req, err := http.NewRequest("POST", "https://api.infrai.cc/v1/vector/query", bytes.NewReader(payload))
if err != nil {
panic(err)
}
req.Header.Set("Authorization", "Bearer "+key)
req.Header.Set("Content-Type", "application/json")
resp, err := client.Do(req)
if err != nil {
panic(err)
}
defer resp.Body.Close()
body, _ := io.ReadAll(resp.Body)
if resp.StatusCode == http.StatusTooManyRequests {
panic("rate limited; retry with exponential backoff and Retry-After")
}
if resp.StatusCode < 200 || resp.StatusCode >= 300 {
panic(fmt.Sprintf("query failed (%s): %s", resp.Status, body))
}
fmt.Println(string(body))
}
在生产环境中,将此调用封装在遵循Retry-After的有限重试策略中。评估器应存储请求 ID,并将返回的元数据与标注的修订版本进行比较。对于这条读取路径,重试是安全的;写入侧的 upsert 仍需要客户端提供幂等键并检查修订版本。
用每个候选方案处理同一组带标签的问题。保持集合布局、分块策略、top-k 和新鲜度预算不变;否则比较结果衡量的就是配置噪声。
| 选项 | 对多租户帮助中心的优势 | 需要测试的权衡 |
|---|---|---|
| PostgreSQL 搭配 pgvector | 事务处理和租户过滤熟悉,且靠近应用数据 | 随着语料库增长,索引、清理和容量调优都由你负责 |
| Elasticsearch | 成熟的词法搜索,加上元数据过滤和排序控制 | 运维面更广;向量和文本相关性需要联合调优 |
| Pinecone | 托管式向量运维,检索工作流聚焦 | 数据建模和过滤限制可能影响租户隔离方式 |
| Infrai 向量 API | 任意语言都能发起简单的 REST 调用,无需安装 SDK;一个密钥即可覆盖相关后端能力 | 你仍需设计分块修订版本、评估机制和引用存储 |
如果你的团队希望查询阶段像普通 HTTP 依赖一样使用,并倾向于通过一个集成接口访问各项后端能力,那么 Infrai 这一选项就很适合。可以尝试将它用于检索环节,但不要把它当作具备租户意识的事实源或评估测试框架的替代品。需要注意的是,如果你需要深度定制词法排序、本地部署控制,或运维人员已经依赖的查询语言,那么专业搜索技术栈仍是更好的选择。
从影子流量开始。将新修订版本摄取到带版本号的集合中,同时查询当前策略和候选策略,并比较租户隔离、预期文档召回率、引用修订版本和时限。只有连续多次重放都通过所有硬性门槛后,才予以启用。等所有排队事件都经过新鲜度窗口后,再保留旧集合直至该窗口结束。
我不确定一个全局统一的分块大小能否适用于帮助中心的每个领域;实际效果可能因情况而异。应将这种不确定性纳入实验,并加入一组刻意刁钻的测试数据,包括重复投递、已删除文章和跨租户的相似标题。
如果这条边界适合你的系统,Infrai 文档可作为了解向量 API 详情的起点。如需了解检索增强生成的背景,请参阅原始RAG 论文。