把三种结果分开
第一种是工作交付:问题库、事实资料、文章与页面是否按约定完成。第二种是平台表现:品牌是否出现、说法是否准确、是否带有可核验的来源。第三种是业务结果:有没有访问、咨询或成交。这三层相关,但不能直接画等号。
先约定一组固定问题
问题应贴近客户决策,并区分不带品牌名的行业问题与带品牌名的事实核验问题。“某类门店如何选设备”用于观察发现机会,“某品牌有哪些产品”用于检查已知品牌信息。两组问题应该分别统计。
保存原始问题,记录平台、日期、模型或功能版本(如可见)、是否联网、会话条件和回答全文。基线与后续测试尽量保持条件一致;有条件变化时,应标注。
选择少而清楚的指标
| 指标 | 建议口径 |
|---|---|
| 品牌提及率 | 提及目标品牌的有效回答数 ÷ 有效回答总数。 |
| 信息准确率 | 已核验且正确的品牌事实项数 ÷ 已核验的品牌事实项总数。 |
| 有效来源覆盖 | 包含可访问、且支持对应品牌事实来源的回答数 ÷ 有效回答总数。 |
| 业务线索 | 单独记录可识别来源的访问和咨询,说明归因方法及无法识别的部分。 |
以上是可采用的项目评估口径,并非行业统一标准。需要提前明确“有效回答”“品牌别名”和“事实项”的判断方式。无品牌信息可核验时,准确率应记录为“不适用”,而不是自动记为满分。
多次采样,保留失败记录
生成式回答可能随时间、会话与检索条件变化。可以对固定问题多次采样,同时报告样本数和不同问题的表现。未提及、错误介绍及缺少来源的回答,也应保留,帮助识别后续工作重点。
验收应该写在项目开始前
妙数云建议把交付清单、质量要求和平台观察口径分别写清楚。小样本表现变好,可以作为继续观察的信号;只有结合稳定记录和实际业务线索,才适合讨论更广泛的效果。结果变化也不能仅凭前后对比就认定全部由某一次优化造成。