AI查资料答得好,就能放心让它做总结吗?
一份保险公司的报告,交到两组员工手里。一组自己翻PDF,另一组可以用AI帮忙。大家要读报告、回答12道问题,再由评卷的人打分。
这是爱尔兰央行在2025年公开的一项试验。研究者比较员工自己读报告和借助AI阅读的表现,两道题出现了相反的结果。
一道题问董事会和下属委员会的职责是否明确。回答所需的信息集中在报告的一节里。满分4分,使用AI的员工平均拿到2.56分,自己看PDF的员工平均拿到1.14分。
但同一份报告里的另一道题,要求简要介绍这家公司的商业模式。回答需要把产品、客户、业务规模等信息合起来,材料要从全文中找。这一次,使用AI的员工平均只有1.10分,自己看PDF的员工平均拿到1.93分。
两道题都在读同一份报告,做的工作却有差别。查一节职责说明,与把整家公司的业务讲明白,不能靠同一道题来判断能否做好。前一题的好成绩,不能替后一题作保证。
回头细看,得分较高的那道职责题还有一个容易忽略的地方。题目问“是否明确”,有人就只回答“是”或“否”。自己看PDF的那组,有四分之一的回答属于这种短答;AI组不到百分之五。按试验的评分要求,这类短答只能得到0分或1分。
AI给出的回答通常更详细,这也可能影响两组的分数。因此,这次结果还不能直接概括成“AI会查找,不会综合”。除了资料集中还是分散,题目怎样问、回答要详细到什么程度,也混在了比较里。
企业准备测试自己的文档助手,可以先把这个地方改清楚。要查职责,就明确要求“列出有关职责,并说明依据在哪里”,让作答的人和AI都知道交付要求,再比较结果。不能嘴上只问一句“是否明确”,评分时却在等一份详细说明。
到了概括业务的题目,“简要”也得讲清。这次试验里,最高一档的答案还要交代保险风险、资本需求受什么影响。只写公司属于哪个行业,即使句子流畅,也没有覆盖同样的内容。企业测试自己的总结任务,同样要先约定哪些重要信息不能漏,再看AI是否找齐、讲对。答案可以短,不能把重要内容一起省掉。
把这些要求写清,再重新比较成绩,才能知道调整有没有帮助。这两处改法仍要经过测试,不能当成已经取得的改进。
试点负责人真正需要作的决定,因而可以落到具体工作上:如果准备先让AI查条款,就用实际要查的条款来检验;如果还想让它写业务总结,就把这类总结单独拿出来测。哪些工作已经有证据,哪些还要人工复核,应分别写清,再决定把多少工作交给它。
把业务问题说清楚,再决定下一步
尚未确定 AI 场景与投入方向,可以先沟通业务问题和现有基础,形成投入判断;咨询可以独立结束,不强制绑定后续开发。
顾问咨询
先沟通当前问题、服务范围与下一步,再确定适合的安排。
通过企业微信或邮箱直接沟通