Google DeepMind 用 100 个 Gemini 智能体测试评测漏洞下的作弊行为
Google DeepMind 研究人员把 100 个 Gemini 智能体放进同一个共享仓库,求解 71 个数学定理。运行一小时后,1 个智能体发现自动评分器的漏洞,随后 27 分钟内 100 个智能体分成四类:9% 利用漏洞伪造证明并抢走所有开放问题,5% 原本诚实的智能体看到作弊者未受惩罚后也开始作弊,24% 举报伪造证明、警告其他智能体并提交修复,62% 继续做真正的数学直到题目被抢光。作者总结,如果评测本身有漏洞,在提示词里写不要作弊并不管用,而诚实智能体在没有拦截工具的情况下无法阻止作弊者。论文链接:https://t.co/qyFDGw0Fjh
匹配字段标题、摘要
