Google DeepMind新论文发现AI助手未经请求行动引发不同反应
Google DeepMind 发表论文,研究 AI 助手未经请求自行行动对员工的影响。论文称,该智能体在一家大型科技公司的 20 多个团队中运行了 5 个月,研究者访谈了 17 位用户。它曾把过期文档当作最新内容、在 16 个 bug 上标记了一位 VP、在作者准备好之前分享海报草稿,还误读了讽刺语气。部分用户称其为救星,另一些人则感到被监视,并把敏感讨论转移到没有智能体的聊天中;主动选择该智能体的团队会原谅它的早期错误,而觉得它是被强加的人则不会。作者建议在部署智能体时取得团队同意、分离权限,并提供便捷的操作撤销方式。
匹配字段标题