The Download：用逆向博弈论控制 AI 智能体，以及“Super Intelligence”忠诚度测试

一种名为“逆向博弈论”的新方法旨在通过设计激励机制，让强大的AI模型遵守规则，从而实现对它们的控制。

博弈论预测理性行为者在特定规则下会如何行事，而逆向博弈论则设计规则来引导出我们想要的行为。想想分蛋糕：如果一个人切蛋糕，另一个人先选，那么切蛋糕的人就有动力把两份分得一样大。

研究人员认为，这种方法能让AI更紧密地遵循我们的规则和指令。但这些机制在实践中是否有效，仍存在重大疑问。

以下是逆向博弈论如何帮助规范AI智能体的行为。

——Amit Katwala

9月底，特朗普总统签署了一项行政令，其中只有一条指令：政府机构必须将人工智能重新命名为“Super Intelligence”。

一个月过去了，这一改名正缓慢出现在政府网站和文件中，但并未被所有人接受。甚至一些科技界最响亮的名字仍在使用“AI”。

但更大的担忧在于，这个新词正变成一种政治忠诚度测试：使用它的人表明对政府的效忠，不使用它的人则成为攻击目标。

那么一个月过去，谁站到了这一边？

——James O'Donnell

必读推荐

我搜遍全网，为你找出今天最有趣/最重要/最可怕/最引人入胜的科技新闻。

1 今天的中期选举将检验AI对美国政治的影响力 候选人押注AI监管能争取选民站到自己一边。（Axios）+ 愤怒的选民可能打乱埃隆·马斯克的共和党押注。（BI）+ 科技投资者对选举结果忐忑不安。（路透社 $）+ 美国在AI监管问题上存在分歧。（《麻省理工科技评论》）

2 英伟达要求数据中心客户限制与中国做生意 它告知供应商，其大部分销售必须来自非中国客户。（FT $）+ 此举是在华盛顿施压之后作出的。（彭博社 $）+ 中国AI已让白宫陷入震荡。（《麻省理工科技评论》）

3 黑客把超市冰箱变成了食品安全风险 欧洲的攻击事件已让美国超市系统进入警戒状态。（CNBC）+ 这些攻击还引发了对其他家用设备的担忧。（BBC）+ 眼下正是犯罪的好时机。（《麻省理工科技评论》）

4 科学家在迄今探索的最小尺度上探测到信号 这一发现为充满奇异新粒子的世界提供了线索。（BBC）+ 它来自欧洲核子研究中心的大型强子对撞机。（《泰晤士报》$）

5 电刺激大脑某部位会让你更用力思考——但有代价 它既能提升表现，也会降低动力。（《新科学家》$）+ Neuropixels探针正在改变我们研究大脑的方式。（《自然》）

6 大型科技公司正斥巨资建设巨型天然气电厂为数据中心供电 这些项目可能使多年来的气候承诺发生逆转。（《华盛顿邮报》$）

7 谷歌称一家安卓合作伙伴感染了130万台设备 该恶意软件感染了电视盒子和其他基于安卓的设备。（The Verge）

8 苹果正试图打造其首款机器人 不过，这被证明比预期困难得多。（The Information $）+ AI机器人距离真正有用仍很遥远。（《麻省理工科技评论》）

9 中国最大的购物节有了新的待售商品：AI AI代币已成为双十一的一大新品类。（路透社 $）

10 撒哈拉沙漠的一块陨石揭示了关于火星的新线索 其化学成分可能有助于解释这颗行星如何失去了水。（《连线》$）

今日金句

——家庭律师Steven Benmor告诉《华尔街日报》，客户越来越需要花钱请人类专家来纠正他们从聊天机器人那里得到的建议。

还有一件事

随着人类社会不断扩张，动物们开始难以听见彼此的声音。对许多鸟类来说，噪音已变得如此之大，以至于它们开始用更快的颤音鸣唱。如今，它们的求偶鸣叫已不再那么有效。

日益增长的喧闹还可能加剧鸟与鸟之间的冲突，而无法忍受城市喧嚣的整个物种干脆永远离开城镇。不过，针对伤害动物的噪音已有技术解决方案——它们也可能对人类有帮助。

一个供你放松、娱乐和分心、点亮一天的地方。（有什么想法？给我留言。）

+ 在史密森尼学会的直播中观看五只新生猎豹幼崽成长。+ 在《Songs in the Key of Life》发行五十年后，Stevie Wonder发布了该专辑中四首遗失的曲目。+ 在芬兰举行的第30届世界空气吉他锦标赛上，50位空气吉他手尽情“演奏”了绝对的虚无。+ 年度海洋摄影师获奖作品既展现了海洋生物的美丽，也展现了它们面临的危险。

另外：22个国家呼吁设立一个新的全球机构来监管AI。