北京时间 9 月 10 日,OpenAI 宣布保罗·克里斯蒂亚诺(Paul Christiano)加入公司基金会董事会。这位 AI 安全研究者此前曾在 OpenAI 负责对齐研究,随后进入美国联邦政府,担任国家标准与技术研究院(NIST)下属 AI 标准与创新中心的安全负责人。这次回归,他除了基金会董事身份外,还会加入董事会安全与保障委员会。
官宣当天,克里斯蒂亚诺就在 X 上亮明了态度。他说,失去对 AI 系统控制的风险“如今已十分严峻”,需要投入更多工作让 AI 与人类利益保持一致。按他的判断,如果未能在更强有力的对齐机制下构建超级智能,人类将“永久性地失去对它的控制”;一旦走到那一步,“大多数人可能会丧命”。
这番表态最直接的一点,是把风险的时间坐标拉近了。克里斯蒂亚诺给出的理由是,AI 能力的快速加速可能带来灾难性且不可逆转的失控。在如何防止失控上,他的处方并不复杂:在国内和国际层面开展协调,确保全球步调一致,把风险压到可接受的水平。
从履历看,克里斯蒂亚诺属于少有的“两边都待过”的人:既做过 OpenAI 内部的对齐研究,又在政府标准机构负责过 AI 安全。如今他以董事会成员身份回到 OpenAI,还兼任安全与保障委员会委员,这本身可以读作一种信号:在掌握技术话语权的公司里,来自监管体系的对齐视角正在获得更靠前的位置。至于他的警告会被董事会听进去多少,得看后续 OpenAI 如何在安全与商业化之间取舍。



