OpenAI“宫斗剧”带来不少启示

英国《经济学人》杂志网站11月22日文章，原题：OpenAI的怪异行为所带来的后果经过云谲波诡的5天后，萨姆·奥特曼似乎终将留在美国人工智能研究公司OpenAI。11月17日，这家开发ChatGPT的公司董事会突然罢免其首席执行官职务。19日，奥特曼似乎要转投该公司最大投资企业微软任职。但这家初创公司的员工奋起反抗，几乎所有员工包括其董事会的最初“同谋者”之一都威胁称，如果不恢复奥特曼的职务，他们就辞职走人。在疯狂召开各种会议的间隙，该公司的高层管理人员在社交媒体上相互发送心形表情符号和深情鼓励的信息。到21日，事态发生了逆转。目前仍不清楚该公司董事会解雇奥特曼的主要动机。但考虑到这些闹剧发生在世界上最热门的初创公司——其估值达到近900亿美元，这一切似乎更令人感觉怪异。在某种程度上，这种怪异现象表明，较新的生成式人工智能技术迅速蹿红，但它也给人们带来更深层次且更令人不安的教训。一是人工智能人才所拥有的强大力量。当员工威胁要辞职时，“没有员工，OpenAI什么都不是”的呼声与口号在社交媒体上广泛传播。自从ChatGPT一年前面世以来，对人工智能人才的需求就一直呈现白热化趋势。随着该公司陷入一片混乱，微软和其他科技公司都准备好张开双臂，欢迎其忿忿不平的员工入职。这给了奥特曼和该公司程序员巨大的谈判筹码，并对董事会施加控制的企图造成致命一击。这段经历还揭示OpenAI非同寻常的公司架构。该公司成立于2015年，最初是一个非营利性的研究实验室，旨在安全地开发通用人工智能（AGI），这种智能可以在所有类型的思维上与人类并驾齐驱甚至超过人类。但该实验室很快发现，如果可能的话，这将需要大量的高成本处理能力。为支付这些费用，该实验室成立一家以营利为目的的子公司来销售人工智能工具，例如ChatGPT。微软投资130亿美元以换取49%的股权。从纸面上看，OpenAI的权力仍然掌握在非营利组织的董事会手中，其目标是确保通用人工智能惠及每个人，因此该机构的董事会并非对股东而是对“全人类”负责。但随着员工提出抗议要求奥特曼复职，以及微软公司很有可能在追求利润最大化的情况下成立一家竞争对手公司，这种幻想已经破灭。这给人们带来的主要教训是：仅依靠公司架构来监管技术是一种蠢行。随着生成式人工智能的潜力跃然纸上，OpenAI架构中的矛盾也暴露无遗。一家机构无法在推进人工智能、吸引人才及投资、评估人工智能的威胁和保护人类安全之间取得最佳平衡。在硅谷，利益冲突并不罕见。即使OpenAI的员工像他们自认为的那样聪明，这项任务也会超出其能力范围。即使那些董事由衷地将人类利益放在心上，他们也有可能看到这样一幕：投资者和员工涌向另一家不顾一切推进技术发展的公司。目前还不完全清楚，少数几名普通公民有何资格代表地球上其他80亿居民的利益。作为奥特曼复职行动的一部分，OpenAI正在任命一个新的董事会。董事将包括著名经济学家拉里·萨默斯（美国前财长——编者注）；来自微软的一位高管以及奥特曼本人也有可能会加入。然而，仅进行人事变动还不够，还应该彻底改革该公司的架构。通过起草有关法规，美国联邦政府可以为像OpenAI这样的公司划定界线，要求它们只能在有关范围内运营。而且，正如过去一个月的一系列活动所表明的那样，政要们正在密切关注人工智能。这也是好事。人工智能技术确实太重要，以至于不能任由企业的“密谋者们”为所欲为。（王会聪译）▲ 原文链接：//shuzhiren.com/post/59221.html