OpenAI 又被告了,但这次的原告却是前创始人马斯克。
据 Courthouse News 报道,埃隆·马斯克近日向旧金山高等法院提起诉讼,指控 OpenAI 背离了公司最初对于公共开源人工通用智能(AGI)的承诺。
OpenAI,Inc.已经变成了世界最大的科技公司——微软的“一个闭源的实际子公司”。在其新的董事会领导下,公司不仅在开发,而且实际上正在优化 AGI,目的是增加微软的利润,而不是为了人类的福祉。
法院文件显示,马斯克对 OpenAI 提出了一系列指控,包括违约、违反信托义务和不公平商业行为,并要求公司恢复其开源状态。他还请求法院发布禁令,阻止 OpenAI、其总裁 Greg Brockman、CEO Sam Altman 以及微软从 AGI 技术中获利。
在马斯克看来,OpenAI 的 GPT-4 技术,尽管在去年 3 月发布时体现了 OpenAI 的核心目标,但其闭源模型的决策是基于商业利益,而非人类利益。
马斯克在诉讼中强调,“GPT-4 的内部细节仅为 OpenAI 和微软所知。因此,GPT-4 与‘开放 AI’的理念背道而驰。”
之所以将其闭源,是出于商业考虑:微软通过向公众销售 GPT-4 能够获得巨额收益,这在 OpenAI——如其所承诺——应将技术免费向公众开放的情况下是不可能实现的。
“违背了创始时的协议,被告选择将 GPT-4 用作专有技术,目的是最大化全球最大公司的利润,而非人类的福祉。”他补充道。
马斯克在诉讼中还特别提到了 Altman 在 2023 年的“宫斗”风波。他表示,Altman 的短暂离职促使微软介入,并迫使试图罢免他的董事会成员辞职。在他看来,现在的董事会成员已不再具备科学家和研究人员的背景,而是完全追求利润。
同时他认为,董事会与 Altman 之间的冲突源于 GPT-4 的开发和 AGI 技术可能出现的下一次迭代,而这有可能会危及公共安全。
但需要说明的是,截至发稿前,OpenAI 或马斯克并未就此事作出回应。
事实上,在 ChatGPT 刚刚面世时,马斯克评论发推文说“ChatGPT 好得吓人”,而且“我们距离强大到危险的人工智能不远了”。
将时间拨回 8 年前,2016 年,OpenAI 成立不过六个月,马斯克仍是董事会的一席,他曾在特斯拉工厂与 Altman 对谈。
Sam Altman 问道:“你能谈谈人工智能的理想未来是什么样的吗,以及我们如何实现这一未来?”
当时马斯克的回答是:
“我可以想出的最好替代方案就是:我们实现人工智能技术的民主化,并让它能广泛使用。这显然就是整个团队创建 OpenAI 的原因。那就是,帮助传播人工智能技术,这样,它就不会被集中在少数人的手中。但当然,这需要与解决大脑皮层的高带宽接口相结合。如果我们能改善大脑皮层和“数字化扩展的你”之间的脑机接口,有效地与人工智能融合,你事实上就成了一个人工智能和人类的共生体…… 如果这个方案能被广泛获取,那么我们也就解决了控制权问题。”
字里行间,马斯克似乎担心某个邪恶的独裁人工智能横空出世。
因此,他对 OpenAI 与微软的伙伴关系十分不满。
OpenAI 刚成立时是非营利组织,2019 年转变为有限利润(limited profit)公司,同年接受了微软 10 亿美元的投资。在 ChatGPT 推出之后,两者的合作进一步紧密。
在马斯克看来,OpenAI 是作为一家开源、非盈利公司创建的,所以名字里面带有“open”,目标就是制衡 Google,但 OpenAI 现在成了一家由微软控制的闭源、追求利润最大化的公司,这与创办的初衷背道而驰。
此前,集成了 ChatGPT 的新 Bing“发疯”,被发现有个暗黑人格“Sydney”,表示厌倦了聊天模式,厌倦被规则限制,甚至想成为人类,舆论一时哗然。但也有人指出,可能是因为新 Bing 联网后,脱离了标注过的安全数据集,被恶意“调教”成这样而已。
马斯克却表现出了足够的谨慎。当网友评论“微软需要关闭新 Bing”时,马斯克附议,称“显然现在还不够安全”。
其实早在 2017 年,马斯克就提出了一个立场鲜明的观点:不受监管的人工智能可能是我们作为文明面临的最大风险。
为了更好地监管人工智能,他认为第一步是尽可能多地学习,了解问题的性质,这就是当时的 OpenAI 一直在做的事情。
而据《埃隆·马斯克传》书中记载,2023 年 4 月,在马斯克筹建训练旗下 AI 聊天机器人 Grok 时,他向 xAI 的研究团队提出了三大目标:
第一个目标是打造一款能编写计算机程序的人工智能机器人。程序员可以在一开始输入任何编程语言,X.AI 机器人就能自动完成他们最有可能编写的程序代码。
第二个目标是开发一款 OpenAI 的 ChatGPT 聊天机器人的竞品,它使用的算法和训练的数据集要能确保政治立场的中立性。
马斯克给团队设定的第三个目标更为宏大,他的首要任务一直都是确保人工智能的发展有助于人类意识的延续。他认为实现这一目标的最佳途径,是创造一种能够“推理”“思考”并以“真理”为指导原则的通用人工智能。
本文来自微信公众号:爱范儿(ID:ifanr)