
OpenAI权斗打到台前:前CTO指控奥特曼,安全审批与营收目标引争议!
前CTO当庭翻脸,OpenAI权斗彻底打到台前。她当庭指控,曾在模型安全审批上被误导,还称奥特曼长期制造高管间的“混乱与不信任”。
技术核心的沉默与发声
Murati曾是OpenAI的技术核心,GPT - 4的发布、ChatGPT的爆红,她都处于关键位置。2024年她突然离职,外界猜测纷纷,Murati始终沉默,直到这次庭审。法庭上的Murati彻底打破沉默,她的证词直指OpenAI在推进新模型时,内部安全审批流程的运作问题。
奥特曼的管理手法
Murati描述了奥特曼的管理手法:关键信息选择性披露,不同高管收到不同版本的事实,安全审批的节点被模糊化处理。结果是,没人能拼出完整画面,每个人都在信息碎片里做判断,而最终判断权永远回到奥特曼手里。
庭审中的关键证据
在马斯克起诉奥特曼的庭审中,法庭播放了Murati的视频取证录像,她证实了上述故事的真实性。事情起因是OpenAI准备发布新模型,奥特曼告诉Murati,OpenAI的法务部门(当时由Jason Kwon负责)说不需要让OpenAI的安全委员会审查这个模型。取证时律师问她,奥特曼这么说时是否在说真话,Murati回答“不是”,她还解释说“我后来确认过,Jason说的话和奥特曼说的话根本不是一回事”,她把这种情况称为奥特曼和Kwon之间“对齐错误”(Kwon现在已是OpenAI的首席战略官)。
高管团队的“有毒文化”
在高管团队中,奥特曼长期制造“混乱与不信任”,这是Murati在法庭上的原话。Tasha McCauley是当年罢免奥特曼的OpenAI董事会成员之一,她提交的庭外证词与此前OpenAI前董事会成员Helen Toner的证词形成呼应,两人都谈到对奥特曼的不信任,以及他缔造的“有毒文化”。Tasha McCauley表示,奥特曼制造了“混乱”和“危机”,内部“撒谎成风、欺骗成性”,且这种风气渗透到了OpenAI其他领导层成员身上,奥特曼的不诚实行为每隔几个月就会引发一次“危机事件”。她还说曾收到时任OpenAI董事会成员伊利亚·苏茨克维尔发来的一封邮件,里面列举了萨姆的种种行为和谎言所引发的各类混乱事件。
营收目标与慈善使命的冲突
2022年,ChatGPT发布之前,微软首席执行官萨提亚·纳德拉和首席技术官凯文·斯科特告诉萨姆·奥特曼,OpenAI必须实现1亿美元的营收,才有资格获得微软下一笔100亿美元的投资。奥特曼接受了这一要求,将其设为OpenAI的核心目标,并在内部向团队施压。穆拉蒂作证称,她不反对追求营收,反对的是缺乏与使命一致的战略。
问:你这里提到的1亿美元营收目标是什么?穆拉蒂:那是公司要努力达成的营收目标。问:是谁告诉你这个目标的?穆拉蒂:萨姆·奥特曼。问:他有没有说这个目标是微软设定的?穆拉蒂:他说了这个目标。问:文件中写道“凯文和萨提亚表示,这是筹集下一笔100亿美元资金所需的条件。你是从哪里得知这一点的?穆拉蒂:萨姆·奥特曼。问:奥特曼先生是否告诉你,达成这一目标对于获得微软的持续投资很重要?穆拉蒂:是的。问:据你所知,OpenAI是否采取了措施来实现这一目标?穆拉蒂:是的。问:采取了哪些措施?穆拉蒂:我们扩大了团队,并试图围绕它建立一个企业及商业体系。
ChatGPT于2022年11月30日发布,奥特曼作为一家慈善信托的首席执行官,向自己的管理董事会隐瞒了此次发布,这家非营利组织的董事会是通过推特截图才得知此事的。八周后,微软宣布了那笔100亿美元的投资,有网友认为,驱动OpenAI目标设定的是微软的商业压力,而非慈善使命,这就是这家慈善信托被“俘获”的过程,多年前,马斯克就断言OpenAI不Open,已背弃初心。
安全审查机制的漏洞
OpenAI的部署安全委员会(DSB,Deployment Safety Board)本来是一个正式的审查机构,负责决定新的AI模型能不能对外发布。Helen Toner在宣誓状态下作证说,DSB有三名来自微软的成员,三名来自OpenAI的成员,需要多数票才能通过,如果出现平票,OpenAI一方的成员可以打破僵局,奥特曼是OpenAI那三人中的一员。总共6名成员,需要4票才能批准部署,3名微软成员加上奥特曼就有4票,部署通过,哪怕OpenAI另外两名负责安全的成员都投反对票也没用,奥特曼就是OpenAI三人组里的关键摇摆票,这个机制让微软和奥特曼一方对OpenAI内部的安全异议者构成了天然多数。即便如此,奥特曼还选择直接撒谎来绕开审查流程,他告诉CTO Mira Murati:GPT - 4 Turbo不需要走DSB流程,而Murati在宣誓状态下确认这不是事实。OpenAI章程里写的是对全人类负责,但DSB从结构设计上是为了让商业部署顺利通过,并非把控安全,这是对慈善使命的结构性违约。
总裁的装傻与矛盾
搞笑的是,OpenAI总裁Greg Brockman在法庭一度表示不知为何被起诉。问:这场诉讼是不是让你们没法发布新章程?Brockman:老实说,我一直不太清楚自己到底因为什么被告。问:你不清楚?你读过起诉书吗?Brockman:读得很仔细。问:他们请了很有名的律师、很有名的律所——他们从来没跟你解释过你为什么被告?Brockman:我明白他们的主张。我也看到这些主张随时间在变。不过……问:那你是明白的?Brockman:我坚持我的证词。问:我记得你刚才说你不明白自己为什么被告。Brockman:我是这么说的,没错。问:你坚持这个说法? Brockman:是的。
接着,马斯克的律师直接说出了诉讼请求:问:你被起诉,是因为违反了你对这家慈善机构的受托义务——也就是要遵守你们的使命。这个使命你们直到现在还挂在网站上,向全世界宣告。明白吗?Brockman:哦,我不同意这个说法。问:这不是你能不能同意的问题。我在问你。你说你不知道自己为什么被告,那我现在告诉你:你被告,是因为违反了OpenAI的慈善使命——这个使命就是以开源的方式开发安全的人工智能,造福全人类,任何个人都不得从中牟利。明白这就是你被告的原因吗?Brockman:我们并没有那样做。
Brockman整场审判都坐在法庭里,他花了五个小时,把“不当得利”“违反受托义务”“违反慈善信托”每一项指控的每一个要件都亲口承认了,然后当被问到自己为什么被告时,却在陪审团面前装傻,因为答案正是他刚刚招认的全部事实,法官看的是人的举止,矛盾本身就是证据。
安全承诺的放弃
Rosie Campbell曾是OpenAI的AI安全研究员,她在证词中表示,2021年至2024年在职期间,亲眼看着这家机构放弃对安全的承诺。Campbell作证称,刚加入OpenAI时,公司有两支专门负责长期AI安全的团队,一支负责确保AI与人类价值观保持一致,一支则是她所在的团队,任务是为超人类人工智能的到来做好世界层面的准备。但随着时间推移,OpenAI变得越来越以产品为中心,最终这两支长期AI安全团队都被解散了。Campbell表示,她团队里大约有一半的人选择离开OpenAI,而非内部转岗。她曾签署呼吁让奥特曼复职的联名信,她告诉陪审团,这么做是担心一旦奥特曼离开,OpenAI的员工最终会流向微软,而在她看来,微软对AI安全的投入更靠不住。
非营利组织的空壳化
目前,OpenAI的非营利方面几乎已所剩不多,所有顶尖人才、研究、实际的AI模型以及一切有价值的东西都被转移到了营利性公司,非营利组织现在基本上只是一个空壳,几乎没有实权或资产,只持有营利性公司26%股权。最初的OpenAI非营利董事会从未批准向营利性模式转型,他们的使命始终是公开开发AI以造福人类,而不是建立一家价值数十亿美元的企业,该董事会原本负责维护最初的使命,当领导层未经其批准擅自推进时,实际上等于劫持了非营利组织的工作,这就是为什么诉讼针对的是奥特曼和现任领导层,而非原董事会。
权力博弈与关键证据
奥特曼也承认自己并非总是说实话,他甚至逼CTO穆拉蒂不得不亲自给微软CEO萨提亚·纳德拉发短信,才勉强稳住公司不爆炸。更多短信显示,奥特曼被董事会解雇后连续多次请求回到办公室与董事会对话,均遭拒绝,Murati转达董事会立场称“他们不要你”,并透露董事会计划用Emmett Shear取代两人,这批短信不仅还原了那48小时的权力博弈全貌,也为马斯克一方的诉讼提供了关键证据。
30

被折叠的 条评论
为什么被折叠?



