查看原文
其他

OpenAI前董事重磅发言:我们董事会连ChatGPT推出,都是在推特官宣后才知道|钛媒体AGI

林志佳 钛媒体AGI
2024-09-05

钛媒体App 5月29日消息,在今晨播出的《TED AI 秀》播客节目中,OpenAI前董事会成员海伦·托纳(Helen Toner) 表示,董事会直到后来才知道该公司将于 2022 年推出聊天机器人 ChatGPT — — 而且是在 Twitter 上才知道的。

“当 ChatGPT 于 2022 年 11 月推出时,董事会并没有提前得到通知,”托纳表示,“我们在推特上了解到ChatGPT,真的大开眼界。”

同时,托纳还在这次40分钟对话中详尽讲述了促使她和其他董事会成员在2023年11月一起宣布解雇OpenAI CEO Sam Altman(奥尔特曼)的事件。

她表示,奥尔特曼没有透露他与 OpenAI 创业基金的关系,她还批评了奥尔特曼在安全方面的领导能力。

“在很多场合,他向我们提供了有关公司已实施的正式安全流程的不准确信息。这意味着董事会基本上不可能知道这些安全流程的运行情况或可能需要进行哪些更改。”托纳称,经历了多年这样的事情后,“我们四个人都得出结论,我们根本无法相信奥尔特曼告诉我们的事情。”

托纳强调,OpenAI不是一家普通的公司。董事会是一个非盈利性的董事会,其设立的明确目的是确保公司的公益使命是第一位的,而不是利润、投资者利益和其他事情。但多年来,奥尔特曼通过隐瞒信息,歪曲公司发生的事情,在某些情况下直接对董事会撒谎,让董事会很难真正做好这项工作。

据悉,Helen Toner 是一位 AI 安全领域的研究员,拥有乔治城大学安全研究硕士学位,以及墨尔本大学化学工程学士学位。她是乔治城大学安全与新兴技术中心的战略和基础研究资助主任,曾在Open Philanthropy担任高级研究分析师,还曾加入过OpenAI董事会等。

2023年11月,奥尔特曼突然宣布被OpenAI董事会罢免,之后的几天里,员工们威胁要辞职,微软、红杉资本等投资机构鼎力支持奥尔特曼,因此,最后奥尔特曼恢复了职务,托纳和其他四位董事也离开了董事会,只有Quora首席执行官Adam D'Angelo留下了。

早前,托纳和另一位前董事塔莎·麦考利(Tasha McCauley)曾在《经济学人》文章中表示,他们认为,OpenAI 没有能力进行自我监管,政府应该进行干预,以确保强大的 AI 技术能够安全地发展。

托尼表示,11月发生的事情中起作用的方式很简单,他与这篇论文的实质内容无关。但问题是,论文发表后,奥尔特曼开始对其他董事会成员撒谎,试图把我赶出董事会。

“所以这是另一个例子,就像真的破坏了我们信任他的能力,实际上只发生在去年10月底,当时我们已经非常认真地讨论是否需要解雇他。”托尼称。

托尼指出,对于任何个案,奥尔特曼总能想出一些听起来无伤大雅的解释,说明为什么这不是什么大不了的事,或者被误解了。但最终的结果是,经过多年的这种事情,我们四个解雇他的人都得出结论,我们无法相信奥尔特曼告诉我们的事情。这是一个完全不可行的地方,作为一个董事会,尤其是在“船上”,这应该是对公司提供独立的监督,而不仅仅是帮助CEO筹集更多资金,不相信CEO的话,他是你与公司的主要渠道。你关于公司的主要信息来源是完全,完全不可能的。这就是2023年秋天事态发展的背景。我们一直在董事会层面尽最大努力建立更好的结构、流程等,试图改善我们在董事会层面一直存在的这些问题。

“在去年10月的大部分时间里,我们与这些高管进行了一系列对话,他们两人突然开始向我们讲述他们自己与奥尔特曼的经历,他们以前不愿意分享这些经历,但他们告诉我们,在有毒的气氛中,他们不能信任他。他在创造。他们使用了‘心理虐待’这个词,告诉我们他们认为他不是领导公司的合适人选,告诉我们他们不相信他能够或将会改变,没有必要给他反馈,没有必要试图解决这些问题。

从那以后,他们试图尽量减少他们告诉我们的事情,但这些不像是随意的谈话。他们真的很认真,他们实际上给我们发送了一些屏幕截图和文档,他们告诉我们关于他的一些情况,为什么,操纵和不同的情况。这是一件大事。这太多了。在几周的时间里,我们非常深入地讨论了这件事。最终得出的结论是,对于一个组织来说,最好的事情是让他们睁开眼睛,让他们睁开眼睛,就是让一个不同的首席执行官上任,一旦我们得出这个结论,我们所有人都很清楚,一旦奥尔特曼有任何暗示,我们可能会做一些对他不利的事情,他会使出浑身解数来破坏董事会,甚至阻止我们解雇他。

所以我们知道我们非常小心,非常慎重地告诉了谁,除了她的法律团队之外,基本上没有人事先告诉我们。这就是把我们在11月17日把他解雇的原因。”托尼称。

谈到为何最后奥尔特曼会回到CEO位置上,托尼认为,这背后很多都是报道失误以及员工需要回购股权变现导致的。

托尼称,“这显然是‘房间里的大象’。不幸的是,我认为在这方面有很多报道失误。我认为有三件大事有助于理解这里发生的事情。首先,公司内部很早就出现了这种情况,你有两种选择。奥尔特曼立即回来,不负任何责任,他选择了全新的董事会,否则公司将被摧毁。这并不是唯一的两个选择,我们最终得到的结果也不是这两个选择。

我知道为什么不想让公司被毁掉。让很多人排队,不管是因为他们,在某些情况下,即将从即将到来的收购要约中赚到很多钱。或者仅仅是因为他们热爱自己的球队,不想丢掉工作。他们关心他们所做的工作。很多人不希望公司分崩离析。包括我们。我认为第二件事很重要,那就是人们有多害怕反对奥尔特曼。他们再次经历了他对人民的攻击,对他们过去的批评进行报复。他们真的很害怕会发生什么事。所以当一些员工开始说,等等,我不想让公司分崩离析,就像,让我们回来吧,奥尔特曼。对于那些有过可怕经历的人来说,很难对少数人说,如果奥尔特曼最终继续掌权,你知道,这会让他们的生活变得悲惨。

我想我要说的最后一件事是,这实际上对萨姆来说并不是一个新问题。如果你看看去年11月以来的一些报道,就会发现他实际上是从Y Combinator的前一份工作中被解雇的,当时这份工作被掩盖了。他之前的工作,也是他在硅谷唯一的另一份工作,他的创业循环。显然,管理团队两次去了那里的董事会,要求董事会以他们所谓的欺骗和混乱行为为由解雇他。如果你仔细看看他的记录,你会发现他并没有太多的参考资料。这并不是董事会人物特有的问题,因为他很想把它描绘成那样。”

托尼随后还表示,AI 技术的监管越来越复杂,这基本上仍是一项正在进行的工作。

“我认为,我们目前在 AI 方面仍面临的很多挑战,都与技术能做什么,以及5年后它能做什么的不确定性有关。但同时,我认为在过去的一两年里,有很多人关注资金和政府在这方面建立更好的能力。我认为这真的很有成效。”托尼称。

托尼强调,她对于人类使用 AI 技术的建议是,不要被技术吓倒,也不要被技术专家吓倒。就像这真的是一项人类不知道自己在做什么的技术。所以,如果你对它感兴趣,如果你想出有趣的方法来使用它,那就使用它们,如果你担心它,那就放心去担心。

“就像我认为最重要的事情,是你有权自己去做你想用技术做的事情。没有一个监管机构,没有一个CEO 能够完全了解它影响世界各地数以百万计的人的所有不同方式。所以相信你自己的经验,自己去探索,看看你的想法是什么。”托尼在对话结尾表示。

OpenAI 并未立即发表评论。

OpenAI 现任董事会主席Bret Taylor在向 TED 播客提供的一份声明中表示:“我们对 Toner 女士不断重提这些问题感到失望。”他还表示,对 Altman 解雇事件的独立审查“得出结论,董事会先前的决定并非基于对产品安全性、开发速度、OpenAI 财务状况或其对投资者、客户或业务合作伙伴的声明的担忧。”

泰勒还表示,“超过 95% 的员工”要求恢复奥尔特曼的职务,并且公司仍专注于“确保 AGI 造福全人类的使命”。

值得一提的是,就在5月29日凌晨,OpenAI的竞争对手Anthropic宣布,聘请前OpenAI安全对齐主管Jan Leike 领导新的“超级对齐”团队,此前Jan Leike一直批评OpenAI对于 AI 的安全防范问题。

(本文首发于钛媒体App,作者|林志佳)

万水千山总是情,点个在看行不行
继续滑动看下一个
钛媒体AGI
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存