·从(cong)超级对齐团队解散，到引入Indent团队，再到成立(li)由董(dong)事(shi)会主导的安全(quan)委员会，从(cong)这一系列的行动中不(bu)难(nan)看出，OpenAI在安全(quan)与商业的博弈中，逐步(bu)向后者(zhe)倾斜。山姆·奥特曼正在把OpenAI向商业化的道(dao)路不(bu)断推进。
从(cong)首(shou)席(xi)科学家伊尔亚·苏茨克维（Ilya Sutskever）离职(zhi)到旨在解决(jue)人工智能安全(quan)治(zhi)理问题的“超级对齐”团队被传解释(shi)，OpenAI近(jin)期纷争不(bu)断，似乎是为(wei)了回(hui)应外界对于其安全(quan)治(zhi)理的质疑，5月28日，OpenAI在官网宣布该公司(si)成立(li)安全(quan)与安保委员会（Safety and Security Committee），同时宣布他们已经(jing)开始训练下一个前沿模型(xing)，并预(yu)计(ji)由此产生(sheng)的系统将“把我们带到通往AGI的下一个能力水平”。
OpenAI发布的公告(gao)
新的安全(quan)治(zhi)理团队
据OpenAI发布的公告(gao)，上述安全(quan)与安保委员会由董(dong)事(shi)布莱特·泰勒（Bret Taylor，主席(xi)）、亚当(dang)·德安杰罗（Adam D'Angelo）、尼(ni)克·塞(sai)利格曼（Nicole Seligman）和(he)山姆·奥特曼（Sam Altman，首(shou)席(xi)执行官）领导，该委员会将负责就OpenAI项目和(he)运营的关键安全(quan)和(he)安保决(jue)定向董(dong)事(shi)会全(quan)体成员提出建议。
布莱特·泰勒、亚当(dang)·德安杰罗都是去年年底山姆·奥特曼回(hui)归OpenAI后组建的新董(dong)事(shi)会成员。其中担任主席(xi)的布莱特·泰勒，毕业于斯坦福大学，曾任Facebook首(shou)席(xi)技术官、Salesforce联席(xi)首(shou)席(xi)执行官。
OpenAI表示(shi)，安全(quan)和(he)安保委员会的首(shou)要任务将是在未来90天内评(ping)估和(he)进一步(bu)发展OpenAI的流程和(he)保障措施(shi)。在90天结束后，安全(quan)和(he)安保委员会将与全(quan)体委员会分享他们的建议。在董(dong)事(shi)会全(quan)面审查后，OpenAI将以符合安全(quan)和(he)安保的方式公开分享已通过建议的最(zui)新情况(kuang)。
在公告(gao)中，OpenAI称，“虽(sui)然我们为(wei)构建和(he)发布在能力和(he)安全(quan)性方面处于行业领先地位的模型(xing)感到自豪，但我们欢迎(ying)在这个重要时刻进行激烈的辩(bian)论。”
在人员构成上，除领导层外，OpenAI技术和(he)政策专家亚历(li)山大·马(ma)德里(li)（Aleksander Madry，准备工作主管）、翁丽莲（Lilian Weng，安全(quan)系统主管）、约翰·舒尔曼（John Schulman，校准科学主管）、马(ma)特·奈特（Matt Knight，安全(quan)主管）和(he)雅各(ge)布·帕乔奇(qi)（Jakub Pachocki，首(shou)席(xi)科学家）也将成为(wei)委员会成员。
此外，OpenAI还将保留并咨询其他安全(quan)、安保和(he)技术专家以支持这项工作，包括前网络安全(quan)官员、为(wei)OpenAI提供安全(quan)建议的罗布·乔伊斯（Rob Joyce）和(he)约翰·卡林（John Carlin）。
安全(quan)与商业的博弈
过去的几个月中，OpenAI的人员变(bian)动持续引发社会各(ge)界关注，尤其在OpenAI前首(shou)席(xi)科学家伊尔亚·苏茨克维（Ilya Sutskever）离职(zhi)后，引发了一系列连锁反应。在Ilya离职(zhi)后，OpenAI负责安全(quan)的超级团队的联合主管杨·莱克（Jan Leike）也宣布离职(zhi)，他在社交网站发布13条推文，公开自己离开OpenAI的真正原(yuan)因，其中提及对AGI安全(quan)治(zhi)理问题优(you)先级不(bu)如推出“闪亮的产品”的不(bu)满，以及算力资源的分配问题。在两人先后离开OpenAI后，由他们共同领导的超级对齐团队也四分五裂。
据Vox报道(dao)，熟悉(xi)OpenAI的消息人士透露，安全(quan)意识强的员工已经(jing)对奥特曼失去了信心(xin)。一位不(bu)愿透露姓名的公司(si)内部人士说：“这是一个信任一点一点崩塌的过程，就像多米诺骨牌一张一张倒下。”
因而(er)OpenAI在这一时间点宣布成立(li)安全(quan)与安保委员会，更像是对人工智能安全(quan)问题的回(hui)应。
但从(cong)委员会的成员构成来看，OpenAI选择由公司(si)内部人士组成这个委员会而(er)非外部人员，对成员的职(zhi)能范围也没有公开说明。有专家指出，OpenAI成立(li)此类的企业监督委员会，类似于谷歌的高级技术外部咨询委员会，其实(shi)在实(shi)际(ji)监督方面几乎没有什(shi)么作为(wei)。所(suo)有报告(gao)将同时发送给领导层和(he)董(dong)事(shi)会。虽(sui)然领导层是决(jue)策者(zhe)，但董(dong)事(shi)会有权(quan)推翻决(jue)定。
此前，OpenAI已经(jing)招募了一家位于美国加利福尼(ni)亚州(zhou)的数据安全(quan)初创公司(si)Indent，提供数字安全(quan)的相关服务。5月23日，Indent的联合创始人、CEO阿福德·马(ma)丁(ding)（Fouad Matin）在X上宣布自己将加入OpenAI负责安全(quan)相关的工作。根(gen)据Indent团队在X上发布的信息，他们加入的是OpenAI的准备团队而(er)非超级对齐团队，负责前沿模型(xing)的准备到客户的数据管理。
从(cong)超级对齐团队解散，到引入Indent团队，再到成立(li)由董(dong)事(shi)会主导的安全(quan)委员会，从(cong)这一系列的行动中不(bu)难(nan)看出，OpenAI在安全(quan)与商业的博弈中，逐步(bu)向后者(zhe)倾斜。山姆·奥特曼正在把OpenAI向商业化的道(dao)路不(bu)断推进。