·从超级(ji)对齐团队解散，到引(yin)入Indent团队，再(zai)到成立由董事会主导的安全委员会，从这一系列的行动中不难(nan)看出，OpenAI在安全与商业的博(bo)弈中，逐步向后者倾斜。山姆·奥特曼正在把OpenAI向商业化的道路不断推(tui)进。
从首席科学家伊尔亚·苏茨克维（Ilya Sutskever）离职到旨在解决人工智能安全治(zhi)理问题的“超级(ji)对齐”团队被传解释，OpenAI近期纷争不断，似乎是为了回应外界(jie)对于(yu)其(qi)安全治(zhi)理的质(zhi)疑，5月28日，OpenAI在官网宣(xuan)布该公司成立安全与安保委员会（Safety and Security Committee），同时宣(xuan)布他们已经开始训练下一个前沿模(mo)型，并预计由此产生的系统将“把我们带到通往AGI的下一个能力水平”。
OpenAI发布的公告
新(xin)的安全治(zhi)理团队
据OpenAI发布的公告，上述安全与安保委员会由董事布莱特·泰勒（Bret Taylor，主席）、亚当·德安杰罗（Adam D'Angelo）、尼克·塞利格曼（Nicole Seligman）和(he)山姆·奥特曼（Sam Altman，首席执行官）领导，该委员会将负责就OpenAI项目和(he)运(yun)营的关键安全和(he)安保决定向董事会全体成员提出建(jian)议。
布莱特·泰勒、亚当·德安杰罗都是去年年底山姆·奥特曼回归OpenAI后组建(jian)的新(xin)董事会成员。其(qi)中担任主席的布莱特·泰勒，毕业于(yu)斯坦福大学，曾任Facebook首席技术官、Salesforce联席首席执行官。
OpenAI表示，安全和(he)安保委员会的首要任务将是在未(wei)来90天内评(ping)估和(he)进一步发展OpenAI的流(liu)程和(he)保障措施。在90天结束后，安全和(he)安保委员会将与全体委员会分享他们的建(jian)议。在董事会全面审查后，OpenAI将以符合安全和(he)安保的方式公开分享已通过建(jian)议的最新(xin)情况。
在公告中，OpenAI称，“虽然(ran)我们为构建(jian)和(he)发布在能力和(he)安全性方面处于(yu)行业领先地位的模(mo)型感到自豪(hao)，但我们欢迎在这个重要时刻进行激烈(lie)的辩论。”
在人员构成上，除领导层外，OpenAI技术和(he)政策专(zhuan)家亚历山大·马德里（Aleksander Madry，准备工作主管）、翁丽莲(lian)（Lilian Weng，安全系统主管）、约翰·舒尔曼（John Schulman，校准科学主管）、马特·奈特（Matt Knight，安全主管）和(he)雅(ya)各布·帕乔(qiao)奇(qi)（Jakub Pachocki，首席科学家）也(ye)将成为委员会成员。
此外，OpenAI还将保留并咨询其(qi)他安全、安保和(he)技术专(zhuan)家以支持这项工作，包括前网络安全官员、为OpenAI提供安全建(jian)议的罗布·乔(qiao)伊斯（Rob Joyce）和(he)约翰·卡林（John Carlin）。
安全与商业的博(bo)弈
过去的几个月中，OpenAI的人员变动持续引(yin)发社会各界(jie)关注，尤其(qi)在OpenAI前首席科学家伊尔亚·苏茨克维（Ilya Sutskever）离职后，引(yin)发了一系列连锁反应。在Ilya离职后，OpenAI负责安全的超级(ji)团队的联合主管杨·莱克（Jan Leike）也(ye)宣(xuan)布离职，他在社交网站发布13条推(tui)文，公开自己离开OpenAI的真(zhen)正原因，其(qi)中提及对AGI安全治(zhi)理问题优先级(ji)不如(ru)推(tui)出“闪(shan)亮的产品”的不满，以及算(suan)力资源(yuan)的分配问题。在两人先后离开OpenAI后，由他们共同领导的超级(ji)对齐团队也(ye)四(si)分五裂。
据Vox报道，熟(shu)悉OpenAI的消息人士透(tou)露，安全意识强的员工已经对奥特曼失去了信心(xin)。一位不愿透(tou)露姓名的公司内部人士说：“这是一个信任一点一点崩塌(ta)的过程，就像多米诺骨牌一张一张倒下。”
因而(er)OpenAI在这一时间点宣(xuan)布成立安全与安保委员会，更(geng)像是对人工智能安全问题的回应。
但从委员会的成员构成来看，OpenAI选择由公司内部人士组成这个委员会而(er)非外部人员，对成员的职能范围也(ye)没有公开说明(ming)。有专(zhuan)家指出，OpenAI成立此类(lei)的企业监督委员会，类(lei)似于(yu)谷歌的高级(ji)技术外部咨询委员会，其(qi)实(shi)在实(shi)际监督方面几乎没有什么作为。所有报告将同时发送给(gei)领导层和(he)董事会。虽然(ran)领导层是决策者，但董事会有权推(tui)翻(fan)决定。
此前，OpenAI已经招募了一家位于(yu)美国加利福尼亚州的数据安全初创公司Indent，提供数字安全的相(xiang)关服务。5月23日，Indent的联合创始人、CEO阿福德·马丁（Fouad Matin）在X上宣(xuan)布自己将加入OpenAI负责安全相(xiang)关的工作。根(gen)据Indent团队在X上发布的信息，他们加入的是OpenAI的准备团队而(er)非超级(ji)对齐团队，负责前沿模(mo)型的准备到客户的数据管理。
从超级(ji)对齐团队解散，到引(yin)入Indent团队，再(zai)到成立由董事会主导的安全委员会，从这一系列的行动中不难(nan)看出，OpenAI在安全与商业的博(bo)弈中，逐步向后者倾斜。山姆·奥特曼正在把OpenAI向商业化的道路不断推(tui)进。