每经编辑：杜宇
5月18日凌晨，OpenAI安全主管、“超级智能对齐团队(dui)”负责(ze)人Jan Leike在(zai)社交平台宣布，离开OpenAI。这也是本周三OpenAI联合创始人兼首席科学家Ilya Sutskever辞职(zhi)之后，又有一名高管辞职(zhi)。
Jan Leike在(zai)X上公开透露了他离职(zhi)的部(bu)分原(yuan)因。他的潜台词是，他与OpenAI高层在(zai)公司的核心优先事(shi)项上存在(zai)长期分歧，最终双(shuang)方的分歧已经严重到无法调和的地(di)步。团队(dui)在(zai)推动其研究项目和争取计算资源时遇到了重大阻(zu)碍，缺乏资源会严重影响研究的进度和质(zhi)量。
本周五（当地(di)时间5月17日），OpenAI证实，由Ilya和他的亲信Jan Leike共同(tong)领导的“超级智能对齐团队(dui)”已经解散。此后，该团队(dui)的研究工作将被整合到OpenAI的其他研究小组中。至此，一度几乎导致OpenAI分崩离析的宫斗事(shi)件终于尘埃落定。
马(ma)斯克针(zhen)对OpenAI的长期人工智能风险(xian)团队(dui)已经解散这一消息评价称：“这显示(shi)安全并(bing)不是OpenAI的首要任务。”
OpenAI首席执行官Sam Altman感谢并(bing)肯定了Jan Leike在(zai)OpenAI的贡献(xian)和领导能力。并(bing)表示(shi)，未来几天内会发表一篇更(geng)长的文章(zhang)，来阐述OpenAI对于产品(pin)安全的规划和所(suo)做的事(shi)情(qing)。
加入OpenAI之前，Jan Leike曾在(zai)谷歌DeepMind工作，主要负责(ze)从人类(lei)反馈中进行强化学习的原(yuan)型设计。在(zai)OpenAI期间，参与了InstructGPT、ChatGPT的开发以及GPT-4的安全对齐工作。
对于Ilya、Jan的辞职(zhi)，有人表示(shi)这两位安全领导高管都辞职(zhi)了，以后谁来负责(ze)OpenAI的产品(pin)安全呢？
也有一位网友(you)爆料，想(xiang)离开OpenAI没问题，但是你必须签署一份“离职(zhi)协议”，如果你不签署终身(shen)不诋毁承诺，将失去所(suo)有已获得的OpenAI股权。不知道Jan Leike的一番吐槽，是否会影响到他的股权。
在(zai)去年7月份，OpenAI宣布成立一个新的研究团队(dui)“超级对齐”，要用(yong)AI监督AI的方式，解决(jue)超智能“AI对齐”问题。“AI对齐”的意思是，要求AI系统的目标要和人类(lei)的价值观与利益相一致。公司创始人之一伊利亚·苏茨克沃被任命为团队(dui)共同(tong)负责(ze)人。
而现在(zai)AI风险(xian)团队(dui)解散是公司内部(bu)最近出现动荡的又一证据，也再次引发了人们对该公司在(zai)开发AI产品(pin)时如何平衡速度与安全的质(zhi)疑。OpenAI章(zhang)程规定，必须安全地(di)开发通用(yong)人工智能(AGI)，即可(ke)以与人类(lei)匹敌或超越(yue)人类(lei)的技术。
每日经济(ji)新闻综合公开资料
免责(ze)声明：本文内容与数据仅供参考，不构成投资建议，使用(yong)前请核实。据此操作，风险(xian)自担(dan)。
每日经济(ji)新闻