OpenAI内部大洗牌,不仅Ilya和他的亲信Jan Leike已经离职,他们共同领导的“超级智能对(dui)齐(qi)团队”也周五被(bei)证实解(jie)散。
本周二(er),曾在宫斗(dou)事件(jian)中参与解(jie)聘CEO Sam Altman,且是OpenAI联合创始人兼首席科学家的Ilya Sutskever前脚刚离职,几小时后,“超级智能对(dui)齐(qi)团队”的另一位联名负责(ze)人Jan Leike也官宣离职。
本周五,OpenAI证实,由(you)Ilya和他的亲信Jan Leike共同领导的“超级智能对(dui)齐(qi)团队”已经解(jie)散。此(ci)后,该团队的研究工作将被(bei)整合到(dao)OpenAI的其他研究小组中。至此(ci),一度(du)几乎导致OpenAI分崩(beng)离析的宫斗(dou)事件(jian)终于尘埃落定。
Jan Leike周五在X上公开透露了他离职的部分原因。他的潜(qian)台词是,他与OpenAI高层(ceng)在公司的核(he)心优先事项上存在长期分歧,最终双方的分歧已经严重到(dao)无法调和的地步。团队在推动(dong)其研究项目和争取计算资源时遇到(dao)了重大阻碍,缺乏资源会严重影响研究的进度(du)和质量。
公开资料显示,超级智能对(dui)齐(qi)团队于去年(nian)7月(yue)成立(li),旨(zhi)在研究如何安全开发(fa)比人类聪明得多的人工智能系统(tong),以确保通用人工智能(AGI)在造福(fu)全人类的同时不会失控并(bing)危害人类。这就是为(wei)什么OpenAI特别关(guan)注如何对(dui)这类超级智能AI进行“对(dui)齐(qi)”——即确保它们的行为(wei)与人类的价(jia)值观(guan)和目标相一致。这也是他们成立(li)“超级智能对(dui)齐(qi)团队”的原因之一。
OpenAI最近展示了ChatGPT的新版本——一个(ge)名为(wei)GPT-4o的“多模态(tai)”AI模型,它能够以更自然、更人性(xing)化的方式与世界(jie)互动(dong)。在线上演(yan)示中,GPT-4o展示了模拟人类情感和与用户进行自然对(dui)话的能力,甚至尝试与用户调情。然而,这一技术进步也引发(fa)了人们对(dui)AI侵犯隐私、情感操纵和威胁网络安全等伦理问题的担忧,因此(ci)AI监管一直是热门(men)话题。
OpenAI内部成员还是“走散了”
此(ci)前,Ilya离职的消息引起了极大的关(guan)注,因为(wei)他不仅是OpenAI的联合创始人之一,还在去年(nian)11月(yue)与其他三名董事会成员共同决定解(jie)雇CEO奥特曼。然而,在随后的五天内,由(you)于员工的大规(gui)模抗议(yi),奥特曼被(bei)重新任命为(wei)CEO,而Ilya和其他两名董事则退(tui)出了董事会。
Ilya离职后在社交(jiao)媒体(ti)上表示,OpenAI的发(fa)展轨迹堪称奇迹,我相信OpenAI会在Sam Altman、Greg Brockman和Mira Murati的领导下,以及Jakub Pachocki的出色研究领导下构建安全有益的AGI。
奥特曼在X上回应称,Ilya与OpenAI的分道扬镳令人非常悲伤。