参考消息网5月21日报道德国《时(shi)代》周报网站5月15日刊(kan)登题(ti)为(wei)《曾想保护我们免受超级(ji)人工智(zhi)能侵害的人》的文章，作者是蒂图斯·布洛梅。文章摘(zhai)编如下：
伊利亚·苏茨克韦尔在一场可能是近年来(lai)最(zui)重要的科技权力斗争中扮演了重要角色，从那至今仅过了半年。
2023年11月，开放人工智(zhi)能研究中心(OpenAI)联合(he)创始人、首席执行官以及代表性人物萨姆·奥尔特曼(man)出人意料(liao)地被董事(shi)会解雇。对此负(fu)有责任(ren)的董事(shi)会成员(yuan)中就有苏茨克韦尔。经过数天反复以及员(yuan)工和(he)投资者反对，奥尔特曼(man)又回来(lai)了。
“政变”后淡出
5月14日，这家聊天生成预训练(lian)转换器(ChatGPT)背后的企业宣布，首席科学家苏茨克韦尔将要离(li)开。这对许(xu)多(duo)人来(lai)说并不那么意外：首席科学家和(he)首席执行官虽然事(shi)后公开和(he)好，但从那以后，苏茨克韦尔的职位一直不稳(wen)。他基(ji)本退出公众视野。
14日晚上，苏茨克韦尔在社(she)交(jiao)平台X上发文：“我已经决(jue)定离(li)开OpenAI。”他正在筹备一个“对自己而言意义重大(da)”的项目。奥尔特曼(man)在自己的动态中写道，感谢苏茨克韦尔所做的一切。他会坚决(jue)“完成两人共同开创的使命”。
不过，我们不确定这是否(fou)还是这两位前(qian)同事(shi)追求的那个使命。据称，苏茨克韦尔参与去(qu)年11月那场“政变”的主(zhu)要原因之一，是他担心奥尔特曼(man)过于激进和(he)轻率地对待人工智(zhi)能这一强大(da)的技术。后者此前(qian)一直都(dou)高歌猛进，推(tui)动着新人工智(zhi)能产品的开发和(he)发布。
据称，苏茨克韦尔本人更为(wei)谨慎。他在英国《卫报》去(qu)年的一部(bu)纪录片中说，自己坚信人工智(zhi)能可以解决(jue)人类当前(qian)的所有问题(ti)，但这项技术也将制造出新问题(ti)：恶劣的网络攻击、全自动武(wu)器和(he)假新闻泛滥。如果一种比人类更聪明、更有能力的超级(ji)人工智(zhi)能——通(tong)用人工智(zhi)能(AGI)——被以错误的方式开发出来(lai)，它可能会“将自己的生存置于所有其他事(shi)物之上”，尤其是置于我们人类的生存之上。
OpenAI在2015年成立(li)时(shi)本来(lai)是为(wei)了限(xian)制此类风(feng)险。这家最(zui)初的非营利组织自称其“最(zui)重要的托管义务”面向“全人类”，并希望(wang)以负(fu)责任(ren)、审慎的方式开发人工智(zhi)能。即使2019年单(dan)独成立(li)部(bu)分以利润为(wei)导向的子公司开放人工智(zhi)能研究中心全球公司(OpenAI Global)，以便更高效(xiao)地募集投资，这一使命也应延续。董事(shi)会的任(ren)务是监督执行情况，并在必要时(shi)进行干预。
2023年11月，当部(bu)分董事(shi)会成员(yuan)执行上述(shu)任(ren)务，计划撤换在他们看来(lai)明显过于迎合(he)市场的奥尔特曼(man)时(shi)，主(zhu)要投资者微(wei)软(ruan)等相关(guan)方表示反对。最(zui)终，奥尔特曼(man)回归，权力也更大(da)了。这让人清醒地认识到，董事(shi)会早已在很大(da)程(cheng)度上失去(qu)对这家以利润为(wei)导向的子公司及其首席执行官的控制。
如果说迄今为(wei)止OpenAI仍被期望(wang)继续完成其最(zui)初使命的残余部(bu)分，那么随着苏茨克韦尔的离(li)开，“谨慎派”最(zui)终将淡入幕后。简·莱克也同时(shi)在社(she)交(jiao)平台X上公开宣布辞职。莱克和(he)苏茨克韦尔曾经是OpenAI“超级(ji)对齐”团队的联合(he)领导人。在人工智(zhi)能领域，“对齐”指的是尝试用正确的价值(zhi)观(即人类价值(zhi)观)对人工智(zhi)能进行编程(cheng)。这样(yang)做的目的是为(wei)了避免可能出现科幻小说中恶意机器带来(lai)的那种世界末日场景。OpenAI的20%可用算力被用于该项目。然而现在，苏茨克韦尔和(he)莱克都(dou)被去(qu)年11月站在奥尔特曼(man)一边的员(yuan)工所取代。现在，奥尔特曼(man)很可能已经最(zui)终控制了公司，公司的优先事(shi)项很可能将继续转向商业。
商业击败理想主(zhu)义？
奥尔特曼(man)的计划很宏大(da)。
美(mei)国《华尔街日报》今年2月报道称，奥尔特曼(man)正在寻(xun)求总额7万亿(yi)美(mei)元(不是70亿(yi)美(mei)元！)的投资来(lai)生产AGI及其所需的算力。显然，钱从哪里来(lai)并不那么重要。报道称，奥尔特曼(man)还与阿联酋沟通(tong)。他似乎(hu)非常(chang)专注于以任(ren)何可能的方式开发AGI。他最(zui)近在斯坦福大(da)学的一次演讲(jiang)中表示，他并不关(guan)心“我们是否(fou)每(mei)年烧掉5亿(yi)美(mei)元、50亿(yi)美(mei)元还是500亿(yi)美(mei)元”。他说，这是值(zhi)得的，因为(wei)这将创造AGI。尽管奥尔特曼(man)作出保证(zheng)，但在人工智(zhi)能领域，超级(ji)智(zhi)能的可能性仍存在很大(da)争议。
苏茨克韦尔离(li)开OpenAI可能意味着奥尔特曼(man)将更积极地追求他的目标。然而，这并不意味着人工智(zhi)能的发展(zhan)完全由市场来(lai)决(jue)定。正如奥尔特曼(man)与阿拉酋的对话以及他的其他评(ping)论所表明的那样(yang)，自由市场只是一种可能的资本来(lai)源：民族国家最(zui)终可能是唯一拥有足够资源为(wei)未来(lai)几(ji)代人工智(zhi)能提供资金的参与者。根据美(mei)国人工智(zhi)能研究所的一份报告，人工智(zhi)能已经成为(wei)新的全球产业政策的重要组成部(bu)分。
美(mei)国和(he)欧盟都(dou)启(qi)动了重大(da)投资计划，以促进本国对人工智(zhi)能发展(zhan)至关(guan)重要的半导体芯(xin)片的发展(zhan)——算力仍然是地缘政治上敏感的瓶(ping)颈，因为(wei)世界上最(zui)好的芯(xin)片主(zhu)要是在中国台湾制造的。印度、南非和(he)阿联酋等国也制订了自己的投资计划和(he)法规，以促进本国技术的发展(zhan)。包括谷(gu)歌前(qian)首席执行官埃里克·施密特在内的一些人甚至认为(wei)，美(mei)国和(he)中国之间正在进行人工智(zhi)能军备竞赛。因此，市场和(he)民族国家可以在许(xu)多(duo)地方同心协(xie)力。这一点也可能变得很重要，因为(wei)目前(qian)似乎(hu)还没(mei)有一家纯粹的人工智(zhi)能公司为(wei)这项技术找到真正有利可图的商业模式。
对奥尔特曼(man)来(lai)说，苏茨克韦尔的谨慎似乎(hu)主(zhu)要有商业利用价值(zhi)。无论如何，苏茨克韦尔经常(chang)遭到这样(yang)的指责：他对超级(ji)智(zhi)能的力量发出警告，主(zhu)要是为(wei)了监管人工智(zhi)能并让竞争对手更难迎头(tou)赶上，或者是为(wei)了让政客们关(guan)注遥远的世界末日场景，而不是失业和(he)人工智(zhi)能产生的虚假信息等实际问题(ti)。如果批评(ping)者说的是准确的，那么商业早已击败了理想主(zhu)义。
这并不意味着从现在起一切都(dou)会以指数级(ji)的速度变快：在训练(lian)数据、算力和(he)能源供应方面仍存在严(yan)重瓶(ping)颈，可能会延缓这一进程(cheng)。此外，AGI能否(fou)诞生也仍然是个未知数。不过，在苏茨克韦尔离(li)开后，这些物质障碍似乎(hu)成为(wei)人工智(zhi)能发展(zhan)的最(zui)后障碍，至少在OpenAI是如此。否(fou)则至少从现在起，座右铭将是：勇(yong)往直前(qian)，而不是小心翼翼。（编译/梅鹏鹏、聂立(li)涛）