参考消息网5月21日报道德国《时代》周(zhou)报网站(zhan)5月15日刊登题为《曾想保护我们免受超级人工智能侵(qin)害的人》的文章，作者是蒂图斯·布洛梅。文章摘(zhai)编如(ru)下：
伊利亚·苏茨克韦尔在一场(chang)可能是近年(nian)来最(zui)重要的科(ke)技权力斗争中扮演了重要角色，从那至今仅过了半年(nian)。
2023年(nian)11月，开放人工智能研究中心(OpenAI)联合(he)创始人、首席执行官以及代表性(xing)人物萨姆·奥尔特曼出人意(yi)料地被董事会解雇。对此负有责任(ren)的董事会成员中就有苏茨克韦尔。经过数天反复以及员工和投资者反对，奥尔特曼又回来了。
“政变”后淡出
5月14日，这家聊天生成预训(xun)练转换(huan)器(ChatGPT)背后的企业宣布，首席科(ke)学家苏茨克韦尔将要离(li)开。这对许(xu)多(duo)人来说并不那么意(yi)外：首席科(ke)学家和首席执行官虽然事后公开和好，但从那以后，苏茨克韦尔的职(zhi)位一直不稳。他基本退出公众视野。
14日晚上，苏茨克韦尔在社交平台X上发文：“我已经决定离(li)开OpenAI。”他正在筹备一个“对自己而言意(yi)义(yi)重大”的项目。奥尔特曼在自己的动态中写道，感谢苏茨克韦尔所做的一切(qie)。他会坚决“完(wan)成两人共同开创的使命”。
不过，我们不确(que)定这是否还是这两位前同事追求的那个使命。据称(cheng)，苏茨克韦尔参与去年(nian)11月那场(chang)“政变”的主要原因之一，是他担心奥尔特曼过于激进和轻率地对待人工智能这一强(qiang)大的技术。后者此前一直都高歌(ge)猛进，推动着新(xin)人工智能产品的开发和发布。
据称(cheng)，苏茨克韦尔本人更为谨慎。他在英国《卫报》去年(nian)的一部纪录片(pian)中说，自己坚信人工智能可以解决人类(lei)当(dang)前的所有问题，但这项技术也将制造出新(xin)问题：恶劣的网络攻击、全自动武器和假新(xin)闻泛(fan)滥(lan)。如(ru)果一种比人类(lei)更聪明、更有能力的超级人工智能——通用人工智能(AGI)——被以错误的方式开发出来，它可能会“将自己的生存置于所有其他事物之上”，尤其是置于我们人类(lei)的生存之上。
OpenAI在2015年(nian)成立时本来是为了限制此类(lei)风险。这家最(zui)初(chu)的非营利组织自称(cheng)其“最(zui)重要的托管义(yi)务”面向“全人类(lei)”，并希望以负责任(ren)、审慎的方式开发人工智能。即(ji)使2019年(nian)单独成立部分以利润为导向的子公司开放人工智能研究中心全球公司(OpenAI Global)，以便更高效地募集投资，这一使命也应延(yan)续(xu)。董事会的任(ren)务是监督执行情况，并在必要时进行干(gan)预。
2023年(nian)11月，当(dang)部分董事会成员执行上述任(ren)务，计划撤换(huan)在他们看来明显过于迎合(he)市场(chang)的奥尔特曼时，主要投资者微软等相关方表示反对。最(zui)终，奥尔特曼回归，权力也更大了。这让人清醒地认识到，董事会早已在很大程度上失去对这家以利润为导向的子公司及其首席执行官的控(kong)制。
如(ru)果说迄(qi)今为止OpenAI仍被期望继续(xu)完(wan)成其最(zui)初(chu)使命的残余(yu)部分，那么随着苏茨克韦尔的离(li)开，“谨慎派”最(zui)终将淡入(ru)幕(mu)后。简(jian)·莱克也同时在社交平台X上公开宣布辞职(zhi)。莱克和苏茨克韦尔曾经是OpenAI“超级对齐”团队的联合(he)领导人。在人工智能领域(yu)，“对齐”指的是尝试用正确(que)的价值观(guan)(即(ji)人类(lei)价值观(guan))对人工智能进行编程。这样做的目的是为了避免可能出现科(ke)幻小(xiao)说中恶意(yi)机器带(dai)来的那种世(shi)界末日场(chang)景。OpenAI的20%可用算力被用于该项目。然而现在，苏茨克韦尔和莱克都被去年(nian)11月站(zhan)在奥尔特曼一边的员工所取(qu)代。现在，奥尔特曼很可能已经最(zui)终控(kong)制了公司，公司的优先事项很可能将继续(xu)转向商(shang)业。
商(shang)业击败理想主义(yi)？
奥尔特曼的计划很宏大。
美国《华尔街日报》今年(nian)2月报道称(cheng)，奥尔特曼正在寻求总额(e)7万亿美元(不是70亿美元！)的投资来生产AGI及其所需的算力。显然，钱(qian)从哪(na)里来并不那么重要。报道称(cheng)，奥尔特曼还与阿联酋沟通。他似乎非常专注于以任(ren)何可能的方式开发AGI。他最(zui)近在斯坦福大学的一次演讲中表示，他并不关心“我们是否每年(nian)烧掉(diao)5亿美元、50亿美元还是500亿美元”。他说，这是值得的，因为这将创造AGI。尽管奥尔特曼作出保证，但在人工智能领域(yu)，超级智能的可能性(xing)仍存在很大争议。
苏茨克韦尔离(li)开OpenAI可能意(yi)味着奥尔特曼将更积极地追求他的目标。然而，这并不意(yi)味着人工智能的发展完(wan)全由市场(chang)来决定。正如(ru)奥尔特曼与阿拉酋的对话(hua)以及他的其他评论所表明的那样，自由市场(chang)只是一种可能的资本来源：民(min)族国家最(zui)终可能是唯一拥有足够资源为未来几代人工智能提供资金的参与者。根(gen)据美国人工智能研究所的一份报告，人工智能已经成为新(xin)的全球产业政策的重要组成部分。
美国和欧盟都启动了重大投资计划，以促进本国对人工智能发展至关重要的半导体芯片(pian)的发展——算力仍然是地缘政治上敏感的瓶颈，因为世(shi)界上最(zui)好的芯片(pian)主要是在中国台湾制造的。印(yin)度、南(nan)非和阿联酋等国也制订了自己的投资计划和法规(gui)，以促进本国技术的发展。包括谷歌(ge)前首席执行官埃里克·施密特在内(nei)的一些人甚至认为，美国和中国之间正在进行人工智能军(jun)备竞赛(sai)。因此，市场(chang)和民(min)族国家可以在许(xu)多(duo)地方同心协力。这一点(dian)也可能变得很重要，因为目前似乎还没有一家纯粹的人工智能公司为这项技术找到真正有利可图的商(shang)业模式。
对奥尔特曼来说，苏茨克韦尔的谨慎似乎主要有商(shang)业利用价值。无论如(ru)何，苏茨克韦尔经常遭到这样的指责：他对超级智能的力量发出警告，主要是为了监管人工智能并让竞争对手(shou)更难迎头赶上，或者是为了让政客(ke)们关注遥远的世(shi)界末日场(chang)景，而不是失业和人工智能产生的虚假信息等实际问题。如(ru)果批评者说的是准确(que)的，那么商(shang)业早已击败了理想主义(yi)。
这并不意(yi)味着从现在起一切(qie)都会以指数级的速度变快：在训(xun)练数据、算力和能源供应方面仍存在严重瓶颈，可能会延(yan)缓这一进程。此外，AGI能否诞生也仍然是个未知(zhi)数。不过，在苏茨克韦尔离(li)开后，这些物质障(zhang)碍似乎成为人工智能发展的最(zui)后障(zhang)碍，至少在OpenAI是如(ru)此。否则至少从现在起，座右铭将是：勇往直前，而不是小(xiao)心翼翼。（编译/梅鹏鹏、聂立涛）