参考消息网5月21日报道德国《时代(dai)》周报网站5月15日刊登题为(wei)《曾想保护我们(men)免(mian)受超(chao)级人工(gong)智能侵害的人》的文章，作者是蒂图斯·布洛梅。文章摘(zhai)编如下：
伊利亚·苏茨克韦尔在一场可能是近年(nian)来最重(zhong)要的科技权力斗争中扮演了重(zhong)要角色，从那(na)至今仅过了半年(nian)。
2023年(nian)11月，开放人工(gong)智能研(yan)究中心(xin)(OpenAI)联合创始人、首席执行官以及代(dai)表(biao)性人物萨姆(mu)·奥尔特曼出人意料地被董事会解雇。对此负(fu)有责任的董事会成员(yuan)中就有苏茨克韦尔。经(jing)过数天(tian)反复以及员(yuan)工(gong)和(he)投资者反对，奥尔特曼又(you)回来了。
“政变”后淡出
5月14日，这家聊天(tian)生(sheng)成预训练转换器(ChatGPT)背后的企业宣布，首席科学家苏茨克韦尔将要离开。这对许多人来说并不那(na)么(me)意外：首席科学家和(he)首席执行官虽然事后公开和(he)好(hao)，但从那(na)以后，苏茨克韦尔的职位一直不稳。他(ta)基本(ben)退出公众视野。
14日晚上，苏茨克韦尔在社交平台(tai)X上发文：“我已经(jing)决定离开OpenAI。”他(ta)正在筹备一个(ge)“对自己而言意义重(zhong)大”的项目。奥尔特曼在自己的动态中写(xie)道，感谢苏茨克韦尔所做的一切。他(ta)会坚决“完成两人共同开创的使命”。
不过，我们(men)不确定这是否还是这两位前(qian)同事追求的那(na)个(ge)使命。据称，苏茨克韦尔参与去年(nian)11月那(na)场“政变”的主要原因之一，是他(ta)担心(xin)奥尔特曼过于激进和(he)轻率地对待人工(gong)智能这一强大的技术。后者此前(qian)一直都高(gao)歌猛进，推动着(zhe)新人工(gong)智能产品的开发和(he)发布。
据称，苏茨克韦尔本(ben)人更为(wei)谨慎。他(ta)在英国《卫报》去年(nian)的一部纪录片中说，自己坚信人工(gong)智能可以解决人类当前(qian)的所有问题，但这项技术也将制造出新问题：恶劣的网络攻击、全自动武器和(he)假新闻泛滥。如果一种比(bi)人类更聪明、更有能力的超(chao)级人工(gong)智能——通用人工(gong)智能(AGI)——被以错误的方式开发出来，它可能会“将自己的生(sheng)存置于所有其他(ta)事物之上”，尤其是置于我们(men)人类的生(sheng)存之上。
OpenAI在2015年(nian)成立时本(ben)来是为(wei)了限制此类风(feng)险。这家最初的非营利组(zu)织自称其“最重(zhong)要的托管义务”面向“全人类”，并希(xi)望以负(fu)责任、审慎的方式开发人工(gong)智能。即使2019年(nian)单独成立部分以利润(run)为(wei)导向的子公司开放人工(gong)智能研(yan)究中心(xin)全球公司(OpenAI Global)，以便(bian)更高(gao)效(xiao)地募集投资，这一使命也应延续。董事会的任务是监督执行情况，并在必要时进行干(gan)预。
2023年(nian)11月，当部分董事会成员(yuan)执行上述任务，计划撤换在他(ta)们(men)看来明显(xian)过于迎合市场的奥尔特曼时，主要投资者微软等相关方表(biao)示反对。最终，奥尔特曼回归(gui)，权力也更大了。这让人清醒地认(ren)识(shi)到，董事会早已在很大程度上失(shi)去对这家以利润(run)为(wei)导向的子公司及其首席执行官的控制。
如果说迄今为(wei)止OpenAI仍被期望继续完成其最初使命的残余部分，那(na)么(me)随着(zhe)苏茨克韦尔的离开，“谨慎派”最终将淡入幕后。简·莱克也同时在社交平台(tai)X上公开宣布辞职。莱克和(he)苏茨克韦尔曾经(jing)是OpenAI“超(chao)级对齐”团(tuan)队的联合领导人。在人工(gong)智能领域，“对齐”指的是尝试(shi)用正确的价值观(即人类价值观)对人工(gong)智能进行编程。这样做的目的是为(wei)了避免(mian)可能出现科幻小说中恶意机器带来的那(na)种世界末日场景。OpenAI的20%可用算力被用于该项目。然而现在，苏茨克韦尔和(he)莱克都被去年(nian)11月站在奥尔特曼一边的员(yuan)工(gong)所取代(dai)。现在，奥尔特曼很可能已经(jing)最终控制了公司，公司的优先事项很可能将继续转向商业。
商业击败理想主义？
奥尔特曼的计划很宏(hong)大。
美国《华尔街日报》今年(nian)2月报道称，奥尔特曼正在寻求总额7万亿(yi)美元(不是70亿(yi)美元！)的投资来生(sheng)产AGI及其所需的算力。显(xian)然，钱从哪里来并不那(na)么(me)重(zhong)要。报道称，奥尔特曼还与阿联酋沟通。他(ta)似乎非常专注于以任何可能的方式开发AGI。他(ta)最近在斯坦福大学的一次(ci)演讲中表(biao)示，他(ta)并不关心(xin)“我们(men)是否每年(nian)烧掉(diao)5亿(yi)美元、50亿(yi)美元还是500亿(yi)美元”。他(ta)说，这是值得的，因为(wei)这将创造AGI。尽管奥尔特曼作出保证，但在人工(gong)智能领域，超(chao)级智能的可能性仍存在很大争议。
苏茨克韦尔离开OpenAI可能意味着(zhe)奥尔特曼将更积极(ji)地追求他(ta)的目标。然而，这并不意味着(zhe)人工(gong)智能的发展完全由市场来决定。正如奥尔特曼与阿拉酋的对话以及他(ta)的其他(ta)评论所表(biao)明的那(na)样，自由市场只是一种可能的资本(ben)来源：民族国家最终可能是唯一拥有足够资源为(wei)未来几代(dai)人工(gong)智能提供资金(jin)的参与者。根据美国人工(gong)智能研(yan)究所的一份报告，人工(gong)智能已经(jing)成为(wei)新的全球产业政策的重(zhong)要组(zu)成部分。
美国和(he)欧盟都启动了重(zhong)大投资计划，以促进本(ben)国对人工(gong)智能发展至关重(zhong)要的半导体芯片的发展——算力仍然是地缘政治上敏感的瓶颈(jing)，因为(wei)世界上最好(hao)的芯片主要是在中国台(tai)湾制造的。印度、南(nan)非和(he)阿联酋等国也制订(ding)了自己的投资计划和(he)法规(gui)，以促进本(ben)国技术的发展。包括谷歌前(qian)首席执行官埃里克·施密特在内的一些人甚至认(ren)为(wei)，美国和(he)中国之间正在进行人工(gong)智能军(jun)备竞赛。因此，市场和(he)民族国家可以在许多地方同心(xin)协力。这一点(dian)也可能变得很重(zhong)要，因为(wei)目前(qian)似乎还没有一家纯粹的人工(gong)智能公司为(wei)这项技术找到真正有利可图的商业模式。
对奥尔特曼来说，苏茨克韦尔的谨慎似乎主要有商业利用价值。无论如何，苏茨克韦尔经(jing)常遭(zao)到这样的指责：他(ta)对超(chao)级智能的力量发出警告，主要是为(wei)了监管人工(gong)智能并让竞争对手(shou)更难迎头(tou)赶上，或者是为(wei)了让政客们(men)关注遥远的世界末日场景，而不是失(shi)业和(he)人工(gong)智能产生(sheng)的虚假信息等实际问题。如果批评者说的是准确的，那(na)么(me)商业早已击败了理想主义。
这并不意味着(zhe)从现在起一切都会以指数级的速度变快：在训练数据、算力和(he)能源供应方面仍存在严重(zhong)瓶颈(jing)，可能会延缓(huan)这一进程。此外，AGI能否诞生(sheng)也仍然是个(ge)未知数。不过，在苏茨克韦尔离开后，这些物质障(zhang)碍似乎成为(wei)人工(gong)智能发展的最后障(zhang)碍，至少在OpenAI是如此。否则至少从现在起，座右铭将是：勇往直前(qian)，而不是小心(xin)翼翼。（编译/梅鹏鹏、聂立涛）