【文(wen)/观察者网专(zhuan)栏作者 熊节(jie)】
5月14日，为落实中美元(yuan)首旧金山会晤共(gong)识(shi)，两国代表在(zai)瑞士日内瓦举行中美人(ren)工智(zhi)能政府间对话首次会议，就人(ren)工智(zhi)能科技风险、全球治理以(yi)及各自关切的其他问题进行交流。
据《华盛顿(dun)邮报(bao)》报(bao)道，美方参加此(ci)次会谈的主(zhu)要代表，包(bao)括国务院关键技术和新(xin)兴技术代理特使Seth Center博士（曾担任白宫国家(jia)安全委员会的国家(jia)安全战(zhan)略和历史主(zhu)任）、国家(jia)安全委员会技术与国家(jia)安全高级主(zhu)任Tarun Chhabra（曾在(zai)白宫国家(jia)安全委员会担任战(zhan)略规划主(zhu)任和人(ren)权与国家(jia)安全问题主(zhu)任、以(yi)及两任国防部长的演讲稿撰写人(ren)）。
美联社(she)的分析认为，美方在(zai)这次会议中的主(zhu)要目标是“一窥中国政府对人(ren)工智(zhi)能的想(xiang)法”、“就如(ru)何提(ti)高人(ren)工智(zhi)能的安全性(xing)展(zhan)开坦诚讨论”，尤其是“人(ren)工智(zhi)能被(bei)武器化(hua)”的风险。两名主(zhu)要代表的身份背景(jing)可以(yi)说验证了这一分析。
中美举行人(ren)工智(zhi)能政府间对话首次会议
美国政府对AI风险的认知，在(zai)去年11月30日拜登总统发布的《关于人(ren)工智(zhi)能的安全、可靠、可信发展(zhan)和使用的总统令》中有集中的阐述。从这份总统令及白宫的官方解(jie)读中可以(yi)看到，美国在(zai)AI领域的担忧包(bao)括以(yi)下(xia)几方面(mian)：
1.关键基础设(she)施中使用AI的安全、可靠和可信，以(yi)及由(you)于不(bu)安全、不(bu)可靠、不(bu)可信的AI可能导致的化(hua)学(xue)、生物、辐(fu)射、核、及赛博风险。
2.利用AI研发危险生物材料的风险。
3.利用AI生成内容（AIGC）欺诈或制造(zao)假新(xin)闻的风险。
4.美国人(ren)隐私(si)数据泄露的风险。
5.AI制造(zao)或强化(hua)社(she)会既有歧视（尤其是种族歧视）的风险。
6.AI造(zao)成工作环境恶化(hua)、工作机会减(jian)少的风险。
7.美国失去AI领域全球领先(xian)地位的风险。
1.关键基础设(she)施中使用AI的安全、可靠和可信，以(yi)及由(you)于不(bu)安全、不(bu)可靠、不(bu)可信的AI可能导致的化(hua)学(xue)、生物、辐(fu)射、核、及赛博风险。
2.利用AI研发危险生物材料的风险。
3.利用AI生成内容（AIGC）欺诈或制造(zao)假新(xin)闻的风险。
4.美国人(ren)隐私(si)数据泄露的风险。
5.AI制造(zao)或强化(hua)社(she)会既有歧视（尤其是种族歧视）的风险。
6.AI造(zao)成工作环境恶化(hua)、工作机会减(jian)少的风险。
7.美国失去AI领域全球领先(xian)地位的风险。
从上述7个方面(mian)的风险评估中可以(yi)看到，拜登政府最重视的风险，还是AI被(bei)假想(xiang)中的敌国武器化(hua)、对美国国家(jia)安全造(zao)成危害的可能性(xing)，体(ti)现了美国近几年来一贯的对抗思维模式。不(bu)过这些风险评估倒也不(bu)是完全空穴来风。
以(yi)“利用AIGC制造(zao)假新(xin)闻”为例，就在(zai)最近，在(zai)一条快(kuai)速爆火的短视频中，白宫发言人(ren)让-皮(pi)埃尔在(zai)新(xin)闻发布会面(mian)对记者提(ti)问时，声称“二战(zhan)是美国和乌(wu)克兰联合起来打击希特勒(le)和斯大林的战(zhan)争”。但很快(kuai)这条视频就被(bei)证实是利用AI技术伪造(zao)的：白宫新(xin)闻发布会并未提(ti)及这个话题，发言人(ren)也从未做过这番论述。据说这条视频最初开始在(zai)互联网上流传时配(pei)了俄(e)语字幕(mu)，因此(ci)有人(ren)怀(huai)疑是俄(e)罗斯制造(zao)的假新(xin)闻。
随着Deepfake等利用人(ren)工智(zhi)能伪造(zao)视频的技术日益成熟，类似的伪造(zao)名人(ren)、政治家(jia)发言的视频也越来越多。不(bu)仅(jin)普(pu)通网民难辨(bian)真假，连媒体(ti)也时常上当受(shou)骗。前(qian)面(mian)所说的这条短视频在(zai)互联网上流行以(yi)后，我(wo)国几家(jia)主(zhu)流媒体(ti)的视频号也相继(ji)转发，并配(pei)上了中文(wen)字幕(mu)。
AIGC制造(zao)的白宫发言人(ren)让-皮(pi)埃尔假新(xin)闻
另一方面(mian)，核实视频信息也确实并不(bu)容易。近两天中文(wen)互联网上又在(zai)流传一条题为“特朗普(pu)正式支持TikTok，向封禁TikTok宣战(zhan)”的短视频，笔者认为也很有人(ren)工智(zhi)能伪造(zao)的嫌疑，但尚无法验证。人(ren)工智(zhi)能技术的发展(zhan)使炮制这样的假视频、假新(xin)闻变得特别容易，确实构成了对社(she)会秩序的威胁。
为了应对这些风险，拜登政府采取的首要措施，就是加强政府对AI领域相关企业(ye)的监管与合作。白宫对总统令的官方解(jie)读开篇第一条就强调，要求“最强大的AI系统向美国政府分享其安全测试的结果及其他关键信息”，并提(ti)出：根据《国防生产法》（Defense Production Act），总统令要求开发任何对国家(jia)安全、国家(jia)经济安全或国家(jia)公共(gong)健康和安全构成严重风险的基础模型的公司(si)，在(zai)训练模型时必(bi)须通知联邦政府。
《国防生产法》是1950年9月8日美国国会为了入侵朝鲜而颁布的法律，立法通过之后一周，美军就在(zai)仁川(chuan)大规模登陆。这项法律对军事物资和设(she)施的生产及分配(pei)进行国家(jia)管制，在(zai)入侵朝鲜和冷战(zhan)期间对美国军工复合体(ti)的快(kuai)速发展(zhan)和高效运转发挥(hui)了重要作用。拜登政府援引这项法律监管AI行业(ye)，很明显已经将AI视为未来战(zhan)争中的重要资源，并进一步明确几家(jia)主(zhu)要的AI企业(ye)在(zai)军事-工业(ye)-情报(bao)-科技复合体(ti)中的重要地位。
总统令提(ti)出的另一项措施也很值得关注：建立一个先(xian)进的网络安全计划，开发人(ren)工智(zhi)能工具来发现和修复关键软(ruan)件中的漏洞。正如(ru)笔者在(zai)此(ci)前(qian)的一篇文(wen)章中介绍过的，软(ruan)件产品中绝大部分、经常多达99%的代码是以(yi)依赖的形式引入的，厂商(shang)自主(zhu)编写的代码通常只占整个软(ruan)件的1%左右。一个典型的现代商(shang)用软(ruan)件通常会依赖几千、上万个开源组件，其中任何一个组件被(bei)发现安全漏洞，都可能给整个系统造(zao)成损害。
据实时通信软(ruan)件Telegram的创(chuang)始人(ren)Durov披(pi)露，美国政府曾试图说服一名Telegram的员工在(zai)代码中使用某(mou)个特定的开源库——这个开源库很可能已经被(bei)美国情报(bao)机构渗透，任何使用该开源库的软(ruan)件就会无声无息地向美国政府打开“后门”。
不(bu)难想(xiang)象，如(ru)果某(mou)个国家(jia)的情报(bao)机构掌握了大量尚未被(bei)IT业(ye)界知悉的安全漏洞，它就会获得大量机会侵入全世界的互联网系统，进行大范围监听、甚至进行网络破(po)坏。而使用AI来辅助发现关键软(ruan)件中的漏洞，很有可能将获得这种可利用的漏洞的机会提(ti)高一到两个数量级。打个形象的比(bi)喻，这个所谓“先(xian)进的网络安全计划”，就是一个现代网络战(zhan)争的智(zhi)能化(hua)军工厂，源源不(bu)断地产出可以(yi)用于入侵敌国网络的武器。
2023年10月30日，美国总统拜登在(zai)华盛顿(dun)白宫签署人(ren)工智(zhi)能监管行政令。 图源：新(xin)华社(she)
整个总统令中几乎没有提(ti)到AI与传统产业(ye)的结合，这一点也并不(bu)出人(ren)意料。在(zai)整体(ti)去工业(ye)化(hua)的大背景(jing)下(xia)，美国的AI产业(ye)发展(zhan)高度(du)虚拟化(hua)，与实体(ti)产业(ye)结合很少。然而总统令中有一处AI与实体(ti)产业(ye)的结合点，应当引起注意：防范利用人(ren)工智(zhi)能设(she)计危险生物材料的风险。
今年4月29日，白宫宣布相关政府部门已经“建立核酸合成筛选框(kuang)架，以(yi)帮助防止滥用人(ren)工智(zhi)能设(she)计危险生物材料”、“商(shang)务部还努力与私(si)营部门合作，制定技术指南以(yi)促进实施”、“各部门将要求接受(shou)政府资助的项目实施方，只能从经过筛选的供应商(shang)处获得合成核酸”。
解(jie)读一下(xia)，上面(mian)这几句官样文(wen)字透露出的信息就是：已经有企业(ye)在(zai)利用人(ren)工智(zhi)能“设(she)计危险生物材料”了，并且政府将一方面(mian)限制其他企业(ye)进入这一领域、另一方面(mian)指定相关的政府采购只能在(zai)有限的企业(ye)范围内选择。简而言之，已经有“设(she)计危险生物材料”的企业(ye)被(bei)纳入了军工复合体(ti)。总统令中的相关内容，很有可能就是这家(jia)/这些企业(ye)推动写入的。联系到美国过去包(bao)庇731部队战(zhan)犯、接收日本细菌战(zhan)资料、在(zai)朝鲜战(zhan)场进行细菌战(zhan)、在(zai)德特里克堡研制生物武器等行径，AI在(zai)这一领域的应用着实令人(ren)担忧。
总统令中也提(ti)到了一些过去十多年来反复被(bei)提(ti)及的国内问题，例如(ru)种族歧视、劳工待遇、教育(yu)、系统性(xing)剥削、歧视性(xing)执法等。早(zao)在(zai)AI技术取得大发展(zhan)之前(qian)，美国已有很多有识(shi)之士批评互联网和大数据会固化(hua)并加剧这些社(she)会问题。但掌控着数字空间的几家(jia)“科技巨头”（如(ru)Google、Facebook等）对学(xue)界和民间的批评一贯置若罔闻。例如(ru)2018年，“Data for Black Lives”组织的创(chuang)始人(ren)Milner以(yi)公开信形式呼吁(yu)Facebook与该组织合作，解(jie)决Facebook平台上存在(zai)的系统性(xing)种族歧视问题，但Facebook对此(ci)没有任何回应。
到2021年，发表在(zai)《华盛顿(dun)邮报(bao)》的一篇文(wen)章指出，Facebook的仇恨(hen)言论检测算法显然仍(reng)存在(zai)严重的种族歧视：针对犹太人(ren)的刻板印象和仇恨(hen)言论会被(bei)该平台禁止，而针对黑人(ren)和有色(se)族裔的诽谤和种族主(zhu)义语言则(ze)不(bu)被(bei)惩罚。现在(zai)，掌握AI技术的是同样的几家(jia)科技巨头，他们是否会在(zai)拜登总统令的号召下(xia)整改这些已经被(bei)批评了十多年的问题，笔者对此(ci)并不(bu)乐观。
从去年11月的总统令之后，美国政府展(zhan)现出了很强的执行力：多个政府部门加大了招聘AI人(ren)才的力度(du)，并开设(she)了“ai.gov”网站专(zhuan)门跟踪汇总“确保美国在(zai)安全、可靠、可信的人(ren)工智(zhi)能创(chuang)新(xin)方面(mian)处于领先(xian)地位，在(zai)利用人(ren)工智(zhi)能机遇的同时降低(di)其风险”相关的信息。总统令颁布后的90天（1月29日）和180天（4月29日），白宫分别公布了相关项目的进展(zhan)情况，列出了各部门已完成的数十项任务。鉴于美国政府一贯以(yi)公私(si)协作的方式开展(zhan)工作，笔者认为这反映出几家(jia)AI科技巨头企业(ye)正在(zai)积(ji)极(ji)地向政府施加影(ying)响。
据笔者了解(jie)，我(wo)国对于AI潜在(zai)风险的认知与美方大同小异(yi)。但在(zai)实际的风险应对和产业(ye)促进的措施上，两国就体(ti)现出了很大的差异(yi)。
美国一边宣称要避免AI武器化(hua)，一边积(ji)极(ji)地将科技企业(ye)纳入军事-工业(ye)-情报(bao)-科技复合体(ti)、将AI技术纳入未来战(zhan)争武器库——我(wo)们当然还记得，Google是如(ru)何与美国军方紧密合作，Facebook又是如(ru)何积(ji)极(ji)干预多个国家(jia)的政治。
而中国的AI战(zhan)略则(ze)更(geng)注重赋能实体(ti)经济，成为推进现代化(hua)产业(ye)体(ti)系建设(she)、发展(zhan)新(xin)质生产力的动力。这也解(jie)释了为何我(wo)国官方对大模型、AIGC的态度(du)相对冷淡，因为尚未看到能聊天的ChatGPT、能画画的Midjourney、能做视频的Sora究(jiu)竟(jing)应当如(ru)何转化(hua)为工业(ye)、农业(ye)的新(xin)质生产力，尽管这些工具显然在(zai)意识(shi)形态战(zhan)场上很有转化(hua)为新(xin)一代武器的潜力。对于AI可能引发的国内社(she)会问题，我(wo)国也通过《互联网信息服务算法推荐管理规定》、《生成式人(ren)工智(zhi)能服务管理暂行办法》等监管措施尝试解(jie)决。但由(you)于两国社(she)会制度(du)的重大差异(yi)，这些国内经验在(zai)多大程度(du)上对美国有参考(kao)借鉴意义尚且存疑。
基于如(ru)此(ci)差异(yi)巨大的出发点，美国业(ye)内专(zhuan)家(jia)对此(ci)次中美人(ren)工智(zhi)能政府间对话期望不(bu)高，认为这很可能只是双(shuang)方互相认识(shi)的一次会议，可能不(bu)会产生什么具体(ti)结果，只是启动相关对话。
避免AI被(bei)武器化(hua)、释放AI对人(ren)类生产力的促进作用、共(gong)同解(jie)决AI带(dai)来的社(she)会问题，这是全世界都期望看到的进展(zhan)，也是中美两个最重要的数字科技强国不(bu)可回避的责任。如(ru)果美国能放下(xia)对抗心(xin)态，真诚地与中国开展(zhan)合作，而不(bu)是试图独占AI武器、率先(xian)占据未来战(zhan)争的优势(shi)地位，那将对AI发展(zhan)历程发挥(hui)很大的正面(mian)作用。但是，从现有的种种迹象来看，笔者对美国政府的觉悟并不(bu)乐观。