近年来，人工(gong)智能的新技术不断突破(po)、新业态持(chi)续涌现、新应用加快拓(tuo)展，已成为新一轮科技革命和产业变(bian)革的重要驱动力量。同时，人工(gong)智能发展在法律、安(an)全、就业、道德伦理等(deng)方(fang)面也面临着一系列新课题。国际组织和世界多国已开始在理念、立法和科普等(deng)方(fang)面探索人工(gong)智能治理的可行性(xing)路径并达成一些共识(shi)，努力在发展和安(an)全之间寻求(qiu)平衡，但全球人工(gong)智能治理仍面临“监管滞后”“技术鸿(hong)沟(gou)”“安(an)全泛(fan)化”“共识(shi)难聚”“归责不明”“执行不力”等(deng)挑战。
探索全球人工(gong)智能治理共识(shi)机制(zhi)
近年来，全球主要经济体和国际组织纷纷致力于人工(gong)智能治理框架的构建与迭代，积极探索全球人工(gong)智能治理共识(shi)机制(zhi)。
“从全球范围来看，人工(gong)智能已步入技术发展的‘奇点时刻’与监管治理的‘关键(jian)时刻’。”对外经济贸易大学(xue)数字(zi)经济与法律创新研究中心主任张欣(xin)在接受本报记者采访时表示，当前，作为全球科技竞争最激(ji)烈的领域之一，人工(gong)智能的国际竞争早已超越技术和产业的竞争，并实质拓(tuo)展到以法律规制(zhi)为代表的治理竞争。美国、中国、欧盟、英(ying)国、日(ri)本、韩国、加拿大、新加坡和巴西等(deng)均高度(du)重视人工(gong)智能治理，形成“技术赛道”“产品(pin)赛道”和“制(zhi)度(du)赛道”多轨并行的新格局。
国际组织积极探索促(cu)成全球人工(gong)智能治理共识(shi)达成的规范框架。张欣(xin)介绍，2019年，经济合作与发展组织发布了(le)全球首个政府间人工(gong)智能治理原则的文件。同年，二十国集团提出“G20人工(gong)智能原则”，确定了(le)人工(gong)智能应促(cu)进包容性(xing)增长、可持(chi)续发展和社(she)会(hui)福祉以及(ji)“以人为本”的价值观和“问责制(zhi)”等(deng)治理的基础性(xing)原则。2023年10月，联合国秘书长安(an)东尼奥·古特雷(lei)斯宣布组建高级别人工(gong)智能咨(zi)询机构，该(gai)机构于2023年12月发布《临时报告：以人为本的人工(gong)智能治理》。
国际组织尤为重视生成式人工(gong)智能的负责任创新。张欣(xin)介绍，联合国《全球数字(zi)契约》《关于负责任的生成式人工(gong)智能的建议》（世界经济论坛(tan)）、《生成式人工(gong)智能在教育和研究中的应用指南》等(deng)一系列文件发布，共同强调了(le)在发展和应用生成式人工(gong)智能技术时必须遵循的伦理原则和规范，进一步呼吁各(ge)国政府、私营主体、学(xue)术机构以及(ji)民间团体共同努力，加强全球合作治理。
中国一直是人工(gong)智能全球治理的积极倡导者和践行者。2021年12月，中国向联合国《特定常规武器公约》第六次审议大会(hui)提交(jiao)《中国关于规范人工(gong)智能军事应用的立场文件》，2022年11月又(you)向联合国《特定常规武器公约》缔约国大会(hui)提交(jiao)了(le)《中国关于加强人工(gong)智能伦理治理的立场文件》。2023年10月，中国提出《全球人工(gong)智能治理倡议》，为凝聚国际社(she)会(hui)共识(shi)、推进全球共享共治发挥了(le)积极作用。2024年7月，第78届联合国大会(hui)以协商一致方(fang)式通过了(le)中方(fang)主提的“加强人工(gong)智能能力建设国际合作”决议，143个联合国会(hui)员国参加联署。这是全球首个聚焦人工(gong)智能能力建设的共识(shi)性(xing)文件。
“在全球人工(gong)智能治理秩序形成的过程中，各(ge)大科技企业也积极探索人工(gong)智能治理的多元化路径，尝试探寻自(zi)我规制(zhi)的创新方(fang)案。”张欣(xin)说，一方(fang)面，科技企业积极寻求(qiu)与监管者沟(gou)通合作，力求(qiu)通过自(zi)我承诺、自(zi)我约束开展人工(gong)智能治理；另一方(fang)面，科技企业也积极开发人工(gong)智能治理工(gong)具以纾解新型技术风(feng)险(xian)，推进负责任的创新与研发。
“面对人工(gong)智能技术革新及(ji)由此引发的治理挑战，当前，全球范围内已初步形成主权国家主导、国际组织推进、科技企业协同的多方(fang)治理格局，并出现人工(gong)智能治理法治化、智慧化和软法与硬法双轨并行深度(du)治理的趋势。”张欣(xin)说。
加强人工(gong)智能治理规则的全球协作日(ri)益(yi)成为各(ge)方(fang)共识(shi)
过去一年多来，生成式人工(gong)智能技术已取得了(le)质的飞跃。这不仅(jin)体现在技术进步的速度(du)上，更体现在其广泛(fan)而深远的影响上，为各(ge)行各(ge)业带来了(le)前所未有的变(bian)革。
据美国一个面向公众开放的数据集——人工(gong)智能、算法、自(zi)动化事件和争议存储库显示，2021年新报告的人工(gong)智能事件和争议数量是2012年的26倍。其中，生成式人工(gong)智能引发的虚假(jia)信息问题尤为突出。由于虚假(jia)信息面向的是互联网信息内容领域，因此产生的影响具有行业和场景(jing)的广泛(fan)性(xing)。
“与传(chuan)统(tong)技术风(feng)险(xian)有所不同，人工(gong)智能技术风(feng)险(xian)具有隐(yin)蔽性(xing)、跨(kua)域性(xing)、全球性(xing)和长期性(xing)，需要从国际层面展开持(chi)续性(xing)、系统(tong)性(xing)和协同性(xing)的治理努力。”张欣(xin)说，人工(gong)智能技术的突破(po)式发展导致新旧风(feng)险(xian)叠加，带来了(le)一系列安(an)全和伦理挑战。由于人工(gong)智能的技术迭代以日(ri)为单位，若不在早期实施有效的介入治理，则可能出现后期风(feng)险(xian)难以控制(zhi)的治理困境。
“各(ge)国虽在人工(gong)智能治理思路和具体方(fang)案上存在差异，但加强人工(gong)智能治理规则的全球协作日(ri)益(yi)成为各(ge)方(fang)共识(shi)。”张欣(xin)说，2023年11月，人工(gong)智能安(an)全峰(feng)会(hui)在英(ying)国举行，达成了(le)全球首个人工(gong)智能治理协议《布莱切利(li)宣言》，包括中国、美国、英(ying)国等(deng)28个国家及(ji)欧盟共同签署了(le)该(gai)项(xiang)宣言。
国际社(she)会(hui)已形成共识(shi)：将“以人为本”作为人工(gong)智能研发和部署的基本原则和重要理念。张欣(xin)分(fen)析(xi)，“以人为本”这一共识(shi)意味着，在人工(gong)智能技术的开发与应用过程中，首要任务是确保技术始终以人类利(li)益(yi)为先，尊重每个个体的基本权利(li)和人的尊严，维(wei)护(hu)人的主体性(xing)地位，确保人工(gong)智能技术的发展真正服务于增进人类福祉的目(mu)标。“以人为本”的理念还(hai)强调人工(gong)智能开发应采取负责任的创新方(fang)式。这要求(qiu)在技术设计、开发和部署阶段，应系统(tong)地评估和衡量潜在的影响与风(feng)险(xian)，确保系统(tong)设计的公平性(xing)和多样性(xing)，避免(mian)技术滥用。
张欣(xin)说，从实践来看，全球人工(gong)智能治理仍然存在以下(xia)不足：一是国际组织参与度(du)高于政府，但尚(shang)未有国际组织承担起(qi)全球人工(gong)智能核(he)心监管机构的角色，各(ge)国际组织间呈现出高度(du)分(fen)散的碎片化状态。二是政府间合作多具有地域特征(zheng)和大国竞争导向。以G7国家为代表的发达国家试图构建一套普适性(xing)的人工(gong)智能监管规则， 而以金砖国家为代表的新兴市场和发展中国家在人工(gong)智能治理的国际合作中潜力尚(shang)待发挥。
不断弥合智能鸿(hong)沟(gou)和治理能力差距
由于技术发展水平和文化背(bei)景(jing)差异，各(ge)国对人工(gong)智能风(feng)险(xian)的感知也显著(zhu)不同。斯坦福大学(xue)人工(gong)智能研究所发布的《2023年人工(gong)智能指数报告》引用调查(cha)机构易普索2022年的调查(cha)指出，部分(fen)发展中国家对人工(gong)智能普遍更加乐观。如78%的中国受访者同意“使用人工(gong)智能产品(pin)和服务的好处多于坏处”的观点，76%的沙特阿拉伯受访者和71%的印(yin)度(du)受访者认为人工(gong)智能产品(pin)“利(li)大于弊”。德国、荷兰、澳大利(li)亚、比利(li)时和加拿大等(deng)一些发达国家对人工(gong)智能产品(pin)和服务的评价则稍显负面。
“打造一个全方(fang)位、多层次、汇聚广泛(fan)共识(shi)， 具有真正的包容性(xing)、平等(deng)性(xing)、多元性(xing)的治理框架仍然面临多项(xiang)挑战。其中尤为突出的当属意识(shi)形态对人工(gong)智能治理框架的影响以及(ji)资本逐(zhu)利(li)带来的负面冲击。”张欣(xin)认为，面对人工(gong)智能技术创新及(ji)接踵而来的治理挑战，全球人工(gong)智能治理确实已站在历史(shi)选择(ze)的“关键(jian)十字(zi)路口(kou)”，能否(fou)超越分(fen)歧达致共识(shi)，能否(fou)超越个别利(li)益(yi)实现共同利(li)益(yi)，是决定全球人工(gong)智能治理模式是否(fou)有韧性(xing)、有效的关键(jian)因素。
张欣(xin)说，全球人工(gong)智能治理面临归责框架不清晰和协作治理机制(zhi)不健全等(deng)问题。如何处理数据安(an)全、隐(yin)私保护(hu)、算法滥用等(deng)问题，并形成全球范围内的协同有效治理，也是当前的重要议题。
中国始终将发展中国家的期待与需求(qiu)放在重要位置。《全球人工(gong)智能治理倡议》指出，增强发展中国家在人工(gong)智能全球治理中的代表性(xing)和发言权，确保各(ge)国人工(gong)智能发展与治理的权利(li)平等(deng)、机会(hui)平等(deng)、规则平等(deng)，开展面向发展中国家的国际合作与援助，不断弥合智能鸿(hong)沟(gou)和治理能力差距。
中国常驻联合国代表傅聪介绍加强人工(gong)智能能力建设国际合作决议草案时表示，大多数国家特别是发展中国家尚(shang)未能真正接触、使用人工(gong)智能并从中受益(yi)，全球数字(zi)鸿(hong)沟(gou)仍有扩大之势。在此背(bei)景(jing)下(xia)，中国顺(shun)应广大国家特别是发展中国家的期待，倡导人工(gong)智能能力建设国际合作，平等(deng)发展和利(li)用人工(gong)智能技术，共享人工(gong)智能知识(shi)成果，体现了(le)中国对人工(gong)智能发展和治理的负责任态度(du)。
“发展中国家与发达经济体之间在人工(gong)智能技术发展和治理议程设置能力上仍存在‘智能鸿(hong)沟(gou)’和治理代差。”张欣(xin)说，构建全球人工(gong)智能治理机制(zhi)需要以包容性(xing)、平等(deng)性(xing)、多元性(xing)为基础原则，探索政府间、企业间、专(zhuan)家间的对话交(jiao)流和磋商机制(zhi)，通过在重点领域率(lu)先凝聚治理共识(shi)推动实现协同发展、和谐共荣的治理格局。