日前，欧(ou)盟理事(shi)会正式批准了《人工智(zhi)能法(fa)案》。该法(fa)案已于今(jin)年3月(yue)份(fen)在欧(ou)洲议会高票通过(guo)，时(shi)隔2个多月(yue)后在欧(ou)盟理事(shi)会获批，标志(zhi)着(zhe)全球(qiu)首个对人工智(zhi)能（AI）进行规范的系统性法(fa)律正式进入落实阶段(duan)。
分级分类管理
欧(ou)盟《人工智(zhi)能法(fa)案》将防控风险作为基(ji)础，“风险”概念贯穿法(fa)案始终(zhong)。法(fa)案将各类AI技(ji)术和应用(yong)分为三大类，按照其对社会带来的风险严重程度(du)由高至(zhi)低分别为“不可接受”“高风险”和“通用(yong)”。
“不可接受”类包括利用(yong)AI技(ji)术采集和分析数据，并据此对欧(ou)盟公民进行标签(qian)化分类，还(hai)包括先于犯罪行为实际发生的预防性执法(fa)，以及在工作场所和学校进行情绪识别和干预。法(fa)案明确禁止此类AI应用(yong)，禁令(ling)将于今(jin)年11月(yue)份(fen)正式生效，也是(shi)法(fa)案最早实际生效的部(bu)分。
“高风险”类包括AI驾驶汽(qi)车以及AI操控医疗设备(bei)，因为此类应用(yong)有可能对公民的健康、安全等基(ji)础权利构(gou)成风险；还(hai)包括AI在金融服务和教育领(ling)域的应用(yong)，主要为了防止算法(fa)设计上出现偏见导(dao)致特(te)定群体利益受损。法(fa)案明确要求，此类高风险应用(yong)需符合相关(guan)产(chan)品安全规定，这一要求将在2027年夏季正式实施。
“通用(yong)”类即当前高度(du)流行的生成式AI系统，法(fa)案对其作出了严格的要求限制，包括要遵守欧(ou)盟版权法(fa)，要对模型的训练(lian)模式保持透明度(du)，要有网络安全保护措施，以及要经过(guo)定期测试。有关(guan)限制将在2025年夏季起正式实施，但此后仍将有3年的“过(guo)渡期”让有关(guan)企业调(diao)整其产(chan)品以确保合规。
重罚促进合规
针对有可能出现的违(wei)法(fa)行为，法(fa)案规定了较大的处(chu)罚力度(du)。根据违(wei)法(fa)行为的严重程度(du)，法(fa)案设计了阶梯状的处(chu)罚条款，最低处(chu)罚额度(du)是(shi)820万美元或违(wei)法(fa)企业全球(qiu)营(ying)业额的1.5%，最高处(chu)罚额度(du)是(shi)3790万美元或违(wei)法(fa)企业全球(qiu)营(ying)业额的7%。值得注意的是(shi)，在每一级的处(chu)罚阶梯上，法(fa)案都规定处(chu)罚实际金额将在固定金额和营(ying)业额比(bi)例金额中取其高者。以微软(ruan)、谷歌为例，二者在2023年的全球(qiu)营(ying)业额均在2000亿(yi)美元以上，在各个处(chu)罚阶梯上的比(bi)例罚款都远高于定额罚款，按照法(fa)案“就(jiu)高不就(jiu)低”的规定，企业的违(wei)法(fa)成本异常(chang)高昂。另外(wai)，考虑到AI企业以大型跨国、跨行业企业为主，其全球(qiu)营(ying)业额不仅来自欧(ou)盟以外(wai)市场，还(hai)来自AI以外(wai)领(ling)域。因在欧(ou)盟AI业务中违(wei)法(fa)受罚，导(dao)致在其他市场、其他行业的营(ying)业额受损，更加大了法(fa)案对有关(guan)企业的震慑(she)力度(du)。
面对欧(ou)盟严法(fa)重罚的威慑(she)，首先感受到压力的是(shi)美国互联(lian)网公司。美咨询(xun)机构(gou)“责任AI研究(jiu)所”创始人向媒体表示，近来收到的业务咨询(xun)量正在增加，因为成员企业正在为一个新的未来环境做准备(bei)。在这一环境下，确保业务的合法(fa)合规不仅具有强制性，而且也将成为其在全球(qiu)市场上的竞争优势。所有公司都很重视这一法(fa)案，这一法(fa)案开创的先例将对全球(qiu)人工智(zhi)能治理具有重要意义。
引(yin)发连(lian)锁反应
当前“主权AI”概念正在快速(su)兴起，主要国家(jia)均有意推动主权AI立法(fa)，创造对自身发展和安全有利的人工智(zhi)能法(fa)律环境。欧(ou)盟通过(guo)全球(qiu)首个《人工智(zhi)能法(fa)案》，在全球(qiu)范围内的示范效应突出，势必会刺激其他国家(jia)以各种方式加强应对。
此次欧(ou)盟通过(guo)的《人工智(zhi)能法(fa)案》酝酿于2021年，针对的正是(shi)AI技(ji)术快速(su)发展对社会安全和公民权利的冲击。法(fa)案提(ti)出以来，一直被贴有“世界(jie)首个”“全球(qiu)最严”等标签(qian)，也引(yin)发了其他国家(jia)或加以效仿，或对冲反制的连(lian)锁反应。去年年末，美众(zhong)议院两党议员因担忧欧(ou)盟AI立法(fa)损害(hai)美国科技(ji)企业利益，增加美企在欧(ou)洲的经营(ying)成本，联(lian)合致信拜登总统要求反制。
此次欧(ou)盟批准法(fa)案后，美“责任AI研究(jiu)所”就(jiu)表示美国人不希望看到欧(ou)洲在AI治理上走在前列，美国需要起草(cao)自己(ji)的政策。该研究(jiu)所近期进行的民调(diao)显示，大多数美国人都希望看到美国在AI治理上走自己(ji)的路而非按照欧(ou)盟规则行事(shi)。该研究(jiu)所还(hai)表示，欧(ou)盟《人工智(zhi)能法(fa)案》总体来看是(shi)积极并且方向正确的，但是(shi)有很多改进的空间。美国版的AI法(fa)案将在管控大模型风险的同时(shi)，更加注重对创新的支持。
有公共政策专(zhuan)家(jia)分析认为，此次欧(ou)盟《人工智(zhi)能法(fa)案》进入执行阶段(duan)，标志(zhi)着(zhe)新一轮立法(fa)热潮的兴起。欧(ou)盟《人工智(zhi)能法(fa)案》将对其他国家(jia)的相关(guan)立法(fa)工作产(chan)生重要影响。总体来说，欧(ou)盟有意复制自身在数据保护工作中的成功经验，希望通过(guo)本法(fa)案为AI规范制定“黄金标准”，但其他国家(jia)或将采取更加灵(ling)活的政策。
文/梁桐
图源/视觉中国
编辑/姬源