WAIC2024
人工智能未来会抢(qiang)走人类的工作吗(ma)？
如何完善人工智能法律治(zhi)理？
美国和(he)中国的人工治(zhi)理模式有何同异之处？
7月5日上午，由同济大学和(he)上海市杨浦(pu)区人民(min)政府联合(he)举办的2024世界(jie)人工智能大会智能社会论(lun)坛开启主旨演(yan)讲，邀请6位国内外不同领域(yu)的重磅嘉宾(bin)，包含人工智能、公共管理、法律、网络安全、经济等领域(yu)的国内外权威专家发表演(yan)讲，将(jiang)人工智能的过去、现在与未来抽丝剥茧、娓娓道来。
金耀初（Yaochu Jin）：AI会不会是“聪明(ming)的汉斯”？
欧洲(zhou)科学院院士、IEEE Fellow、西(xi)湖大学人工智能讲席教授金耀初作为首位演(yan)讲嘉宾(bin)，以“浅谈人工智能治(zhi)理”为题，简要介绍了人工智能的发展历程，并讲述了人工智能所面临的风险、技(ji)术补救措施和(he)政府管理。
他提到了人工智能自(zi)1956年起至今(jin)的三个“春天”和(he)三个“寒冬”，其中让当(dang)下人印(yin)象(xiang)最深刻的就是Chat GPT所带来的第三个“春天”，它的对话流畅程度值(zhi)得惊奇，也(ye)推动AI大模型进(jin)入(ru)高速发展阶段。
在人工智能所面临的风险方面，金耀初列出了安全性、隐私、公平性、可(ke)解释性、鲁棒性、责任心这六大相关要素，针对每一要素提出了高风险的问(wen)题和(he)技(ji)术应对方法，引起现场人员的思(si)考。在讲到人工智能的可(ke)解释性时，金耀初举了一个简单的例子：在20世纪初，有一匹叫汉斯的马震惊众人，它经过一段时间的训练后(hou)，掌(zhang)握了基础的数学运算。当(dang)人们向它呈现算数题时，它会用蹄子精准敲击(ji)正确答案。然而，后(hou)来它被发现并不会算数，只是看懂了出题人脸(lian)上的表情而已。“我们的AI，会不会也(ye)是聪明(ming)的‘汉斯’？也(ye)许因果(guo)学习能够帮助克服这方面的不足。”
最后(hou)，在人工智能的政府管理上，金耀初就“我们到底要规(gui)范什么”这一问(wen)题，分享了自(zi)己的观点。他认为，政府应该规(gui)范人工智能的产品和(he)应用场景(jing)，而非(fei)技(ji)术本身。
吴志强：“人与AI应和(he)谐共生。”
中国工程院院士、同济大学原副校长吴志强的演(yan)讲主题为“社会智能关于HAI主义的破题”。HAI主义，是指Human AI主义，将(jiang)“人”这一概念与AI相结合(he)，以期实现人与AI的深度合(he)作，推动人类智慧与AI技(ji)术的共生共创(chuang)。
在吴志强看来，HAI主义有五大原则：人本互助、透明(ming)互信、安全互保、可(ke)控互动、伦理互育。“AI的发展，必(bi)须围(wei)绕人本身的需求，这是一切的起点。”吴志强说，“比如我们曾经在规(gui)划一座城市的功能布局时，先对几十万人做了一次大数据调查，排(pai)摸他们的幸福感来源于哪里、他们吐槽最多的又是什么，以此来做出决(jue)策。我还记得在厦门，让当(dang)地(di)人幸福指数最高的词(ci)是沙茶面，那我们规(gui)划时绝(jue)对不能忘了这碗特殊的面。”
HAI主义在上海，就成(cheng)了“海”主义。吴志强说，HAI主义就是人与AI的互动，也(ye)正是这样的互动，将(jiang)推动智能社会不断向前迈进(jin)，实现以人为本、AI向善。
加布里埃尔·马志尼（Gabriele Mazzini）：走近欧盟《人工智能法》
欧盟委员会官员、欧盟《人工智能法》起草小组组长加布里埃尔·马志尼以视频形式发表演(yan)讲，全方位讲解了《人工智能法》的制定背景(jing)、性质、内容、适用情况(kuang)等。
今(jin)年5月，欧盟理事会正式批准欧盟《人工智能法》，这被认为是全球(qiu)首部综合(he)性人工智能治(zhi)理立法。该法对人工智能系统进(jin)行了分类，并根据风险等级制定了相应的监管要求，设定了普适、全面的人工智能监管方法，包括数据管理、透明(ming)度、可(ke)解释性、人类监督等方面。《人工智能法》通过后(hou)，欧盟还宣(xuan)布成(cheng)立人工智能办公室，依法对人工智能发展进(jin)行监管。
加布里埃尔·马志尼着(zhe)重提到了“风险”一词(ci)。他介绍道，《人工智能法》遵循“基于风险”的考量，按照人工智能系统对用户和(he)社会的潜在影响程度将(jiang)其分为4类：不可(ke)接受风险类、高风险类、有限风险类、最小风险类。风险等级越高，管控越严格(ge)。该法尤其强调对高风险人工智能系统的规(gui)范和(he)约束。
演(yan)讲最后(hou)，加布里埃尔·马志尼提醒：“《人工智能法》将(jiang)来生效后(hou)，并非(fei)所有规(gui)则都(dou)于同一时间生效，而是将(jiang)根据内容，分阶段开始生效。”
马特·希恩（Matt Sheehan）：探索中美AI治(zhi)理新(xin)路径
卡内基国际和(he)平研究院研究员马特·希恩以“美中人工智能对话：障碍和(he)前路”为题，从今(jin)年5月在瑞(rui)士举行的中美人工智能政府间对话首次会议切入(ru)，讲述了中美双方在前沿AI治(zhi)理方面的精彩碰撞与生动成(cheng)果(guo)，并展望了两国政策制定者、科学家、研究人员在人工智能方面的互动发展。
人工智能作为一项革命性技(ji)术，正进(jin)入(ru)爆发式发展阶段。中美人工智能政府间对话首次会议上，中美双方围(wei)绕人工智能科技(ji)风险、全球(qiu)治(zhi)理和(he)各自(zi)关切的其他问(wen)题深入(ru)、专业、建设性地(di)交换了意见。“这是一场很重要的对话，因为在前沿AI的问(wen)题上，需要中美双方的共同努力。”马特·希恩表示，“面对AI所带来的风险，中美之间需要携起手来共同应对，这种合(he)作并非(fei)仅限于政府层面，也(ye)可(ke)以推动开展更多专家学者、科学家、企业之间的有效对话，我想这会成(cheng)为保障中美AI安全性的重要一环(huan)。”
对于中美未来的AI发展，马特·希恩保持乐观态度。“中美双方的相关人士都(dou)可(ke)以积极开展非(fei)政府对话，从中互相分享、借鉴、学习，交流有效的AI实践成(cheng)果(guo)，推动AI的不断发展。”
陆凯（Karman Lucero）：中美双方的“星(xing)系碰撞”
耶鲁大学法学院蔡中曾中国研究中心研究员陆凯带来了“中美两国人工智能治(zhi)理的挑(tiao)战”主题演(yan)讲。
演(yan)讲中，陆凯介绍了美国国内的人工智能治(zhi)理模式和(he)参与国际人工智能治(zhi)理的现状，并阐述了中国的人工智能治(zhi)理生态，从制度体系上进(jin)行了双方对比。他表示，中美双方的人工智能治(zhi)理体系不同，但在某些方面也(ye)有异曲同工之妙。
“中美双方的人工智能，就像两个宇宙星(xing)系一样。星(xing)系的碰撞并不一定会毁灭(mie)掉(diao)彼此，更可(ke)能会带来一种共同的变化(hua)，使得双方都(dou)变得更加光明(ming)、明(ming)亮。”陆凯说。
苏竣：人工智能的发展会影响人类就业吗(ma)？
清华大学智能社会治(zhi)理研究院院长、全国人工智能社会实验专家组组长苏竣的演(yan)讲题目为“应对智能社会的技(ji)术变革：历史(shi)经验与现实挑(tiao)战”，从人工智能与新(xin)质生产力、智能社会治(zhi)理的几个前沿问(wen)题、应对技(ji)术变革的历史(shi)经验、构建人文智能社会四个方面，介绍了智能社会大背景(jing)下可(ke)能和(he)已经出现的社会问(wen)题，传递了过去的经验做法，并提出了对未来人文智能社会的美好憧憬。
信息茧房带来的群(qun)体极化(hua)、灵活(huo)就业与劳动替代、大模型“价值(zhi)观”测评、人工智能与能源问(wen)题、网络游戏与赛博文明(ming)……人类智能社会催生了无数治(zhi)理问(wen)题。如在就业方面，苏竣提出，人工智能的高速发展可(ke)能在未来造就人类除就业、失(shi)业以外的第三种就业状态：游业。“人工智能把人类的工作做掉(diao)了，社会岗位的体量大规(gui)模缩减(jian)，这就使得一群(qun)人不参加社会生产性务工劳动，或不以劳动作为获取经济回报的途径。这，就是游业。人类将(jiang)会需要在这一情况(kuang)下，解决(jue)‘如何度过无意义的时光’这一问(wen)题。”
对此，苏竣带来了三种应对技(ji)术变革的历史(shi)方法。一是社会精英，尤其是知识分子，出于人文主义精神和(he)强烈的社会责任感，关心关注突(tu)破性技(ji)术的社会影响；二是政府基于公共利益和(he)公共价值(zhi)，综合(he)采用多种政策工具，引导技(ji)术创(chuang)新(xin)，有效规(gui)制风险；三是公众提升科学素养，增强风险意识，积极参与技(ji)术变革的治(zhi)理。
“未来，我们期待为后(hou)代构建一个什么样的智能社会？”苏竣说，“一个人文智能社会。在这里，科学技(ji)术高度发达，智能技(ji)术广泛应用，技(ji)术理性和(he)价值(zhi)理性综合(he)平衡(heng)，人、环(huan)境、技(ji)术和(he)谐共生……”
来源：上海杨浦(pu)