如(ru)何安全地发(fa)展人工智能？
5月21日周二，为期(qi)两天的“AI首尔峰会”以在线视频的方式开幕。本次会议主题主要围绕如(ru)何安全地发(fa)展AI。世界各地的领导人、科技(ji)公司的高(gao)管以及国(guo)际组织的代表，在会上共同讨论了AI的风险和潜在的好处。
在韩国(guo)总统尹(yin)锡悦和英国(guo)首相苏(su)纳克的共同主持(chi)下，16家(jia)世界领先(xian)的AI公司，包括Meta、OpenAI、谷歌、亚马逊、微软等均做出了自愿(yuan)承诺，保证在开发(fa)最前沿的AI技(ji)术时注重安全，确保AI系统不会失控并危害人类。如(ru)果发(fa)现某些极端风险无法控制，他们甚至会选择停止相关AI模型的开发(fa)。
同时，AI公司们还提出需要制定一些规则和政策框架，来评估和控制AI可(ke)能带来的风险。不仅是公司，一些国(guo)家(jia)的集团（比如(ru)G7、欧盟等）也表示(shi)支持(chi)这个想法，他们同意要把AI的安全和创新放在重要位置。
与会者还强调，虽然公司可(ke)以自愿(yuan)承诺要安全使用AI，但也需要有政府出台相关的法律来确保这些承诺能落到实处。被称为“人工智能教父(fu)”的计(ji)算机(ji)科学家(jia)Yoshua Bengio称，自愿(yuan)承诺必须伴随法律监管。目前，全球各地的政府都在努力制定AI相关的法规，例如(ru)，联合国(guo)已经通过了关于AI系统安全使用的第一项(xiang)决议，而欧盟的AI法案预计(ji)今年晚(wan)些时候将生效。
对此，网友们纷纷点赞称：“这真是个好消息！很高(gao)兴看到欧盟为协调人工智能法规而采取的进步措施(shi)。这确实有助于为人工智能道德和安全制定高(gao)标(biao)准。期(qi)待看到该法案的积极影(ying)响显现！”
虽然AI技(ji)术的迅速发(fa)展虽然可(ke)以造(zao)福人类，但同时来带了一些问题，如(ru)大批(pi)量失业、误导人们、传播(bo)错误信息等。牛津大学在X上发(fa)帖表示(shi)：“全球的AI界正在努力推动(dong)AI技(ji)术的能力越来越强大，但安全和伦理问题往往是事后才(cai)考虑的。科学家(jia)们在向世界领导人发(fa)出呼吁，要求(qiu)对AI带来的风险采取行动(dong)。他们警告(gao)说，自从AI安全峰会以来，在处理这些风险方面的进展还不够。”
在核心安全团队解散风波(bo)后，OpenAI披露公司安全措施(shi)最新情况，消除网友对公司安全问题的担忧
例如(ru)，在此前OpenAI解散了AI风险团队事件中，该团队负责人Jan Leike离职后吐真言，指责OpenAI在过去几年里(li)将华而不实的产品凌(ling)驾于安全之上，并呼吁OpenAl必须成为一家(jia)以安全为先(xian)的通用人工智能公司。Jan的发(fa)言引起了网友的广泛担忧，网友担心OpenAI是否能确保AI技(ji)术安全可(ke)靠地发(fa)展。
5月21日，在核心安全团队解散风波(bo)后，OpenAI在“AI首尔峰会”上公开分享了公司正在实施(shi)的10大安全措施(shi)：
模型测试与评估：在发(fa)布新的AI模型前，OpenAI会进行严格的安全测试，包括内部和外部的评估。如(ru)果发(fa)现风险超过了他们可(ke)接受的“中等”水平，他们会先(xian)进行改进，直到风险降低到可(ke)以接受的程度。他们还会请外部的专家(jia)来帮助评估风险。
持(chi)续的安全与对齐研究(jiu)：随着时间的推移，他们的模型在安全性上有了显著改进，这包括减少错误信息的产生和在不利条件下减少有害内容(rong)的输(shu)出。公司还在投资实用的安全系统和研究(jiu)，来进一步提高(gao)模型的安全性。
监控滥用行为：随着越来越强大的语言模型的部署，公司使用了各种工具来监控安全风险和滥用行为。他们与合作(zuo)伙伴（如(ru)微软）共同揭露了技(ji)术被滥用的情况，以帮助其他人更好地防范类似风险。
系统性的安全措施(shi)：公司在模型的每个生命周期(qi)阶段实施(shi)安全措施(shi)，从训练前到部署。他们在数据安全、模型行为控制和监控基础设施(shi)方面进行投资。
保护(hu)儿童：保护(hu)儿童是他们工作(zuo)的重点。公司在其产品中内置了强大的安全措施(shi)，以减少对儿童的潜在危害。
选举(ju)完(wan)整(zheng)性：公司与政府和其他利益相关者合作(zuo)，以防止AI生成内容(rong)的滥用，确保内容(rong)透明度，并改善公众获取准确投票信息的途径。
影(ying)响评估和政策分析投资：公司的影(ying)响评估工作(zuo)对研究(jiu)、行业规范和政策具有广泛的影(ying)响。他们也出版了关于如(ru)何管理与语言模型相关的风险的先(xian)驱性研究(jiu)。
安全与访问控制措施(shi)：公司重视保护(hu)客户、知识产权和数据安全。他们控制对AI模型的访问，并投资于网络安全，如(ru)内外部渗透测试和悬赏寻找漏(lou)洞的计(ji)划(hua)。
与政府合作(zuo)：公司与全球各地的政府合作(zuo)，共同制定有效且(qie)可(ke)适应的AI安全政策。
安全决策和董(dong)事会监督：公司有一个称为“准备框架”的系统，这个框架AI安全决策提供了指导。公司还有一个跨功能的安全顾问小组，这个小组由来自公司不同部门(men)的成员(yuan)组成。他们的任(ren)务是审查AI模型的性能报告(gao)，评估这些模型是否安全，以及在模型正式发(fa)布前提出改进建(jian)议。尽管有安全顾问小组提供建(jian)议和信息，但最终决定权在公司的高(gao)层领导手(shou)中。在这整(zheng)个过程中，公司的董(dong)事会也会进行监督。
最后，OpenAI还计(ji)划(hua)在未来继续改进这些做法。
模型测试与评估：在发(fa)布新的AI模型前，OpenAI会进行严格的安全测试，包括内部和外部的评估。如(ru)果发(fa)现风险超过了他们可(ke)接受的“中等”水平，他们会先(xian)进行改进，直到风险降低到可(ke)以接受的程度。他们还会请外部的专家(jia)来帮助评估风险。
持(chi)续的安全与对齐研究(jiu)：随着时间的推移，他们的模型在安全性上有了显著改进，这包括减少错误信息的产生和在不利条件下减少有害内容(rong)的输(shu)出。公司还在投资实用的安全系统和研究(jiu)，来进一步提高(gao)模型的安全性。
监控滥用行为：随着越来越强大的语言模型的部署，公司使用了各种工具来监控安全风险和滥用行为。他们与合作(zuo)伙伴（如(ru)微软）共同揭露了技(ji)术被滥用的情况，以帮助其他人更好地防范类似风险。
系统性的安全措施(shi)：公司在模型的每个生命周期(qi)阶段实施(shi)安全措施(shi)，从训练前到部署。他们在数据安全、模型行为控制和监控基础设施(shi)方面进行投资。
保护(hu)儿童：保护(hu)儿童是他们工作(zuo)的重点。公司在其产品中内置了强大的安全措施(shi)，以减少对儿童的潜在危害。
选举(ju)完(wan)整(zheng)性：公司与政府和其他利益相关者合作(zuo)，以防止AI生成内容(rong)的滥用，确保内容(rong)透明度，并改善公众获取准确投票信息的途径。
影(ying)响评估和政策分析投资：公司的影(ying)响评估工作(zuo)对研究(jiu)、行业规范和政策具有广泛的影(ying)响。他们也出版了关于如(ru)何管理与语言模型相关的风险的先(xian)驱性研究(jiu)。
安全与访问控制措施(shi)：公司重视保护(hu)客户、知识产权和数据安全。他们控制对AI模型的访问，并投资于网络安全，如(ru)内外部渗透测试和悬赏寻找漏(lou)洞的计(ji)划(hua)。
与政府合作(zuo)：公司与全球各地的政府合作(zuo)，共同制定有效且(qie)可(ke)适应的AI安全政策。
安全决策和董(dong)事会监督：公司有一个称为“准备框架”的系统，这个框架AI安全决策提供了指导。公司还有一个跨功能的安全顾问小组，这个小组由来自公司不同部门(men)的成员(yuan)组成。他们的任(ren)务是审查AI模型的性能报告(gao)，评估这些模型是否安全，以及在模型正式发(fa)布前提出改进建(jian)议。尽管有安全顾问小组提供建(jian)议和信息，但最终决定权在公司的高(gao)层领导手(shou)中。在这整(zheng)个过程中，公司的董(dong)事会也会进行监督。
最后，OpenAI还计(ji)划(hua)在未来继续改进这些做法。
对此，网友在X上纷纷对OpenAI表示(shi)感谢：
“很好，感谢更新！安全第一，人工智能第二。”
“继续致力于安全。非常(chang)感谢！”
“很好，感谢更新！安全第一，人工智能第二。”
“继续致力于安全。非常(chang)感谢！”