6月11日(ri)，香港(gang)个人资料私隐专(zhuan)员公署发布《人工(gong)智能(neng) （AI）： 个人资料保障模范框架》（下(xia)称《模范框架》）。
《模范框架》涵(han)盖4大范畴，具体包括：制订(ding)AI策略及管治架构；进行风险评估及人为监督；实行AI模型的(de)定制与AI系统的(de)实施及管理；以及促进与持份者(zhe)的(de)沟通及交流。
个人资料私隐专(zhuan)员钟(zhong)丽玲12日(ri)向媒(mei)体表示，香港(gang)企业使用AI呈现上升的(de)趋(qu)势，希望《框架》为机构使用人工(gong)智能(neng)系统时提供指引，持续监督AI系统，降低个人资料外泄的(de)风险，特别(bie)是风险高的(de)环(huan)节，应加强人为监督。
据悉，《模范框架》是亚太区首个在人工(gong)智能(neng)领域(yu)针对保障个人资料隐私制定的(de)指引性框架。
2021年9月26日(ri)，中国国家新一代人工(gong)智能(neng)治理专(zhuan)业委(wei)员会发布了《新一代人工(gong)智能(neng)伦理规范》(以下(xia)简称“《规范》”)，旨(zhi)在将伦理道德融入(ru)人工(gong)智能(neng)全生命周期，为从事人工(gong)智能(neng)相关活动的(de)自然人、法(fa)人和其(qi)他相关机构等提供伦理指引。
《规范》提出了增进人类福祉、促进公平公正、保护(hu)隐私安全、确保可控可信、强化责任担当、提升伦理素养等6项基本伦理要求。其(qi)中，数据与隐私安全内容贯穿了人工(gong)智能(neng)管理、研发、供应等特定活动的(de)具体伦理要求。
相比(bi)于《规范》，《模范框架》给出的(de)建议更加细化。其(qi)中对机构提供包括制定、进行、实行和促进四个阶段的(de)调整反馈机制，在四个阶段中，又分(fen)别(bie)提出了细化的(de)步骤和考虑项目。
比(bi)如，在第一部分(fen)《AI策略及管治》中，《模范框架》指出，AI策略可包含：界定AI系统在机构的(de)科技生态(tai)系统中提供的(de)功能(neng)、参考AI道德原(yuan)则(ze)，制定特定适用于机构在采购(gou)、实施及使用AI方案方面的(de)道德原(yuan)则(ze)、列明AI系统在机构中不可接受的(de)用途等等。
而在“列明AI系统在机构中不可接受的(de)用途”一条中，《模范框架》特别(bie)指出，机构应识别(bie)潜在风险高至应禁止采用的(de)AI用例，这些用例应随着AI技术的(de)发展、新风险的(de)出现及/或(huo)新风险缓解措施的(de)采用而增加、删除(chu)或(huo)调整用例。
《模范框架》作为指引性框架，也对打算(suan)投(tou)资购(gou)入(ru)AI方案的(de)机构提出了可供参考的(de)建议，其(qi)中包括方案使用AI的(de)目的(de)、预计使用AI的(de)用例，AI供应商应遵循(xun)的(de)有(you)关隐私和保安的(de)主要责任和道德规定、技术性和管治方面的(de)国际标准等等。
针对风险因素，《模范框架》也给出了较为细化的(de)指导。其(qi)中包括识别(bie)和评估AI系统可能(neng)带来的(de)各种风险，采取措施减少AI系统带来的(de)隐私风险。此外《模范框架》指出，对于AI方案需要以风险为本的(de)方式进行人工(gong)监督。
《模范框架》建议，在决定人工(gong)监督的(de)程(cheng)度时，需要考虑AI系统的(de)风险程(cheng)度，若是高风险AI系统，即可能(neng)对个人或(huo)群体造(zao)成严重及长期的(de)损害、输出结(jie)果可能(neng)影(ying)响到个体的(de)基本权利和自由，包括财务损失、身体伤害、歧视、个人资料控制权的(de)丧失、自主权的(de)缺乏、心(xin)理伤害等的(de)系统，则(ze)应采用“人在环(huan)中”（human-in-the-loop）模式，在此模式中，人类在决策过程(cheng)中保留控制权，以防止或(huo)减少AI出错或(huo)作出不当的(de)决定。
高风险AI系统包括用于医疗诊断、信用评估、工(gong)作或(huo)求职评估等对个人或(huo)社会有(you)重大影(ying)响的(de)领域(yu)。
若是低风险AI系统，则(ze)可以采用“人在环(huan)外”（human-out-of-the-loop）模式，在此模式中，AI系统在没(mei)有(you)人为介入(ru)的(de)情(qing)况下(xia)作出决定，以实现完全自动化的(de)决策过程(cheng)。
若这两者(zhe)都不适用，则(ze)可以使用适中风险AI系统，例如当风险程(cheng)度不可忽视或(huo)“人在环(huan)中”方式不符合成本效益或(huo)不可行时，可以采用“人为管控”（human-in-command）模式。在此模式中，人类决策者(zhe)利用AI系统的(de)输出结(jie)果监控其(qi)运作，并(bing)在需要时介入(ru)。
采写：南都记者(zhe)胡耕(geng)硕