解读欧盟《人工智能白皮书——欧洲追求卓越和信任的策略》

2020年2月19日，欧盟委员会发布《人工智能白皮书——欧洲追求卓越和信任的策略》（以下简称《白皮书》），并邀请欧盟成员国、其他欧洲机构和利益相关者对报告中的政策方向开展讨论，要求在5月19日前积极反馈，为委员会今后在人工智能领域的决策提供支撑。《白皮书》旨在通过提升欧洲在人工智能领域的创新能力，推动道德和可信赖人工智能的发展，谋求全球领导地位。

一、白皮书主要框架

_《白皮书》分为引言、利用工业和专业市场的优势、抓住下一个数据浪潮机遇、构建卓越生态系统、创建可信任生态系统，打造人工智能监管框架和结论六部分，提出利用人工智能实现“ 单一数据市场”的愿景，希望将人工智能技术和产业优势、高质量的数字基础设施以及符合其基本价值观的监管框架相结合，以此成为数据经济及其应用创新的全球领导者。报告指出，希望通过 “政策监管”和“ 增加资金投入”两种措施促进人工智能发展并解决其带来的风险问题。 政策监管方面，报告提出了使人工智能在欧洲可靠并安全发展的政策，包括 构 建“卓越生态系统”和 创建“信任生态系统”，设定了未来5年在数字化转型聚焦的3个目标，即 研发以人为本的技术、打造公平且具有竞争力的经济环境、建设开放、民主和可持续发展的社会。 增加资金投入方面，报告提出在未来十年中， 每年吸引200亿欧元的投资，以提高欧盟在人工智能领域的竞争力，同时保护欧盟公民免受人工智能带来的风险挑战。此外，《白皮书》还对使用人脸识别等远程生物识别系统提出了严格限制，规定将不仅适用于欧洲本地企业，在欧盟运营的第三国数字企业也必须遵守相应规定，此举可能会对我国人工智能企业发展带来冲击。

二、构建“卓越生态系统”，促进人工智能应用

_白皮书重点提出要建立协调欧洲、国家和区域三个层面不同政策措施的框架。通过私人和公共部门之间的合作，调动资源创建一个从研究到创新在内的包含整个价值链的“卓越生态系统”（Ecosystem of Excellence）。该系统将为欧盟公民提供更便利的卫生服务、更可靠的家庭产品、更安全和可持续的交通系统以及更好的公共服务。为了构建起“卓越生态系统”，《白皮书》提出需要在八个层面作出努力。 一是加强与成员国的合作。到2027年，欧洲拟采取约70项联合行动，便于各成员与委员会在评估人工智能战略方面进行更密切和有效的合作。 二是重视科研机构和团队的发展。应加强多个欧洲人工智能研究中心之间的协同合作，建立一个集聚研究、创新和专业知识的“灯塔型”中心，成为人工智能领域的全球标杆。三是强化人工智能发展必需的技能。欧盟委员会将提出强化技能议程的方案，确保欧洲每个人都能从欧盟数字化转型中受益，将提高劳动力技能使之适应人工智能引发的变革作为优先事项。 四是促进中小企业合作。加强数字创新中心和人工智能平台建设，在欧洲人工智能和区块链1亿欧元投资基金的基础上进一步扩大人工智能领域融资渠道，促进中小企业应用人工智能技术。 五是与私营机构建立伙伴关系。欧盟委员会将在人工智能领域建立一个新的公私伙伴关系,确保私营部门充分参与研究和创新，并提供必要的共同投资，努力推动人工智能研究和创新有所突破。 六是推动公共机构采用人工智能。在公共行政、医院、公用事业和交通服务、金融监管机构和其他公共部门部署人工智能产品和服务，制定具体的“人工智能的采用方案”，用于支持人工智能系统的公共采购。 七是保护对数据和计算基础架构的访问。提倡负责任的数据管理实践，将有助于建立信任并确保数据的可重用性。同时，加大对关键计算技术和基础架构的投资，欧盟委员会已经提出了超过40亿欧元的数字欧洲计划支持高性能和量子计算。 八是加强国际合作。未来欧盟将在促进尊重基本权利的基础上，开展广泛的国际合作发展负责任的人工智能。

三、创建“信任生态系统”，打造人工智能监管框架_人工智能技术的发展带来机遇的同时也伴随着诸多风险，个人难以保障合法的权利和安全隐私，企业忧虑于法律责任的不确定性，缺乏信任成为阻碍人工智能广泛应用的重要因素。欧盟旨在建立统一的欧洲人工智能监管框架，帮助创建一个稳定的内部市场，使欧洲企业能够顺利进入单一市场，以进一步发展人工智能，提升在全球市场上的竞争力。该人工智能监管框架主要包含八方面的内容。第一，风险定义。报告将人工智能应用带来的风险分为两类，一类是威胁基本权利的风险，如侵犯个人隐私、产生歧视等；另一类为安全风险和责任义务的分配。第二，考虑对与人工智能相关的欧盟现行法律法规作出调整。委员会认为，需要对立法框架进行修改，主要原因如下： 一是需有效适用和执行现有的欧盟和国家立法，由于人工智能技术不透明等特性，有必要调整或明晰某些领域的现行立法，确保其适用人工智能技术发展并可有效执行。 二是现行欧盟立法范围具有局限性。目前生效的欧盟一般安全立法仅适用于产品，而不适用于服务，因此原则上也不适用于基于人工智能技术的服务。 三是人工智能系统的功能会发生变化。人工智能系统集成于产品中，生命周期中功能或发生变化而产生风险。 四是供应链中不同经济主体之间责任分配存在不确定性。如果产品集成的人工智能技术为技术生产方以外的主体添加，发生风险后责任分配会变得不明确。五是需要应对安全概念的变化。使用人工智能技术可能会产生欧盟立法目前没有明确提出应对方案的风险。第三，未来欧盟监管框架的范围将重点关注人工智能带来的高风险场景。《白皮书》对人工智能使用带来的高风险作出规定，需同时满足以下两个标准：一是将人工智能技术用于医疗、运输、能源及部分公共部门等高风险领域，监管框架应列出覆盖的高风险部门清单并定期审查和修改；二是在特定领域中使用人工智能的方式可能会产生重大风险。除此以外，人工智能用于人才招聘、涉及从业者权益的相关事项、远程生物识别及其他侵入式监视等领域时将始终被认定为高风险。人工智能监管框架将适用以上被视为高风险的领域。

第四，人工智能监管框架的具体规定。人工智能监管框架将仅适用于高风险的人工智能应用场景，实现重点突出、针对性强的监管和干预。一是提高对训练数据的要求。训练用的数据集要有代表性，涵盖避免危险发生的所有相关场景，并可反映性别、种族及其他可能导致歧视内容的信息，满足保护隐私和个人数据的要求。二是合理记录和保存数据。准确记录数据集选择标准、数据集特征、人工智能算法技术文档等，并按规定保存供监管部门测试和检查。三是保证信息的透明度。使用人工智能产品时，应作出非人工操作提示，同时需要人工智能技术和产品功能说明等信息，确保高风险场景下人工智能技术使用的安全性。四是保证人工智能系统的稳健性和准确性。应确保人工智能系统全生命周期的可靠和准确性、运行结果可重复，具有抵御外部攻击的能力。五是确保人类适当参与高风险人工智能应用。要求人工智能产品需经过人工审查才可生效使用，投入后仍需人工干预和监督，在危险发生时可人工终止系统。六是对远程生物识别技术的特殊要求。欧盟数据保护规则原则上禁止出于唯一识别自然人的目的处理生物特征数据，为解决在公共场所以该目的使用人工智能可能引起的社会关切，欧盟委员会将在欧洲展开广泛辩论，讨论可能正当的应用情况（如有）和共同保障措施。

第五，人工智能系统应用的责任分配与立法覆盖范围 。在人工智能系统开发和应用过程中，包括开发人员、部署人员、生产商、服务提供商等多个主体参与，应在所涉及的经济主体之间合理分配责任。委员会认为，在未来的人工智能监管框架中，每项义务都应由最适合应对潜在风险的参与者承担。同时，委员会指出相关立法将适用于 所有在欧盟提供人工智能产品或服务的经济主体，无论其是否在欧盟成立。第六，人工智能监管框架的实践要求。为了发展可信赖、安全、符合欧洲价值观的人工智能，委员会认为在实际使用中必须遵守相关规定对人工智能产品进行合格性评估。根据人工智能经验学习的特点，有必要对其进行全生命周期反复评估，同时也要对训练数据、人工智能算法进行验证，保证其安全性，未通过评估的则需要通过再训练等方式修复存在的问题。为了降低中小企业的压力，欧盟将考虑通过数字创新中心等机构实施支持。值得注意的是，对非欧盟国家生产并进入欧洲市场符合高风险标准的产品和服务均需接受同样的检测，评估范围同样更加严格。第七，支持非高风险人工智能应用主动自愿接受监管。欧盟人工智能监管框架原则上仅适用于高风险人工智能应用，报告指出，对不受约束的人工智能产品和服务，其利益相关主体可以决定自愿接受人工智能监管框架的规定或特别设立的监管要求，这有助于增强用户对人工智能产品和服务的信任，促进人工智能的广泛使用。第八，构建国家合作模式的人工智能欧洲治理结构。为了避免职责分散，确保欧洲逐步具备测试和认证人工智能产品和服务所需的能力，委员会认为必须以国家主管部门合作的形式建立人工智能的欧洲治理结构。该治理结构的组成将会充分考虑目前在金融、制药、航空、医疗设备等领域已有的组织，避免功能重复。未来，欧洲治理结构将通过发布指导意见和专业知识、建设标准化和认证能力等方式，在促进监管框架的实施中发挥关键作用。同时，报告指出将考虑选择将评定工作委托给成员国指定的机构进行，以便实施独立客观的检测评估。

作者简介：明书聪，国家工业信息安全发展研究中心人工智能所人工智能研究部，助理工程师，主要研究领域为人工智能、新兴产业等。联系方式：mingshucong@cics-cert.org.cn

作者简介：张瑶，国家工业信息安全发展研究中心人工智能所人工智能研究部副主任，工程师，主要研究领域为人工智能、智能语音、计算机视觉等。联系方式：zhangyao@cics-cert.org.cn

来源：国家工业信息安全发展研究中心微信公众号