AI法案获批：对创新与数字安全意味着什么

欧盟理事会已批准《人工智能法案》（AI Act），这是全球首部关于人工智能的全面监管立法。

该法规为欧盟境内人工智能系统的使用制定了统一规则，采用基于风险的监管方法。

AI法案的立法进程在2022年12月ChatGPT推出后曾一度放缓。

因此，法案草案经过修订，纳入了针对生成式AI的具体规定。预计该法律将在2024年4月10日至11日的全体会议上最终定稿并付诸表决。

以下是重点内容：

人工智能系统的范畴得到了广泛定义，重点关注自主性和适应能力。

该定义涵盖任何基于机器的系统，只要其展现出不同程度的自主性、能够在部署后自我调适，并能对物理或虚拟环境产生影响。

AI法案的一个重要部分对高风险人工智能系统进行了严格而广泛的监管。

在实践中，对于从事人工智能领域的企业来说，确定其开发、进口、分发或使用的AI系统是否构成高风险AI系统将至关重要。

AI法案认定两类高风险AI系统：

旨在作为受特定欧盟法规监管的产品（或产品安全组件）使用的人工智能，涵盖民用航空、车辆安全、船用设备、玩具、电梯、压力设备和个人防护装备等领域。

附件三中列出的AI系统，例如远程生物特征识别系统、用作关键基础设施安全组件的AI，以及用于教育、就业、信用评分、执法、移民和民主进程的AI。

我们可以期待在AI法案生效后18个月内出台相关指南，明确AI系统分类的实际操作，并附有高风险和非高风险AI系统使用案例的详细实例清单。

如果系统旨在执行有限的程序性任务、改进以往人工活动的结果，或在不取代人类判断的情况下检测决策模式，则不视为高风险系统。

他们负责开展风险评估、使用高质量数据、记录其选择、保存系统日志、告知用户、允许人工监督，并确保准确性、稳健性和网络安全。

进口商和分销商必须核实这些系统的合规性。部署者须遵守提供商的指示，并确保人工监督和干预。

公共部门实体和提供公共服务的私营实体在部署高风险AI系统之前，须开展基本权利影响评估。

该评估涉及风险、监督措施、受影响人员以及使用频率等方面。

如果提供商以外的主体修改了AI系统或改变了其预期用途，使其变为高风险系统，则该主体可能被视为提供商，并须承担相应义务。

对于高风险AI系统，个人有权就系统在决策过程中所扮演的角色获得解释。

这可能引发与保护商业秘密的提供商之间的矛盾。

个人拥有广泛的权利，可向市场监管机构举报AI法律的潜在违规行为，无需证明自身具有合法资格。

存在系统性风险的GPAI模型须承担额外义务，例如进行模型评估和解决网络安全问题。

某些AI系统和GPAI模型须遵守特殊的透明度义务，包括旨在与人类交互的系统以及生成合成内容的系统。

在这些情况下，必须告知用户，并可能需要将相关内容标注为人工生成。

AI法案配套了复杂的治理架构，涉及多个实体，包括AI办公室、国家主管机构和市场监督机构。

这些机构将负责执行规则、审查投诉并处以制裁。

违规处罚金额相当可观，最高可达3500万欧元或公司年度全球营业额的7%。对于高风险AI系统，罚款可高达1500万欧元或营业额的3%。

AI法案将与其他规范人工智能的法律法规一起执行，包括知识产权、数据保护、合同和网络安全等相关规定。

AI法案预计将于2024年年中发布，合规时间表各有不同。

有关被禁止AI实践的规定将在六个月后生效，大多数其他义务将在24个月后生效。

与此同时，高风险AI系统的规定将在36个月后出台，而公共机构使用的高风险系统的相关规定则将在48个月后生效。