一、主要内容
2024年3月13日，欧洲议会批准通过《人工智能法案》，旨在为人工智能系统开发商设定合规义务，为技术使用设定界限。
具体内容包括但不限于：
（1）法案适用于与欧盟市场存在连接点的人工智能系统提供商、使用商、进口商、分销商和产品制造商。
（2）基于人工智能系统对用户和社会的影响程度，法案将人工智能风险分为四类。其中，不可接受风险类人工智能系统规定了8种禁止性行为，如无针对性地从互联网或闭路电视录像中获取面部图像以创建面部识别数据库。
（3）将通用人工智能模型分为“有系统性风险的通用人工智能模型”和“一般性通用人工智能模型”，并对有系统性风险的通用人工智能模型的提供者提出了更高的安全要求。
（4）通用人工智能系统及其所基于的通用人工智能模型必须满足某些透明度要求，包括遵守欧盟版权法和发布用于训练的内容的详细摘要。可能造成系统性风险的通用人工智能模型将面临执行模型评估、评估和减轻系统性风险以及报告事件等额外要求。人工或经过处理的图像、音频或视频内容需要进行标记说明。
（5）对具有潜在高风险的人工智能系统（如关键基础设施、教育和职业培训、执法等）规定了明确的义务。公民将有权提交有关人工智能系统的投诉，并获得对基于高风险人工智能系统、影响其权利的决定的解释。
（6）法案要求欧盟成员国建立人工智能监管沙盒制度、真实世界环境测试高风险人工智能系统，激励人工智能创新，保护中小及初创型企业发展。
（7）执法部门原则上禁止使用生物识别系统，除非在详尽列出或严格界定的情况下。只有在符合严格保障措施的情况下才能使用实时生物识别系统。
法案对违反禁止人工智能系统的，最高处3500万欧元罚款，或上一财年全球年营业总额的7%；对违反法案其他合规要求的，最高处1500万欧元罚款，或上一财年全球年营业总额的3%；对向监管机构提供不正确、不完整或误导性信息的，最高处750万欧元罚款，或上一财年全球年营业总额的1%，以上均以数额较高者为准。
法案还需欧盟理事会的正式批准，于欧盟官方公报公布20天后生效，并为全面适用提供了24个月过渡期。但以下情况除外：有关禁止性人工智能系统的规定将在法律生效后6个月开始实施、行为准则将在9个月后实施、通用人工智能规则将在12个月后实施、高风险系统的义务将在36个月后实施。
二、相关背景
2019年，欧盟发布了人工智能道德准则，提出四项伦理准则和七个实现可信赖人工智能的关键要素。2021年4月，欧盟发布《人工智能法案》提案。2022年12月6日，欧盟理事会通过了关于《人工智能法案》的共同立场。2023年6月14日，欧洲议会表决通过《人工智能法案》草案。2023年12月9日，欧洲议会、欧盟理事会和欧盟委员会就《人工智能法案》达成临时协议。2024年2月13日，欧盟议会内部市场和消费者保护委员会与公民自由、司法和内政事务委员会通过了与各成员国就《人工智能法案》达成的谈判草案。
三、中国企业应关注的重点
建议与欧盟市场存在连接点的人工智能系统提供商、使用商、进口商、分销商和产品制造商重点关注此信息，明确自身合规义务，对现有人工智能产品和服务进行全面自查。
（信息来源：欧洲议会官方网站）
《跨境合规》信息内容仅供大家参考，不能视为做决策的唯一依据。如有意见及反馈信息，请与我们联系。
联系人：北京市贸促会法律事务部吕红军
电子邮箱：lvhongjun@ccpitbj.org
联系电话：010-88070423
