美国参议员提出《2023年人工智能研究、创新和责任法案》

美国艾米·克洛布查尔等六名参议员近日联合提出《2023年人工智能研究、创新和问责法案》 (The AI Research, Innovation and Accountability Act of 2023，AIRIA)。该法案分为两个章节，第一章提出鼓励人工智能创新的立法举措，包括修订开放数据政策、研究人工智能检测标准的研究以及研究在线内容验证方法等。第二章提出建立问责框架，包括定义相关术语、报告义务、风险管理评估协议、认证程序、执行措施以及推动更广泛的人工智能消费者教育。该法案需重点关注三个方面内容：

一是法案发布体现美国会加速推进人工智能发展相关事项。本年度，美国两党立法者将人工智能作为本届国会优先事项。本法案是继美国《安全、可靠和值得信赖的人工智能行政命令》《人工智能权利法案蓝图》之后针对人工智能治理的又一重要举措。下半年以来，以多数党领袖舒默为主导的美参议院持续举办AI洞察论坛，以加速传统的委员会听证程序，以此推动制定全面的AI立法。一是9月举办第一次闭门会议，推动美参议员们听取美国顶级科技公司以及倡导组织、劳工团体、民权组织和创新团体代表在人工智能发展方面的诉求。二是10月举行第二次论坛，聚焦于人工智能创新，吸纳了美国公司和思想领袖关于人工智能发展的意见建议。三是11月1日举行第三次论坛，重点讨论了人工智能对劳动力的影响。四是11月8日举行第四次论坛，讨论了人工智能的隐私和法律责任影响、保护未来的选举免遭深度造假和其他欺骗性人工智能危害等两个与人工智能相关的重要问题。后续，按照美参议院日程规划，在11月和12月的其他论坛中，将继续讨论与人工智能相关的知识产权、风险管理、国家安全、防范世界末日场景以及透明度、可解释性和一致性等问题。

二是法案提出人工智能系统分类方法、透明度要求及相应管理手段。本法案突破性提出了对“高影响”和“关键影响”的人工智能系统进行明确区分。其中，“关键影响”人工智能系统是指包括但不限于国防部或情报机构使用，涉及刑事司法、自然人生物特征数据、关键基础设施以及对宪法赋予权利或安全构成重大风险的人工智能系统。“高影响”人工智能系统指的是包括但不限于国防部或情报机构使用，对个人获得住房、就业、信贷、教育、医疗保健或保险具有法律或类似重大影响的决策，其方式对个人所享有的权利或安全构成重大风险的人工智能系统。本法案对上述两种人工智能系统提出了具体的透明度要求和认证标准。对于“关键影响”人工智能系统，法案引入了美国商务部制定的关键影响人工智能系统风险管理评估框架，要求对“关键影响”人工智能系统进行系统的风险管理评估。其中，每项评估需要经过分析、评估、基准测试、风险衡量等多个环节，并形成固定格式报告概述评估及其结果，向美商务部长提交。对于“高影响”人工智能系统，法案对其透明度报告要求和认证标准稍弱于前者，但仍需按照上述步骤向美商务部副部长提交评估报告，描述人工智能系统的设计和安全计划。由于高影响力人工智能系统定义广泛，其数量远远大于关键影响人工智能系统，法案对其规范所产生的社会影响力甚至高于“关键影响”人工智能系统。

三是法案透露了未来美国生成式人工智能发展方向。法案规定，负责标准和技术的商务部副部长必须开展研究，以促进为人类作者和人工智能（AI）生成的内容提供真实性和出处信息的手段的开发和标准化。一是研究使用唯一凭据、水印或其他基于数据或元数据的方法，用以识别人类作者。二是研究水印或分类器等验证内容出处声明的方法，以确保内容真实性，并以清晰和显眼的内容来源声明方法展示。三是研究内容来源信息的创建和验证所需的技术或应用程序。四是研究对内容生产者负担最小，且能确保内容创作者归属的技术方法。除此之外，该法案还规定开展试点计划，以评估使用现有技术和创建开放标准的可行性和可取性，以促进内容治理信息的创建和验证。

总体来看，该法案是美国国会一揽子人工智能发展及规范措施的重要环节，通过设置人工智能系统分类认证及信息披露等制度，将为人工智能系统的开发、识别和部署的基础立法工作奠定基础。

来源：信通院互联网法律研究中心