NTIA发布AI问责政策报告

美国商务部国家电信和信息管理局（NTIA）发布了一份人工智能（AI）问责政策报告，以支持安全、可靠和值得信赖的人工智能的创新发展。该报告提供了政策建议，并强调了标准在安全、可靠和值得信赖的人工智能中的重要性。 

该报告的编制考虑了利益相关者对美国国家电信和信息管理局人工智能问责政策征求意见的1400多条评论。它敦促政府为人工智能系统提供指导、支持和监管，呼吁提高人工智能系统的透明度；采用独立评估来核实这些系统所做出的声明，以及施加不可接受的风险或提出毫无根据的索赔的后果。

负责通信和信息的商务部部长助理、美国国家电信和信息管理局局长Alan Davidson表示：“负责任的人工智能创新将带来巨大的好处，但我们需要问责制来释放人工智能的全部潜力。”。“美国国家电信和信息管理局的人工智能问责政策建议将赋予企业、监管机构和公众权力，让人工智能开发者和部署者对人工智能风险负责，同时让社会能够利用人工智能工具带来的好处。”

报告深入探讨了标准的作用，指出国际技术标准至关重要，对于确定某些类型的审计方法可能是必要的。标准制定不足“意味着公司寻求合规性的不确定性，审计的有用性降低，对客户、政府和公众的保证降低。”使用人工智能术语的领域非常广泛，许多行业都有自己的应用、风险和术语，这给人工智能标准制定带来了挑战。（正如ANSI最近关于医疗保健和金融服务行业标准化的听证会所指出的，缺乏特定行业的术语和词汇经常被认为是人工智能标准化的一个挑战。）

根据国家电信和信息管理局的说法，对该政策的评论人士指出，需要在以下领域制定标准和基准：

人工智能风险等级、可接受风险和权衡；

人工智能模型的性能，包括公平性、准确性、稳健性、再现性和可解释性；

数据质量、来源和治理；

内部治理控制，包括团队组成和报告结构；

利益相关者参与；;

安全；

内部文件和外部透明度；

测试、监控和风险管理。

报告指出，需要加快国际标准工作，扩大对技术标准和标准制定进程的参与。它建议政府可以通过以下方式促进标准的问责制：

1.鼓励和促进不同利益攸关方的参与，包括民间社会、非行业参与者和非自愿受人工智能系统影响的人；

2帮助那些传统上代表性不足的各方改善和扩大标准出版物的获取途径；

3支持使行业标准与社会价值观相一致的方法；和

4在适当的情况下，制定有助于标准制定的指南或其他资源。