解决生成人工智能风险的新NIST公共工作组

美国国家标准与技术研究院（NIST）正在成立一个新的公共工作组，以研究生成式人工智能（AI）的风险。“NIST生成人工智能公共工作组”将以NIST人工智能风险管理框架（AI RMF）为基础，应对生成式人工智能所带来的挑战和机遇。此外，该小组将支持NIST组织制定与生成式人工智能技术相关的特定风险的关键指南。这项工作将通过一个协作的在线工作平台来推进。

美国商务部长吉娜·雷蒙多表示：“拜登总统明确表示，我们必须努力利用人工智能巨大的潜力，同时管理人工智能给我们的经济、国家安全和社会带来的风险。”。“最近发布的NIST人工智能风险管理框架可以帮助最大限度地减少生成式人工智能技术的潜在危害。在该框架的基础上，这个新的公共工作组将有助于为那些正在开发、部署和使用生成式人工智能的组织提供必要的指导，这些组织有责任确保其可信度。”

公共工作组的目标包括：

• 短期目标：收集关于如何使用人工智能RMF来支持生成式人工智能技术发展的指导意见。

• 中期目标：支持NIST在生成式人工智能方面的相关测试、评估和测量方面的工作。。

• 长期目标：探索提高生成式人工智能技术被有效用于应对健康、环境、气候变化等方面的重大挑战的可能性的具体机会 。

负责标准与技术的商务部副部长兼NIST总裁Laurie Locascio表示：“考虑到生成式人工智能前所未有的发展速度、规模和潜在影响，以及它对行业和社会更广泛变革的影响，这个新团队尤其及时。”“我们希望通过识别和开发工具的帮助，更好地了解和管理这些风险，我们希望吸引更多人加入这个新群体。”