DIN/TS 92004旨在为识别和分析人工智能系统在其整个生命周期中的风险提供指导,并增强对人工智能的信心。
人工智能从根本上改变了世界,使生活的各个领域都能实现创新——从医学上更精确的诊断到公司里更高效的工作流程。与此同时,还有一个问题是如何满足道德要求,以及如何负责任地应对诸如人工智能系统的可靠性和强健性、避免不必要的偏见以及自主和控制等挑战。
2024年5月,凭借《人工智能法案》,欧盟成员国通过了全球首部人工智能规制法。其目的之一是确保人们在开发和应用人工智能技术方面的基本权利,并促进这一领域的创新。该法案根据人工智能系统对社会的风险对其进行分类:禁止具有不可接受风险的系统,高风险系统必须遵守严格的规定。
对于许多公司来说,《人工智能法案》意味着调整其开发和运营流程。未来,他们将有义务评估其人工智能系统和相关风险。标准和规范有助于他们完成这项任务。
新的技术规范创造了可靠性和可信度
人工智能系统开发和运行的风险识别及其分析要求遵守技术规范DIN/TS 92004来。该文件面向开发人员、供应商和运营商。
CERTIFIED AI项目负责人Maximilian Porechkin博士解释了实施DIN/TS 92004的好处:“本规范描述了一种识别和分析AI系统风险的系统方法。特别强调可靠性、避免偏见以及自主性和控制性的维度。因此,它是人工智能监管运作的重要基石。"
国际标准作为组织和公司的基础
标准定义了人工智能系统在进入市场之前必须满足的安全要求。通过这种方式,标准为防止虚假信息或歧视以及加强对人工智能系统的信任做出了决定性的贡献。
DIN/TS 92004是对国际标准ISO/IEC 23894的补充。它为组织如何管理与人工智能相关的风险提供了指导,例如,他们的产品、系统和服务使用人工智能开发。除了ISO/IEC 23894,新的技术规范还从系统的角度管控人工智能的风险。未来,公司和组织可以使用DIN/TS 92004作为实施各自与特定人工智能系统相关的风险管理流程的基础。
该技术规范已纳入NA 043-01-42-01 AK“AI质量测试方法”工作组工作计划,由DIN与弗劳恩霍夫智能分析和信息系统研究所、联邦信息安全办公室(BSI)以及其他科学和工业合作伙伴共同研制和推动。该项目的另一个成果,弗劳恩霍夫IAIS的人工智能测试目录,是该文件的重要内容。其目的是将DIN/TS 92004的内容纳入国际和欧洲标准化。