澳大利亚现场活动聚焦新的人工智能管理系统标准

AS ISO/IEC 42001:2023开创了负责任地使用人工智能（AI）的先例，为组织建立、实施、维护和持续改进其人工智能管理系统提供了指南。

澳大利亚标准协会最近举办了一场网络研讨会，重点聚焦AS ISO/IEC 42001:2023《信息技术  人工智能  管理系统》标准。这一新标准旨在改变人工智能管理的方式，为人工智能技术的道德管理和通用性提供一个明确的框架。

此次网络研讨会由澳大利亚技术委员会IT-43人工智能委员会成员、Virtual Ink Australia董事Harm Ellens主持，会议详细探讨了这一新标准的内容。该活动为技术专业人士和组织提供了宝贵的资源，让他们深入了解该标准如何帮助他们有效地、在道德框架下管理人工智能系统。

活动还包括现场问答环节，与会者可以向Ellens先生询问与标准及其工作相关的问题。

现场问答‍

问：银行业是否采用并实施了该标准？

‍答：是的，澳大利亚的一些金融组织正在积极努力实施该标准。加拿大一家银行成功地用该标准的草案版本对AIMMS认证程序进行了测试，展示了其在金融部门的广泛适用性。

‍问：不实施人工智能管理系统标准的风险是什么？

答：组织在合规方面有落后的风险，尤其是在欧洲等地区，《欧洲人工智能法案》要求遵守AS ISO/IEC 42001:2023等高风险人工智能用例标准。不执行可能导致重大的法律和业务挑战。

问：为什么公司，尤其是中小企业，应该考虑实施AS ISO/IEC 42001:2023标准？

答：实施该标准有助于支持提高或恢复公司在人工智能方面的可靠性水平，特别是在零售等行业，人工智能的使用引发了隐私问题。目前正在编写一本手册，以帮助中小企业实施过程，确保它既易于管理，又不占用大量资源。

问：该标准是否适用于人工智能开发者和采购商？

答：是的，该标准为开发者和采购商提供了指导，解决了他们在有效管理人工智能系统方面的独特风险和目标。

问：AS ISO/IEC 42001:2023标准将如何与人工智能技术的进步保持同步？

答：该标准将每五年进行一次审查，也可能每两年或根据需要进行一次更新，以应对人工智能技术的快速发展，包括生成式人工智能。

问：政府部门和机构是否可以使用AS ISO/IEC 42001:2023标准？

答：当然可以，该标准高度适用于政府环境，有利于负责任地使用和采购人工智能。

问：AS ISO/IEC 42001:2023标准与其他人工智能标准的区别是什么？

答：AS ISO/IEC 42001:2023是第一个独立于任何特定法律法规构建的国际公认的人工智能管理标准。其全球覆盖范围使其有别于区域标准，为跨境人工智能管理提供了一个全面的框架。

问：澳大利亚企业准备采用AS ISO/IEC 42001:2023的百分比或比例是多少？

答：根据传闻证据，可能受到美国和欧盟法规影响的组织正在开始准备AS ISO/IEC 42001:2023。目前，这一数字处于个位数百分比，随着非盟监管的形成，预计还会增加。

问：采购人工智能是否指GPT 3.5等基本LLM模型？如果我们在此基础上进行开发，我们是否在使用采购的人工智能？

答：这两者都适用。该标准确定了各种利益相关者的角色，这些角色从人工智能生产者到人工智能服务提供商和人工智能用户各不相同。生产者和用户都可能被要求遵守标准。然而，它们将以不同的方式实现这一遵守。

问：这是一个独立的标准吗？是否需要通过AS/NZS ISO 9001:2016或AS ISO/IEC 27001:2022等认证？

答：AS ISO/IEC 42001:2023标准专门针对人工智能系统，而AS ISO/IEC 27001:2022则专门针对网络安全。所以，两者都是必须的。然而，这些多种管理标准可以相互引用。因此，符合AS/NZS ISO 9001:2016和AS ISO/IEC 27001:2022减少了整个AS ISO/IEC 42001:2023的建立和维护工作。

问：如果完全实施，这一标准是否足以作为一个组织的内部人工智能治理框架？

答：ISO/IEC 38507中描述了的人工智能政策和人工智能目标提供信息。对于大多数组织来说，AS ISO/IEC 42001:2023可能已经足够了。但对于其他公司，尤其是那些使用嵌入式人工智能制造设备和产品的公司，或者那些自动化财务建议的公司，可能需要符合其他标准。这也与任何立法和监管要求是分开的，我们将在2024-2025年期间看到世界各地出现一些立法和监管要求。包括澳大利亚。

问：你认为公司在组织中实施该标准时可能面临的主要挑战是什么？

答：第一步往往是最难的。创建已经部署的人工智能清单并确定人工智能管理系统的范围需要大量人员参与。在此基础上，该标准大致概括了您必须完成的过程。

问：你见过制药公司采用这个标准吗？

答：还没有。一些医疗器械公司已经在实施该标准。诊断软件现在被视为一种“设备”，因此如果制药公司开发和发布诊断应用程序，他们很可能在未来的某个阶段不得不采用AS ISO/IEC 42001:2023。

问：AS ISO/IEC 42001:2023的制定是否考虑了GenAI和LLM的影响以及与其他人工智能系统相比的不同风险状况？

答: AS ISO/IEC 42001:2023可应用于任何人工智能，包括非机器学习人工智能和最近的机器学习方法和发展。ISO/IEC 23894可以帮助您的组织以及GenAI和LLM的用例进行风险评估。

问：标准中有哪些部分对技术主管最有用？更广泛地说，你能告诉我们你对技术主管有什么建议吗？

答：对技术主管最有用的部分是参考另一个标准ISO/IEC 5338《AI系统生命周期过程》。它描绘了人工智能系统生命周期与传统软件生命周期的区别。AS ISO/IEC 42001:2023的许多部分都参考了ISO/IEC 5338，作为技术负责人，您将被要求演示如何管理人工智能系统的生命周期。该标准将为您提供一个流程框架，您可以使用该框架来审查和更新组织的开发实践。