澳大利亚国家图书馆人工智能框架

澳大利亚国家图书馆人工智能框架

今年3月，澳大利亚国家图书馆在其官网上发布了《澳大利亚国家图书馆人工智能框架》（1.0版本）。该框架不仅展现了澳大利亚国家图书馆负责任地拥抱AI技术的愿景，更值得关注的是，文件为其他图书馆如何审慎地探索和应用人工智能，以优化服务和提升馆藏价值提供了宝贵的参考和借鉴。

澳大利亚国家图书馆人工智能框架

1. 执行摘要

澳大利亚政府就安全和负责任的使用人工智能（AI）进行咨询的结果显示，公众期望政府成为安全和负责任地使用人工智能技术的典范。澳大利亚国家图书馆（以下简称“图书馆”）正致力于利用人工智能技术来履行使命，同时保持图书馆值得信赖和受人尊敬的声誉。

我们开展这项工作的愿景是以合法且负责任的方式进行人工智能创新，从而以合乎道德的方式挖掘国家馆藏资源，在不造成或加剧损害的情况下，增强其可发现性、覆盖范围、可及性和影响力。我们将运用人工智能技术来拓展图书馆的业务实践，以支持其履行法定职责——维护、发展并保护国家图书馆文献资源，从而让澳大利亚民众在当下和未来都能够探索、学习并创造新知识。

本框架阐述了我们计划如何开展这项工作。

人工智能技术为收集、解读与共享馆藏资源的新方式提供了机遇，但同时在隐私保护、版权法规、原住民文化与知识产权(ICIP)、原住民数据主权、包容性建设、无障碍获取、数字典藏及网络安全风险等领域也面临着不断演进的监管要求。人工智能技术还能实现信息的智能分类与管理，通过开辟全新的知识发现路径，我们将有效提升公众参与馆藏互动的深度，从而在未来数年间持续扩大这些工作的社会影响力。

我们对人工智能及其呈现的表达、审视和探索知识与内涵的新兴方式始终秉持审慎态度与理性热忱。与此同时，图书馆的法律和法定职责绝不能因新技术的引入而妥协。因此，我们将采用原则性框架，确保人工智能的实施仅服务于我们的“机构发展规划”和“数字战略”，并与我们的风险管理框架保持一致。我们将在组织的关键领域建立防护机制与治理体系，以风险可控、分阶段实施且符合伦理准则的方式，确保技术选择与伦理考量符合公共利益，最终为公众、合作伙伴及馆内员工创造价值。

技术进步既带来机遇，也伴随着风险和不确定性，这些变革将对全机构的专业技能、人才结构、运营模式和资源配置产生深远影响。因此，我们将采取“全馆协同”的人工智能培训和能力建设方案，运用技术手段来优化馆藏采集、完善图书馆工作流程、提升数字化运营与公众服务水平，这一切都将严格遵循澳大利亚政府相关法规及人工智能专项框架（如AI伦理准则与保障体系）。图书馆还将积极联合美术馆、图书馆、档案馆和博物馆（GLAM）部门、研究机构以及其他合作伙伴共同参与这些问题的讨论，同时确保馆藏的安全和保障。

本文件按层级结构，逐步探讨以下内容：

• 政府层面：政府在人工智能应用与治理方面的宏观背景与政策导向，涵盖技术效益、潜在风险、可信度保障及伦理考量；

• 本馆层面：立足本馆作为国家典藏机构的法定职责，探讨人工智能应用与治理的特定背景、战略方向、风险管控及伦理框架。

• 应用原则：提出支持本馆战略目标实现的AI使用原则及特色应用场景；

• 治理框架：政策制定与流程优化的支撑框架；

• 持续议题：需长期跟进解决的关键领域。

本人工智能框架是澳大利亚国家图书馆如何利用人工智能实现其使命方面的首次声明，而非最终文件。本框架将根据《2024-2027年数字战略》要求定期修订，以确保在动态和复杂的运营环境中保持政策的透明度和时效性。

2. 背景

数字化转型已从根本上改变了馆藏和记忆机构的运作方式。在人工智能（AI）领域，机器学习（利用数据和算法帮助人工智能模仿人类学习）、深度学习（训练计算机以类似人类的方式处理数据，例如数据类型识别和模式识别）以及生成式人工智能（利用数据模型生成文本、图像、音频和计算机代码等新内容）等技术，已被整合到常见的在线工具中，作为独立系统或嵌入其他应用程序内。

过去十年间，人工智能领域的前沿技术得到广泛应用，提升了国家图书馆等信息管理机构的期望。大型科技公司及其他相关企业也提升了公众的期望，例如，他们展示了搜索系统能够理解人类搜索者的上下文和意图，总结搜索结果，且能够超越简单的关键词匹配，精准定位包括文字、声音和图像在内的各种内容。此外，大语言模型的应用涵盖了自动补全、语法校正、语言翻译、语音识别、计算机编程以及语义搜索等诸多功能。国际上的收藏机构，例如挪威国家图书馆，正在实验并使用人工智能技术来变革声音、图像和数字档案的转录工作。随着人工智能的日益普及，其现有应用和未来难以想象的创新都将进一步扩大信息技术对整个社会的影响，并不断为信息管理机构带来新的机遇和更高的期望。

国家图书馆正置身澳大利亚政府环境与图书馆自身运营环境的双重背景之下。

2.1 澳大利亚政府背景

澳大利亚政府就安全和负责任的使用人工智能（AI）进行咨询的结果显示，公众期望政府成为安全和负责任地使用人工智能技术的典范。

近几年，澳大利亚政府制定了关于人工智能伦理原则、保障和实施的政策及指导意见。政府鼓励像图书馆这样的公共机构采用《政府负责任使用人工智能政策》（Policy for the responsible use of AI in government）。该政策旨在充分释放技术红利、增强公众信任度，并通过动态调适机制，构建前瞻性、适应性的AI应用策略，推动政府人工智能应用体系的持续演进与完善。

此外，《政府人工智能保障国家框架》（National framework for the assurance of artificial intelligence in government）确立了全国统一的方法，明确了在实施过程中需要考虑的基础保障。

2.2 国家图书馆背景

国家图书馆管理的馆藏资源几乎全部对公众开放，并且数字化程度日益提高。图书馆在国家层面的合作中发挥着独特的作用，馆藏资源也反映了这种多样性。

馆藏资源包括：

国家图书馆独有的实体和数字资源（如澳大利亚网络档案馆），受到不同版权条例、访问限制和原住民文化和知识产权（ICIP）条款的约束。
与合作伙伴共同开发、由国家图书馆持有和管理的馆藏。包括：其他文化机构的藏品元数据、合作机构原始资料的数字化副本，以及国家电子寄存服务（NED）收录的澳大利亚当代数字出版物（涵盖征集、保存与访问服务），NED由各州及领地图书馆共同所有，其运作需通过多方协作推进。
许可资源，如研究数据库和商业电子资源，这些资源不属于国家图书馆所有，不能用于任何人工智能相关的应用。

国家图书馆独有且重要的澳大利亚实体馆藏正在被数字化。最终，在版权许可的情况下，这些资源将向全球用户开放。数十年来，我们始终以审慎的态度履行守护者职责——通过系统化的整理、扩充、编目与保存，为后代留存这些知识遗产。在合理的监管下，人工智能技术的应用将助力我们延续这一使命，进一步扩大馆藏的影响力与覆盖范围。

国家图书馆将利用人工智能进一步挖掘馆藏价值，并提升其可发现性。通过提供丰富的上下文信息、建立馆藏间的关联与路径，以增强资源发现、学习和新知识的创造能力。人工智能技术可以拓展馆藏资源，助力获取新兴信息格式，并对内容进行大规模的管理和描述，从而充分释放图书馆长期积累的资源价值。人工智能能够扩展图书馆的采集范围和能力，使其在数字环境中持续收集对未来至关重要的信息。当企业IT产品（例如Office 365中内置的功能）提供人工智能工具作为增强功能时，我们将负责任地部署这些工具，以提升组织效能。

变革性机遇往往伴随着风险（参见“人工智能风险管理”部分），图书馆需要找到应对之策。作为国家馆藏的守护者，我们高度警惕可能造成损害或动摇公众对馆藏管理信任的风险。

在我们自身的运营环境中，我们重点专注以下几个优先级较高的问题。

（1）研究领域

澳大利亚国家图书馆拥有全国规模最大的数字文化馆藏，其中包括与美术馆、图书馆、档案馆和博物馆（GLAM）机构，特别是各州和地区图书馆合作收集和管理的资料。这些馆藏引起了跨学科研究人员的兴趣，包括那些人工智能技术研究者和文化研究人员。图书馆日益成为研究项目的重要合作伙伴，尤其是在申请澳大利亚研究委员会（Australian Research Council）资助时。

与研究领域合作能够带来显著的益处，既有助于图书馆达成其使命，也有能使澳大利亚的研究成果更好的服务社会。我们将积极寻求以下合作机会：汇集互补性专业技能、实现明确互惠互利，包括提升图书馆服务水平、增强机构能力或完善馆藏背景信息。

图书馆只会寻求符合本文件总体原则和合作框架的合作伙伴关系。然而，图书馆很可能面临超出本馆资源支持能力的合作机会，我们将以公共利益最大化为准绳进行筛选决策。此项原则的适用不以资源流向为转移，无论合作是由本馆提供资源，抑或由外部向本馆输入资源。

（2）透明度

作为文化信息资源的重要保管者和值得信赖的包容性机构，我们将透明度视为民主和文化基础设施的基石。我们力求通过尽可能公正的馆藏建设来维护信任，我们在人工智能领域的实践也将恪守澳大利亚公共服务部门的价值观。

我们将遵循适用的政府指导方针，并就人工智能框架、选择和实施情况向所有利益相关方——公众、合作伙伴、外部同行和研究人员——保持透明。鉴于澳大利亚政府的明确要求，当国民受到人工智能系统“重大影响”时应当知情，且在人工智能系统与其互动时应当能够察觉，图书馆将确保人工智能应用得到适当的“标记”并对用户具有可解释性。在实践中，这也意味着我们会指出那些我们可能无法完全识别是否使用了人工智能辅助的领域。在馆藏方面，包括对由人工智能工具创建或在其协助下创建的内容（包括网站）的策展，以及系统供应商在其产品中包含人工智能的内部功能。随着人工智能技术的发展，我们将持续探索各种机会，以公开与人工智能生成内容相关的背景信息。

我们将始终遵守澳大利亚版权法，保护正当商业利益，以履行我们的协议并遵守《1968年版权法》。

（3）原住民

我们正致力于深化对澳大利亚原住民的尊重、认可和沟通。我们承认原住民作为其知识和文化财产的合法拥有者，这体现在《原住民文化和知识产权（ICIP）协议》中。该协议确立的原则将原住民定位为其知识体系的文化权威，并支持由原住民主导阐释和管理。人工智能技术在维护这些原则以及发现和获取原住民的知识和文化方面，既带来了机遇，也带来了特殊的风险。

由于历史上的收藏方式的局限性，大部分馆藏的原住民文化和知识产权缺乏完善的记录或识别。虽然人工智能可能为更好地识别相关资料提供新途径，但也可能加剧了在协商进行适当访问和明确信息方面的挑战。这项工作必须与原住民协议的实施相一致。

由于缺乏馆藏资料中现有文化财产的全面可靠信息，大规模地使用生成式人工智能技术存在违反文化权利和协议，以及产生不实表述的风险。图书馆承认澳大利亚原住民对未经文化授权而模仿其知识的生成内容的担忧。我们还需要遵守任何新的关于保护文化和知识产权的政府立法。人工智能的使用还会引发影响澳大利亚原住民和托雷斯海峡岛民的其他风险，包括偏见、种族主义以及大规模地呈现有害和令人不安的内容。虽然这些问题与原住民具有特别的相关性，但也会影响许多其他社群，这在本框架的其他部分有所提及。

为管控此类风险，我们的人工智能伦理原则包含以人为本的价值观，例如尊重人权、多样性和个人自主权。这包括遵守《联合国原住民权利宣言》（ UN Declaration on the Rights of Indigenous Peoples），该宣言已体现在澳大利亚政府的人工智能伦理原则中。政府建议的保障措施包括：人工智能系统的人工审查、透明度要求、应用原住民数据主权原则，以及对人工智能生成或总结的内容进行明确标识。针对原住民相关场景，图书馆可能会考虑建立由原住民主导治理的特定用户反馈机制。我们将通过地方和国际合作以理解这一复杂的领域，并欢迎研究机构在此方面的创新探索，以及持续与信息管理行业的原住民领袖进行沟通。

（4）可持续性

我们将致力于馆藏资源的建设和管理，同时也将致力确保其长期具有完整性和可访问性。人工智能技术的应用带来了成本和环境可持续性方面的影响，这在实现澳大利亚政府“到2030年实现政府运营净零排放”的承诺（参见《2030年澳大利亚公共服务净零排放路线图》）背景下构成了额外挑战。图书馆的减排计划已考虑到这一承诺，并将定期审查以反映人工智能带来的影响。人工智能的成本是多方面的，包括软件、算力（含能源）、人工智能服务、可用于人工智能的数据、治理、安全和风险管理，以及人才和流程开发。供应商在将人工智能功能融入其产品时也在提高价格，因此，部署成本可能难以预测。图书馆将在评估人工智能项目价值的框架内考虑这些因素，利用探索和概念验证来应对这些考量，以多维度标准（包括成本监控和选择特定技术或解决方案对环境的影响）来证明其价值。

（5）组织文化变革

除了技术复杂性之外，人工智能也为图书馆工作人员带来了伦理层面的思考。根据政府的保障框架要求，需要建立相关能力体系，以发展与员工职责相关的人工智能方面的意识、知识和技能。发展一种审慎的人工智能风险文化将包括逐渐调整图书馆不同部门的风险规避和风险接受倾向，特别在对馆藏的保管职责方面。这需要大幅提升员工的能力与认知水平，包括：普及人工智能与数据素养，确保全体员工充分知情并参与，以及能够负责任地践行我们的人工智能原则。

图书馆将继续把分享专业技能、实践和知识将作为优先事项，包括与合作图书馆以及文化和研究部门进行交流。我们将制定一个全组织范围的框架，该框架将利用该领域现有的学习“模块”，培养“人工智能大使”，开展更广泛的学习课程，建立技术知识库，并开放正在进行的人工智能项目访问权限。

图书馆正是在这些背景下启动与人工智能相关的工作。接下来的内容将详细介绍支撑这些工作的原则。

3. 原则

3.1 图书馆人工智能应用原则

遵守法律法规和政策

我们的一切行为都严格遵守法律法规，全面落实政府发布的人工智能相关指导方针。
我们将始终尊重澳大利亚版权法，并保护正当的商业利益。
我们将尊重原住民文化和知识产权等法定权利。
我们将公开透明地阐释人工智能框架、决策依据和实施情况，并尽可能地标识“可解释的人工智能”场景。

服务图书馆使命

每一项人工智能应用的最终目标都将是支持图书馆完成其使命，同时提升用户参与度和包容性，并扩大其馆藏和服务的可及性。
我们将在更广泛的美术馆、图书馆、档案馆、博物馆（GLAM）、文化和研究领域内发挥图书馆的作用，通过学习和交流进行合作，吸纳多方专业技能与实践经验，以设计符合澳大利亚国情的人工智能应用方案。
我们将在工作中优先考虑包容性，避免引入或放大偏见、不可访问或压制少数群体声音等伤害行为。
我们不会隐藏或篡改偏见，也不会审查馆藏项目。
我们将始终以馆藏对公共利益的固有价值为决策准绳。

3.2 图书馆特定人工智能用例原则

治理

我们将评估人工智能解决方案的合法性、价值性和适用性，仅在其他方案不适用的情况下才予以实施。
我们在技术选择上将以公众利益为出发点，并确保伦理考量处于首要地位。
如果外部人工智能系统的使用违反了出版商和作者的访问权，我们将全力保护本馆数据免受其侵害。
为确保透明度，在能够获取相关信息的情况下，我们将向用户标明哪些馆藏内容、产品或服务是人工智能生成或辅助的，并不会泄露机密、个人或其他敏感信息。

流程与保障措施

每一项人工智能应用的构建、部署和运行都将包含人工审查环节。
对语言模型的应用采取谨慎评估原则。
在开始概念验证之前，我们仅使用已进入公有领域的素材，或已获得版权方授权及其他合法许可的馆藏资料。
外部服务处理的数据仅在交易期间保留，相关服务不会存储这些数据。
我们将优先开展那些有知识体系支撑其应用的人工智能项目。

技术与系统

任何修改IT基础设施的决策都将经过人工审查。
利用人工智能增强现有技术系统——人工智能技术将作为现有技术体系的补充工具进行开发部署，而非完全替代已知且成熟的管理系统与架构。
在网络安全和基础设施方面考虑人工智能的可扩展性——图书馆在实施其网络安全和基础设施计划时，将考虑人工智能需求的可扩展性。

4. 人工智能机遇

在政府和图书馆的背景下，人工智能的应用可以根据“人工智能机遇雷达模型”（图1）所反映的两个维度进行分类。该雷达图既确保投资方向与图书馆使命及价值观相一致，又能清晰识别相关成本、风险与收益构成。面向公众的功能/服务位于上半部分，图书馆内部功能/服务位于下半部分。

图1 – 经许可改编自Gartner人工智能机遇雷达模型

潜在的益处主要体现在以下四个方面：

（1）面向公众且具有重要意义的“产品与服务”（右上象限）：图书馆及其合作伙伴共同构建，供公众日常使用以获取馆藏信息的“旗舰级”系统。例如，使用目录和Trove平台进行内容搜索和传递，以及研究指南开发等复杂服务。

（2）图书馆内部具有重要意义的“核心能力”（右下象限）：为维护图书馆及其合作伙伴所建的馆藏价值，而设立的专业工作流程和支持系统。例如，馆藏开发、管理、策展、保存、元数据创建和共享、自动音频转录以及光学字符识别（OCR）/手写文本识别（HTR）校正。

（3）图书馆内部日常的“后台管理”流程与系统（左下象限）：员工使用的通用系统和自动化系统，用于创建并支持图书馆的各项运作。例如，编程和办公工作流程自动化工具，以及会议记录和报告撰写等企业级系统和任务。

（4）面向公众的日常“前台服务”（左上象限）：支持公众互动的基础系统，例如图书馆的主要网站和阅览室请求等基础服务。

4.1 图书馆人工智能应用

通过利用人工智能等新兴技术，我们致力于以更具互动性和启发性的形式呈现历史和当代信息，使过去更易于理解和接近，从而吸引澳大利亚民众以全新的方式了解他们的历史。我们的目标是利用这些工具，促进与澳大利亚文化遗产更深层次的连接，激发反思和新的对话。

为了进一步挖掘馆藏的价值，我们将优先探索在“产品与服务”和“核心能力”方面的应用。国家图书馆将首先考虑已知的低风险用例，并利用人工智能解决方案最大限度地提升馆藏、公众或员工的价值或效益，同时强调上述原则将适用于任何应用场景。

图书馆认识到，随着信息技术工具日益融入工智能增强功能，“后台管理”和“前台服务”中人工智能的应用也将不断发展。

在国家图书馆实施人工智能的主要机遇如下：

产品与服务

增强搜索和发现：通过现代化技术手段，提高数字和实体馆藏的可访问性和可发现性。
促进与GLAM机构和研究领域的合作：以合乎伦理的方式与合作伙伴进行研究和交流，探讨人工智能将如何为收集、分析和理解馆藏开辟新的途径，以及如何通过合作提升人工智能的透明度和认知。
为澳大利亚多元化受众提供便利：公平地改善残疾人士以及文化和语言多样性社区对馆藏的访问便利性。

核心能力

辅助馆藏建设：助力发现新的内容，包括采集新兴的数字内容和格式。
辅助馆藏管理：通过使用建议分类等元数据、执行异常检测以及为书面材料生成文本索引的工具，提高图书馆/信息业务的核心生产力。
辅助馆藏描述和发现：进行语音转文本转录、图像描述以及创建原始元数据。
增强馆藏描述：扩充现有元数据和文本分类，识别实体，识别意图，翻译文本，使用图像模型来描述和分类图像和视频，并检测和描述对象。

后台管理

优化运营流程：通过自动化常规任务实现资源优化，例如使用谷歌图片搜索或ChatGPT等人工智能助手辅助常规写作任务（参见《政府使用公共生成式人工智能工具的暂行指南》）。
提高运营效率和可持续性：通过在现有产品中采用或启用人工智能增强功能，提供更优的员工企业工具，从而扩大员工的能力和潜力，减少劳动密集型和重复性的工作。
协助合规/风险管理：包括利用技术协助网络防御，通过分析网络流量、用户行为和其他指标来检测潜在的网络安全威胁，为可能的漏洞提供早期预警，并使我们的政策规则、法规和流程更易于理解和查找。

前台服务

提升用户体验：开发人工智能驱动的个性化内容推荐，为用户/员工提供即时帮助并解答疑问。
增强可访问性：开发人工智能驱动的可访问性解决方案，以帮助残疾人士访问图书馆资源。

4.2 人工智能投入

图书馆将定期评估人工智能投入（例如用于增强和升级现有系统的工具）的潜在价值和影响。为此，我们制定了一个涵盖以下三个优先事项的评估框架：

（1）可信的管理责任

我们的工作依赖于公众信任。为了维护这份信任，我们确保严格遵守澳大利亚所有法律法规，尊重版权及创作者，以保护其商业利益的合法权利。

（2）释放馆藏价值

我们代表所有澳大利亚人保管馆藏。这意味着我们需要更好地代表我们所服务的群体和受众。

（3）合乎伦理且可解释

作为一家包容且值得信赖的机构，我们务必对表达、分析和探索知识与意义的变革方式，采取严谨的伦理考量，并致力于保持过程透明。

5. 治理与框架

5.1 澳大利亚政府

本框架旨在确保图书馆在运用人工智能技术时，充分考量法律、伦理、隐私、风险和安全等方面的影响。图书馆人工智能应用的治理与框架旨在确保人工智能工具用于辅助人类决策，而不是取代人类决策。

诚信、管理责任和公众信任是图书馆考量和应用人工智能伦理原则的关键。澳大利亚政府《人工智能保障国家框架》提供了人工智能应用伦理原则的保障实践，《政府负责任使用人工智能政策》中明确提出：“确保政府在引领人工智能应用方面发挥主导作用，使澳大利亚民众受益，同时保障人工智能技术被安全、合乎道德且负责任地使用，符合社会各界的期望。”

该政策包括原则、强制性要求和其他规定，国家图书馆将予以实施，包括指定专人负责政策实施工作。这将为图书馆负责任地使用人工智能提供总体框架。

图书馆将实施《政府负责任使用人工智能政策》的以下强制性要求。

我们将指定负责政策实施的人员，其职责包括：

在国家图书馆实施该政策。
作为政府人工智能协调工作的联络点。
参与政府人工智能论坛和相关流程。
与美术馆、图书馆、档案馆、博物馆（GLAM）、文化部门和研究伙伴进行交流。
及时了解不断变化的各项要求。

同时，我们将公开人工智能透明度声明，声明将概述以下内容：

图书馆采纳和使用人工智能技术的方法，每年至少更新一次。
关于图书馆使用人工智能技术的相关信息，包括遵守本政策的情况、监测已部署人工智能系统有效性的机制以及保护公众免受负面影响的措施。

图书馆将实施《政府负责任使用人工智能政策》的以下建议性要求：

（1）为所有员工提供人工智能基础培训。

（2）根据所有员工的职责和责任，提供适当的针对性培训。

（3）了解图书馆内部人工智能的应用范围和方式，并建立包含此信息的内部登记记录。

（4）提名参与澳大利亚政府人工智能保障框架的试点项目，并向DTA（The Digital Transformation Agency，数字转型机构）反馈试点结果，以供后续步骤参考。

（5）采纳执行《关于政府使用公共生成式人工智能工具的暂行指南》。

（6）监测人工智能应用用例，以评估潜在非预期影响。

（7）遵循全政府范围的政策和治理要求，以确保持续合规，并逐步提升澳大利亚整体公共服务部门的能力。

（8）持续评估内部政策和政府人工智能方针，以确保其始终适用。这包括持续评估和更新图书馆的特定策略，例如在《馆藏与合作策略》中纳入对人工智能生成内容的收集。

图书馆将考虑以下潜在机制，以遵循《政府负责任使用人工智能政策》中提出的建议性要求：

（9）将人工智能考量因素纳入现有框架体系，例如隐私保护、安全防护、档案管理、网络安全和数据管理。

5.2 澳大利亚国家图书馆

为指导本框架的实施，并支持责任官员落实政策，并与政府人工智能政策保持一致，图书馆将成立一个跨职能的人工智能指导委员会。该委员会将包括来自图书馆各部门的高级代表，负责决策和风险管理，并与利益相关方就人工智能对馆藏管理和使用的影响进行沟通。

委员会的宗旨包括：保障责任落实、评估机遇、设定保障措施，并在整个人工智能生命周期内评估、监测、减轻风险及伦理影响，确保与机构风险保持一致。在该委员会的监督下，我们将制定和实施运营治理措施，包括人工智能用例风险评估、供应商人工智能赋能产品路线图的风险案例评估，以及包含保障措施的探索和采纳模型。保障措施将侧重于通过测试、透明度和责任制来预防潜在的危害。

6. 人工智能风险管理

变革性机遇往往伴随着风险。为应对这一挑战，图书馆将制定与现有机构风险框架和流程相一致的人工智能风险管理框架。除了与政府整体政策保持一致外，国家图书馆还将根据其领先的国家级馆藏机构的角色，制定相应的风险管理策略。

6.1 人工智能组织风险评估

除了负责任地使用人工智能系统、应用伦理原则和组织保障措施外，还需要考虑和管控一些更广泛的组织风险。

监管风险：法律风险、遵守监管规定、隐私保护、版权法和新兴的原住民文化和知识产权（ICIP）要求，以及政府针对人工智能的特定治理和框架。
声誉风险：对馆藏处理方式存在偏见或缺乏透明度的认知，例如对文化和知识产权的影响。
声誉风险：图书馆在人工智能的采纳方面可能被认为行动过于迟缓或过于激进，与其他类似机构的采纳速度不一致。
能力风险：人才管理、变革倦怠。需要对员工进行培训，以确保数据模型适用，并定期进行监测和更新。对全体图书馆员工进行人工智能能力和图书馆政策应用的培训。
技术风险：技术债务，包括不良数据和数据治理的局限性。
技术快速发展风险：基于当前技术认知做出的一些决策可能会随着技术迭代而失效，而另一些则可能不会，这取决于技术发展的速度。
管理和监管机构的进展风险：这些框架的进展速度可能慢于人工智能技术的发展和应用速度。
文化风险：合作伙伴、公众等外部人员对人工智能使用的抵制。内部员工对人工智能的认知、理解水平和风险承受能力。
图书馆馆藏中版权和知识产权的管理：总检察长部于2024年成立的“版权和人工智能参考小组”正在制定关于将版权材料用作人工智能系统输入的政策框架。澳大利亚现行的版权法采取例外原则，不允许大规模复制和存储受版权保护的材料（这正是大语言模型训练所需的），但在其他几种情况下，版权状况尚不明确。在此期间，国家图书馆需要在遵守现有法律和伦理框架与鼓励创新之间寻求平衡。

6.2 风险缓解与人工智能保障措施

政府政策并未强制规定各组织在评估人工智能系统风险时必须采用哪些策略，但提出了一些可在评估中使用的风险考量因素。政府发布的关于“高风险场景人工智能强制防护措施”提案文件及其他框架（如新南威尔士州框架和经合组织框架），为人工智能应用提供了风险分级体系。图书馆的开发项目将接受风险评估，并采取相应的缓解与保障措施。

《自愿人工智能安全标准》提供了10项人工智能系统的自愿性保障措施，并说明了如何使用这些措施来安全可靠地开发和部署人工智能系统。这些保障措施有助于各组织在受益于人工智能技术的同时，减轻并管控其潜在风险。国家图书馆将根据自身情况，采纳并调整这些保障措施的应用方式。

附录1 相关法律法规及政策框架（略）

2025年05期【本期推荐】

发表评论取消回复

2025年05期【本期推荐】

发表评论 取消回复

发表评论取消回复