《2024年IFLA趋势报告》节选:人工智能和其他技术正在重塑社会

《2024年IFLA趋势报告》节选:人工智能和其他技术正在重塑社会

2024年10期【本期推荐】

本文译自:https://www.ifla.org/wp-content/uploads/ifla-trend-report-2024.pdf

《2024年IFLA趋势报告》从对知识本身的理解以及技术、政治和环境维度出发,探讨了信息和知识环境中与图书馆相关的七个关键趋势:

1. 知识的实践方式正在改变

2. 人工智能和其他技术正在重塑社会

3. 信任体系正在重新构建

4. 技能要求变得愈加复杂

5. 数字技术分布不均衡   

6. 信息系统消耗更多资源  

7. 社区连接需求日益增长

报告深入分析了这些趋势,探讨了这些趋势如何交叉影响,描述了未来信息和知识环境的的可能变化,以及图书馆在其中扮演的角色。本文挑选“趋势2:人工智能和其他技术正在重塑社会”进行翻译。

趋势2:人工智能和其他技术正在重塑社会

生成式人工智能和新兴技术正在改变我们创造、分享和使用信息的方式

随着生成式人工智能应用,尤其是像ChatGPT这样的应用的广泛流行,可以肯定,在未来几年内,人工智能将深刻地影响我们的生活,其影响范围将覆盖从教育、医疗到商业和创意产业等各个领域。

生成式人工智能技术进展迅猛,其对伦理、政治、社会、文化和经济的影响,人们仍在不断地深化理解:我们必须“加强对人工智能等新兴技术的国际治理,以造福全人类”(联合国全球数字契约 )。

未来十年,人工智能及其他技术(可能应用了人工智能)将持续对信息与知识的构建、塑造、共享、参与及使用方式产生决定性的影响。

在本章中,我们将探讨技术在通过深度伪造传播虚假信息方面的作用,利用现实技术创造沉浸式学习环境、提高网络速度、推动数字孪生技术崛起,以及在面对信息丢失威胁时进行海量信息保存的潜力。

机遇

– 日常任务的自动化

– 新型的信息互动方式

– 低成本的互联网连接

– 新颖的创造力

挑战

– 信息完整性

– 平衡创作者权益和激发新颖创造力

– 检测深度伪造内容

– 网络攻击导致信息丢失

生成式人工智能的巨大潜力与潜在危害

生成式人工智能之所以得名,是因为它有能力根据用户的提示创造内容,这些内容形式多样,包括文本、图像、音乐和计算机代码。举个例子,传统的人工智能可以分析法律合同的特征,识别合同是否涉及知识产权或隐私。而相比之下,生成式人工智能可以直接生成(起草)一份涵盖上述主题内容的法律合同。

在为澳大利亚政府制定的一份关于生成式人工智能(Generative AI,简称GenAI)的快速响应报告中,Bell等人指出:“对未来十年的潜在机遇进行精确预测几乎不可能做到。尽管当前已知的风险较为明确,但存在一系列难以预估的新兴风险类别。”GenAI将对信息格局产生重大影响,涵盖了从内容创作、教育、到工作模式、任务自动化以及语言翻译等多个方面。

Bell等人还指出:“在人工智能技术应用到更广泛的经济领域之前,早期采纳者,如信息产业、科研领域及医疗保健行业,或将率先通过诸如文本分析及图像处理获得收益。”

他们还发现,全球对生成式人工智能都在重金投资,例如“英国发布人工智能战略,在一台AI超级计算机上投资9亿英镑……德国计划在2025年前投资300亿欧元发展人工智能,美国政府用人工智能进行资金分析,中国计划到2030年成为全球人工智能领导者,全球都在对人工智能初创企业积极投资”。IDC(International Data Corporation)亚太机构提出,“到2028年,80%的首席信息官将推动组织变革以利用人工智能、自动化和分析技术。”

生成式人工智能(GenAI)将不仅在商业和机构中大规模使用,它还将更深入地融入我们的家庭和日常生活,包括搜索、创作等日常活动。GenAI将被集成到虚拟助手中,并应用于各种设备,以协助进行个性化学习、语言翻译以及创作图片和音乐。尽管人工智能已经融入我们的日常生活,但未受监管的AI应用的传播,引发了其在教育环境中如何使用以及AI技术所使用的数据的完整性的讨论。如果我们越来越依赖那些只包含特定类型知识的模型,这将对非主流语言、被禁止获取的信息,以及更广泛的边缘化群体意味着什么?

使用生成式AI创建和共享信息也引发了关于版权的问题,无论是AI使用的数据还是它生成的内容:“在版权法中寻找一种新的GenAI平衡,不仅要考虑到媒体行业生产者和消费者的权益,还要考虑到整个经济社会……过度保护和保护不足都会降低版权的社会效益。”监管者力求在创作者的权利与新形式的创作和知识创造的潜力之间取得平衡。

目前,世界各地的政府机构及监管机关正积极采取快速行动,以应对大规模且缺乏监管的人工智能应用可能带来的潜在风险(参见趋势1)。联合国大会于2024年3月通过了一项关于人工智能的决议,旨在于推动构建“安全、可靠及可信赖”的人工智能系统,以保障全社会的可持续发展。

深度伪造技术的传播,加剧了错误信息的泛滥

深度伪造(Deepfakes)——由人工智能技术创建的媒体内容,通常具有欺骗性——是一种特别重要且不断增长的虚假信息和数字模仿工具。Deepfakes是由机器学习算法结合面部映射软件生成的,可以在未经许可的情况下将数据潜入数字内容中。当执行成功时,就会捏造一个人从未做过的事情,可能是一段文本、视频或音频,看上去及其可信,难辨真伪。

人工智能生成深度伪造的信息内容,对传播错误信息影响重大(参见趋势1)。正如Bell等人在其快速响应报告中描述的那样,人工智能“具备生成高质量、低成本且个性化的内容(包括用于有害目的)的潜力有可能会被滥用。基于大模型构建的工具已经被用于创作难以辨识的深度伪造信息,包括用于虚假信息的高质量人工图像、视频和语音,甚至包括国家行为体(state actors)的参与。这类伪造内容,在缺乏特殊培训或技术工具的情况下,与人类生成的内容几乎无法区分。随着AI生成内容的广泛传播,错误信息传播的挑战将进一步加剧。

检测深度伪造的内容在技术和社会层面仍然是一项挑战。尽管此类内容主要由网络中的恶意行为者传播,但众多深度伪造作品亦可能通过公众日常的社交媒体分享流传。媒体素养(参见趋势4)对于抵御此类内容至关重要,深度伪造往往与公众心目中的“可信度”紧密相连,导致人们对其深信不疑,难以动摇。正如《The Conversation》所指出:“人们倾向于规避不一致感并寻求解决之道,这导致他们可能忽视论点的逻辑结构与质量,而将焦点集中于结论的可信度上。”

洛桑国际管理学院(IMD)创新与战略教授、全球数字业务转型中心主任Michael Wade表示,深度伪造现象正日益加剧,并将对社会产生深远的影响。“深度伪造技术无处不在,并将在2024年达到新的高峰,其渗透到社会的各个方面,对真理的概念认知构成挑战。以前人们认为“眼见为实”,但现在深度伪造现象对政治、公司治理和信息安全等领域都产生了很大的影响。

混合现实技术提供了处理信息的新方法

元宇宙被媒体吹捧为未来十年的决定性趋势/特征。然而,我们发现,虽然未来几年的趋势预测中包括了增强现实(AR)、混合现实(MR)或虚拟现实(VR)等各项元宇宙接入技术,但对于真正的沉浸式环境(元宇宙作为一个整体概念)是否会对我们的生活产生影响,人们的态度不一。

皮尤研究中心在对数字社会专家进行有关元宇宙的调查时,发现了不同的意见分歧,“这些专家中有很大一部分认为,到2040年,增强现实和混合现实工具将成为人们日常生活中对现实扩展的主流方式,而非目前普遍认为的‘更具沉浸感的虚拟现实世界元宇宙’”。

尽管如此,元宇宙的概念还是为提升数字生活的包容性带来了许多机遇(参见趋势5),包括实现跨国界的连接、提供沉浸式的教育,以及让残障人士享受到更多的服务和体验。例如,“元宇宙可以扩大学习的选择,为学生提供比现实物理世界更广阔的访问权限。在这些3D模拟的世界中,学生可以参与历史事件、直观地理解几何概念、探索行星等等。”

然而,随着元宇宙及其“世界”的建立,它有可能复制当前数字社会的问题。这可能是因为主流技术中有关访问、可负担性和安全性的问题也存在于元宇宙中。面临的挑战包括:基础设施和设备、欺诈和诈骗,以及隐私和数据保护。与现有数字平台的隐私威胁一样(参见趋势3),元宇宙中生成的数据“也可以跟踪用户、识别身份并进行分析数据——包括手、眼和身体跟踪。制定强大的隐私和安全措施以保护元宇宙中的用户数据安全必不可少”。

数据流量和网络速度的提高

通过互联网和数字技术获取信息的相关技术正在迅速进步。在社会和经济领域,移动宽带、Wi-Fi和卫星技术等无线网络连接方式,正变得越来越重要,超过了传统的固定宽带连接,因为它们让人们能够随时随地访问互联网、应用程序和在线服务。尽管世界上有些地区目前还在使用3G网络,但未来十年,无线技术预计将发展到6G、F6G和Wi-Fi 8的新阶段。

这加剧了数字鸿沟(参见趋势5),因为那些网络连接不足的国家和人群,参与数字社会和数字经济的机会相对较少。国际电信联盟(International Telecommunications Union,ITU)研究发现,“5G网络覆盖了高收入国家89%的人口,而在低收入国家,这一比例仅为1%。实际上,在最贫穷的国家,3G(尚未普及到4G)仍然是最为普遍的移动宽带技术,而且有超过20%的人口没有接入电网。”

预计移动数据流量将继续增长,因为全球移动电话订阅数已超过全球人口总数。相对而言,固定线路网络连接的数量较少,因为家庭成员和企业工作人员之间存在网络共享行为,尽管这些连接所承载的网络流量和数据使用量更高。然而,随着无线技术能力的提升,无线和固定线路之间的流量份额将在未来十年内发生变化。据科技公司华为预测,到2030年,人均移动数据使用量将增加40倍。Sandvine全球互联网现象报告指出,互联网数据流量增长主要是由视频流量所驱动的,其中,“Netflix在美洲和亚太地区占主导地位,YouTube在欧洲、中东和非洲占领先地位。尽管视频在所有地区的网络流量中都占据了主导地位,但同样不能忽视游戏、在线市场、社交网络和云存储服务对总流量的贡献”。

数字孪生正在扩大规模

数字孪生是对对象或系统的虚拟映射和表达,它超越生命周期,根据实时数据不断更新。通过运用模拟、机器学习和推理算法,数字孪生能够支持决策制定。

“数字孪生”的想法并非新颖之物。最早的数字孪生之一是著名的“阿波罗13号孪生”,它于1970年协助NASA宇航员成功返回地球。然而,随着技术的进步,数字孪生的应用范围大大拓展,可用于汽车、城市乃至国家的方方面面。

英国创新机构Nesta对数字孪生技术在未来十年的规模进行了重点阐述,“现在我们目睹到,数字孪生在国家层面以前所未有的规模发展。就像阿波罗13号一样,它往往由灾难威胁所驱动。”由于气候危机的影响,太平洋国家图瓦卢预计将在我们的有生之年变得不宜居住。为了应对即将失去的土地、语言和文化,图瓦卢政府正在构建这个岛国的数字孪生。据Tuvalu.tv报道,“这种数字化举措将使图瓦卢在其土地消失后,也能保持其国家身份并持续运作。

它还将通过创建一个虚拟空间来促进图瓦卢侨民的治理,让图瓦卢人可以相互联系,探索祖先和文化,并为各个行业和商业提供新的机会。”

Nesta也指出了这一举措所带来的风险和潜在危害:“鉴于数字孪生根植于数据的构建,公民可能会担心他们的隐私受到侵犯。政府或企业可能会滥用技术进行无端的监控。当我们愿意放弃真正的国家时,’备份国家’是否会产生潜在的道德风险?若图瓦卢是应对气候变化所引发的地理、政治及环境动荡的先行试验区,那么,我们同样需要考虑数字化转型所带来的影响(参见趋势3)。

安全是组织面临的一个紧迫问题

技术的进步也增加了全球政府、企业和机构面临的安全威胁风险。除了传播错误信息,不良行为者将大型机构列为网络攻击的重点目标(如大英图书馆被网络攻击事件)。咨询公司普华永道最近对2300多家机构进行了一项调查,结果发现,“尽管全球范围内的欺诈率和经济犯罪率相对稳定,但特定类型的欺诈活动却展现出日益增强的破坏性。更为老练的外部攻击者特别是有组织的团伙犯罪,发起的攻击事件越来越常见,且这些攻击越来越多地直接针对客户。”

行业和政府之间需要合作,共同应对不断升级的网络安全挑战。区块链可能是应对这一威胁的潜在解决方案。消费安全倡导者表示,技术解决方案应在初期提出:“从根本上说,为民众创造更优质的技术,是一项需深思熟虑的设计决策,它要求将这些基本要素融入到开发与部署流程的结构中,而不能仅仅事后考虑补救。”

大英图书馆网络攻击事件表明,大规模信息系统恢复运营并向公众重新开放耗费的时间与庞大的资源。因此,在未来数年间,将安全性置于首要地位,最大程度地降低技术基础设施中包含重要知识及个人信息所面临的风险,显得尤为重要。

思考

在一些国家,技术连通性的差距是一个问题,大部分人口集中在城市中心,而农村和偏远地区的居民则依赖于3G和4G网络,或者依靠低地球轨道卫星(LEOs)等卫星技术来保持通信。当这些服务无法覆盖或提供时,将直接影响这些地区居民获取教育、医疗和经济机会。

问题

• 人工智能如何改变学习、语言翻译和信息生产方式?

• 图书馆将如何优先考虑安全问题?额外的安全措施将带来什么影响?

(欢迎转载,转载请备注来源)

发表评论

云瀚联盟-智慧图书馆技术应用联盟