云瀚本地大模型应用套件正式发布
2024年06期【特别报道】
供稿支持：陈晓扬
在5月25日举行的第七届未来智慧图书馆发展论坛暨第二十届数智图书馆前沿问题高级研讨会的开幕式上，“云瀚本地大模型应用套件”正式发布。这一创新产品由智慧图书馆技术联盟（即云瀚联盟）、上海图书馆以及上海福呈数据有限公司共同推出，其目标是帮助图书馆迅速掌握并体验先进的人工智能大模型。
“云瀚本地大模型应用套件”（下文简称“云瀚大模型套件”）以智能化体验为核心，为用户提供了一个整合多种AI大模型能力的软件平台。它支持本地部署，并且能够适配多种操作系统和硬件设备。该套件可离线运行，提供了一系列基于人工智能的功能应用。该套件不仅能够帮助用户全面认识与体验AI大模型的强大能力，进而在未来进一步满足学习、培训、以及业务辅助等多维需求，以推动图书馆基于AI技术的探索应用与创新实践。
整合功能
云瀚大模型套件集成了对话、翻译、写作等基础功能，以及联网搜索、文生图、图片识别、音频转录和视频生成等高级功能。目前已经上线的功能包括：语言处理、文档问答、音频转录、文字生图、图片识别等。规划上线功能包括：提示词模板、知识库问答、语音交互、联网检索问答、文生视频、文生音乐等。
主要特点
云瀚本地大模型套件支持多种硬件平台，支持多种操作系统，支持多模态开源模型，支持云端模型API调用，模型与应用分离，支持多用户。具有上手操作简易化、模型配置灵活化、数据安全个性化、技术支持社区化等特征。
上手操作简易化
云瀚大模型套件为用户提供了便捷的人工智能体验。它支持本地一键安装，用户只需双击安装文件或在后台运行命令行，即可轻松完成安装，并立即享受到一个全功能的大模型应用平台以及相应的培训环境。
模型配置灵活化
云瀚大模型套件采用了模型与功能的分离设计，用户可以根据自己的需求，选择下载各类模型，或者通过API调用远端模型。这种灵活性允许用户根据具体的应用场景，选择最合适的模型进行部署。
云瀚大模型套件支持完全离线使用，无论是在局域网内还是在没有网络连接的环境中，用户都能够利用其强大的功能。同时，当用户需要更新模型或软件时，也可以通过联网进行，确保系统的持续更新和优化。套件考虑到了用户的并发使用需求，根据用户的配置情况，支持一定数量的并发用户，使得多用户环境下也能保持高效的服务。
数据安全个性化
本地化部署确保数据主权和个人隐私，实现完全的数据控制和个性化配置。云瀚大模型套件通过其数据隐私保障功能，确保所有用户数据都在本地进行处理，利用数据隔离技术来保护信息安全，从而避免了数据泄露的风险。
技术支持社区化
云瀚本地大模型套件依托云瀚社区提供技术支持，并基于社区力量，提供丰富的知识库、培训、资源等，通过构建活跃的用户互助与学习平台，提供后续的学习、使用与开发支持。通过构建在地智能，体验开源生态，对接云瀚社区AI应用。
云瀚大模型套件
（下载试用）
