阿里、商汤发布生成式AI新模型，大模型安全性如何保证？

在今年的上海世界人工智能大会（WAIC）上，生成式AI成为各家互联网科技公司竞逐的新领域。在7月7日的大会上，阿里巴巴、商汤科技都推出了最新的大模型版本。

阿里巴巴的人工智能图像生成器“通义万相”将对标OpenAI的DALL-E和Midjourney等美国厂商，阿里云还推出了面向开发者的人工智能工具ModelScopeGPT。

(相关资料图)

商汤科技也在WAIC上升级了“商汤日日新SenseNova”大模型，不仅在模型参数方面有了很大的提升，而且多模态能力也有了进一步的突破。商汤表示，希望通过“大模型+大装置”推动AI基础设施能力的跃进提升。

商汤科技董事长兼CEO徐立在产品发布环节中表示：“商汤不仅要打造通用能力更加强大的基础模型，也将进一步高效融合不同垂直领域的专业知识，构建更懂行业、更具专长的专业大模型，从根本上降低大模型的下游应用成本和门槛。”

咨询机构麦肯锡估计，生成式人工智能最终每年可为世界经济增加7.3万亿美元的价值。大模型的强大让人类瞥见了通用人工智能的曙光，但也让众多学界、业界人士心生忧惧。前不久，就有全球400多位专家发布联名公开信，警告人工智能发展速度过快，缺乏监管，可能会危及人类生存。

在这一背景下，人工智能的治理成为今年WAIC上热议的话题，也有一些厂商带来了针对大模型的安全解决方案。

瑞莱智慧7月7日在大会上发布了AI安全平台RealSafe3.0，该平台功能与OpenAI提出的“自动对齐研究员”类似，通过自动化的训练方法优化大模型，筑起抵御人工智能威胁的安全之盾。

瑞莱智慧联合创始人、算法科学家萧子豪对第一财经记者表示，大模型前仍处于“野蛮生长”阶段，还没有找到场景、风险和规范三者之间的平衡点。而在探寻这一平衡点的过程中，缺少易用和标准化的工具，即在技术层面上缺乏有力抓手。

“大模型调优的成本很高，这也是很多开发大模型的企业面临的主要挑战，我们推出这样的安全平台就是希望帮助这些通用大模型提升安全性。”萧子豪告诉第一财经记者，“这些技术都是基于自研多模态大模型底座实现的。”

他还表示，不能因为对于被技术反噬的担忧就止步不前，创造新技术和控制技术危害应该同步进行。

针对AI安全隐私的风险，中国信通院华东分院7月7日在WAIC大会的一场“大模型时代AIGC新浪潮”论坛上，联合业界发布了《可信赖AI安全隐私技术研究》白皮书，从政策法规、技术进展、专利标准、产业发展等层面，分析可信赖AI安全隐私技术的发展态势，聚焦安全挑战和主流技术方面研究应用现状。

白皮书认为，目前我国在可信AI相关标准的建立方面还处于初级阶段，建议加速建立可信AI标准与监管体系、注重可信AI技术人才培养、促进可信AI热点难点问题的解决、构建可信AI安全等级评估与防御体系，构筑全产业的可信AI生态。

标签：