阿里、商汤发布生成式AI新模型,大模型安全性如何保证?

  • 商洛在线
  • 2023-07-07 21:41:40
  • 来源:第一财经

在今年的上海世界人工智能大会(WAIC)上,生成式AI成为各家互联网科技公司竞逐的新领域。在7月7日的大会上,阿里巴巴、商汤科技都推出了最新的大模型版本。

阿里巴巴的人工智能图像生成器“通义万相”将对标OpenAI的DALL-E和Midjourney等美国厂商,阿里云还推出了面向开发者的人工智能工具ModelScopeGPT。


(相关资料图)

商汤科技也在WAIC上升级了“商汤日日新SenseNova”大模型,不仅在模型参数方面有了很大的提升,而且多模态能力也有了进一步的突破。商汤表示,希望通过“大模型+大装置”推动AI基础设施能力的跃进提升。

商汤科技董事长兼CEO徐立在产品发布环节中表示:“商汤不仅要打造通用能力更加强大的基础模型,也将进一步高效融合不同垂直领域的专业知识,构建更懂行业、更具专长的专业大模型,从根本上降低大模型的下游应用成本和门槛。”

咨询机构麦肯锡估计,生成式人工智能最终每年可为世界经济增加7.3万亿美元的价值。大模型的强大让人类瞥见了通用人工智能的曙光,但也让众多学界、业界人士心生忧惧。前不久,就有全球400多位专家发布联名公开信,警告人工智能发展速度过快,缺乏监管,可能会危及人类生存。

在这一背景下,人工智能的治理成为今年WAIC上热议的话题,也有一些厂商带来了针对大模型的安全解决方案。

瑞莱智慧7月7日在大会上发布了AI安全平台RealSafe3.0,该平台功能与OpenAI提出的“自动对齐研究员”类似,通过自动化的训练方法优化大模型,筑起抵御人工智能威胁的安全之盾。

瑞莱智慧联合创始人、算法科学家萧子豪对第一财经记者表示,大模型前仍处于“野蛮生长”阶段,还没有找到场景、风险和规范三者之间的平衡点。而在探寻这一平衡点的过程中,缺少易用和标准化的工具,即在技术层面上缺乏有力抓手。

“大模型调优的成本很高,这也是很多开发大模型的企业面临的主要挑战,我们推出这样的安全平台就是希望帮助这些通用大模型提升安全性。”萧子豪告诉第一财经记者,“这些技术都是基于自研多模态大模型底座实现的。”

他还表示,不能因为对于被技术反噬的担忧就止步不前,创造新技术和控制技术危害应该同步进行。

针对AI安全隐私的风险,中国信通院华东分院7月7日在WAIC大会的一场“大模型时代AIGC新浪潮”论坛上,联合业界发布了《可信赖AI安全隐私技术研究》白皮书,从政策法规、技术进展、专利标准、产业发展等层面,分析可信赖AI安全隐私技术的发展态势,聚焦安全挑战和主流技术方面研究应用现状。

白皮书认为,目前我国在可信AI相关标准的建立方面还处于初级阶段,建议加速建立可信AI标准与监管体系、注重可信AI技术人才培养、促进可信AI热点难点问题的解决、构建可信AI安全等级评估与防御体系,构筑全产业的可信AI生态。

标签:



推荐More