当前位置:首页 > 平板

邬贺铨院士:数字安全需要探索新模式

(CWW)8月9日,在ISC 2023第十一届互联网安全大会上,中国工程院院士邬贺铨表示,人工智能时代,传统安全防护的手段急需升级,数字安全需要探索新的模式,以适应复杂的数字化场景。

数字经济将驱动新型基础设施建设,并加速数字技术的新一轮创新,以人工智能为代表的数字技术将重塑数字内容生产方式和消费模式,通用人工智能将实现知识与数据双轮驱动,未来单个模型有望通过迁移学习支持多种业务,并且能够精准选择节点,从而有效降低功耗和成本。数字化将逐渐走向智能化高峰,开启人工智能的时代。

与此同时,AI大模型的应用,也将会越来越多的渗透到社会、生产、生活的方方面面,大模型会无形无影相随。值得注意的是,AI大模型技术发展和应用过程中存在技术安全风险和人为安全风险。


(资料图)

邬贺铨分析道,一是大模型数据安全。大模型训练依托海量数据,开源数据集、互联网数据容易得到,但很多数据质量无法保证,如果拿这些数据来训练,内容风险程度可想而知。此外,很多中小企业没有自己的模型,如果模型把它们的数据拿到,企业也会担心机密数据泄露。

二是大模型算法安全。AI大模型的算法推理过程存在不可控制性,轻则得到令人意想不到的回答,数据结果存在不可解释性,重则可能出现算法失控。

三是大模型被人为操纵后造成的安全风险扰乱社会秩序。

邬贺铨表示,网信办已就此起草相应的管理办法,对容易引起数据泄露安全的大模型应用,都应该采取比较谨慎的态度。

对于如何应对风险,邬贺铨建议主动迎接IPV6的主导互联网时代,通过IPV6提升数据的安全能力,支撑跨境数据流动的有效管理,护航数据安全流动。

同时,要摒弃硬件式碎片化弱协同的传统安全防护手段,向云化、服务化的理念升级。数字安全企业需要建立体系化的安全运营服务框架,面向各行各业输出数字安全能力,帮助企业构建安全防御体系,保护数据安全与商业秘密。

此外,邬贺铨提出,要完善数字安全的生态系统,要覆盖工业企业设备供应商、基础电信运营商、云服务商、工业互联网平台运营商、工业应用提供商、数字安全提供企业、第三方检测机构与用户等,实现危险威胁处置情报共享。

邬贺铨表示,数字安全已经成为数字经济发展的焦点,人工智能等数字技术的应用本身既是安全防御的重点、手段,也是保障的有力手段,需要将大数据、人工智能、互联网等这些技术融合,提升保障能力。

推荐DIY文章
Win11连接打印机的方法
Win11系统nvidia控制面板找不到了解决教程
ITunes设置音视频画面质量方法
Win11调整鼠标dpi的方法
Excel表格将负数设置成正数的方法
饿了么取消自动续费教程
精彩新闻

超前放送