为了证明数字主持人“可心”有自主的大脑支持,三六零集团创始人周鸿祎在第十一届互联网安全大会演讲开头与其进行了互动。“可心”对提问对答如流,还给周鸿祎的演讲拟了10个题目。周鸿祎笑称,数字主持人的出现可以省去一笔邀请主持人的费用了。
这个场景正是AI时代快速发展带来的一个应用或改变。在现场,与会者体验着虚拟与现实的互动,而正如“可心”拟定的10个题目,围绕“人工智能”和“安全”这两个关键词,包括周鸿祎在内的各界人士开始思索未来将发生什么,我们应做哪些改变以及将要面对哪些挑战。
安全是核心
近年来,以大模型为代表的新一代AI技术飞速发展,在通信、金融、教育、医疗及工业互联网领域有着广泛的应用场景。在这场以人工智能时代数字安全为主题的讨论上,与会者普遍提及,AI在深刻改变经济社会、广泛赋能各行业的同时,也带来了全新的安全挑战。
全国工商联党组成员、副主席汪鸿雁表示,当前,以人工智能、大数据、云计算、5G等为代表的新一代信息通信技术发展应用日新月异,深刻改变各行各业的发展方式。中共中央、国务院印发的《数字中国建设整体布局规划》提出,筑牢可信可控的数字安全屏障。切实维护网络安全,完善网络安全法律法规和政策体系。这充分体现了安全对于建设数字中国的重要基础作用。
“我国人工智能产业发展已进入快车道,数据安全是网络空间安全的基础,也是国家安全的重要组成部分。探寻AI下的安全新变局,则成为AI技术蓬勃发展中的重要议题。其中,数据安全法、个人信息保护法、关键信息基础设施安全保护条例等数据安全法律体系的逐步完善与落地执行,为人工智能产业的高质量发展夯实坚实基座。”第十三届全国政协经济委员会副主任苏波说道。
面对生成式人工智能发展亟待解决的问题,中央网信办网络安全协调局副局长罗锋盈认为,要提升新技术新应用安全风险防范能力,如何将海量数据转换为真正能为大模型训练所用的数据是重点。此外,要善于把数据资源转换为数据优势,构建网络安全教育技术产业融合发展良性生态。
解决之道在哪里?
从与会者的发言来看,数字安全不再是一个单纯的技术问题,是涉及业务、管理、流程、团队等各方面的系统工程。传统的安全防护在战略上缺乏统筹规划,已经不足以应对持续变化的安全问题。为此,有专家提出,我们需要用数字化思维重塑安全,建设体系化、实战化、智能化的数字安全能力。
对于众多的生成式AI应用,如何更安全放心地与其互动?专家认为,应关注人工智能数据安全的建设问题。苏波提出三点建议,一是加快人工智能数据资源的建设。在发展中解决安全问题,建立适合我国国情的数据流通共享机制,培育规范数据交易市场,鼓励不同主体安全地进行数据交换。构建支撑我国人工智能产业发展的优质数据资源,加大人工智能应用场景下数据安全防护技术的研究,促进人工智能技术在数据安全治理与网络攻防对抗等领域中的应用。二是创新人工智能技术手段,用技术进步解决安全风险难题,加强人工智能数据安全保护基础理论研究和技术研发。发展负责任、可信任、能受控的通用人工智能。三是完善人工智能数据安全监管体系,用规范监管保障安全发展,加快完善人工智能健康发展的监管规则和法律法规,推进明确人工智能数据安全法律原则,确立不同参与主体在人工智能生命周期各阶段所享有的数据权利与承担的安全责任。
把握数字经济机遇
发展数字经济意义重大,是把握新一轮科技革命和产业变革新机遇的战略选择。
“当前,网络空间已经成为大国博弈焦点,全面加强网络安全保障体系和能力建设是应对新形势、新挑战的必然之举。”中国互联网协会理事长尚冰表示,互联网行业要把握数字经济快速发展新机遇,高度关注人工智能等新技术引发的诸多安全问题,积极应对新挑战,以高水平安全能力保障高质量发展。
在周鸿祎看来,安全行业未来一定是服务业,接下来要将沉淀在“全网安全大脑”里的世界级安全能力全面云化和服务化,低成本、高效能输送给企业级客户,为政府、城市和企业筑牢数字安全屏障,守护数字经济成果。