当前位置: 首页 > 实时讯息 >

数博对话 | 浙江大学求是特聘教授杜跃进

0次浏览     发布时间:2025-08-25 14:48:00    

在数据要素市场化加速推进、人工智能技术深度融合的背景下,数据流通与安全、AI安全与效率等矛盾成为行业关注焦点。2025中国国际大数据产业博览会(简称数博会)将于8月28日在贵州贵阳举办,在大会前夕,特别专访了浙江大学求是特聘教授杜跃进,围绕数据安全技术应用、大模型“安全与效率”平衡、生成式AI风险防控、DSMM标准发展及数博会期待等关键议题展开了一场深度对话,分享了他的深刻洞察与前瞻建议。

问:数据安全是数据要素流通的基石,在您看来,当前数据要素市场化进程中,隐私计算等技术能否成为破解“安全与流通矛盾”的关键?

杜跃进:数据安全与传统网络安全存在诸多不同,其中核心差异之一是数据安全与业务耦合极深,因此单独某一种技术无法判断能否解决所有问题,关键在于技术能否适配特定业务场景、满足业务需求。

包括隐私计算、联邦学习、安全多方计算、机密计算等在内的各类技术,均在探索数据安全保障路径,但这些技术必须放在具体业务场景中实践——要与业务融为一体、与管理融为一体,才能验证其有效性。

简言之,技术对数据安全至关重要,但不能“唯技术论”;安全是数据流通的前提,但数据安全绝对不能脱离业务需求,需在技术实践与业务需求的结合中寻找平衡。

问:大模型厂商普遍采用“安全对齐”抑制风险,但企业为业务效率常要求解除对齐限制。您认为这种“安全与效率”的冲突应如何平衡?

杜跃进:“安全与效率”的冲突,本质是安全与发展平衡的经典难题,需结合当下大模型发展阶段、全球态势及数字革命进程,遵循五大原则落地解决:

第一,提高风险容忍度。安全风险无法完全消除,只能通过风险控制降低到合适程度。当前阶段不应追求“零风险”,需适当放宽标准,接受一定范围内的风险存在。

第二,风险消除适度“右移”。不必将所有资源投入“预防风险发生”,而是更要强化风险发生后的能力——快速准确地发现风险、及时且有效的响应、提升恢复能力降低损失等,避免因过度在“左侧”追求“零风险”而“因噎废食”。

第三,系统性应对风险。突破单一技术思维,从人工智能系统及社会影响层面综合管控风险,例如结合数据治理、模型可解释性提升、舆情和危机应对等多维度措施,形成整体防控体系。

第四,创新快速迭代。当前大模型技术发展速度远超政策法规、标准、产品的更新节奏,需在政策、技术、标准、产品等各领域创新迭代模式,提升对新情况的适应能力。

第五,坚持以业务为中心。所有安全措施的评估与实施,都需从业务视角判断“价值与成本”——无论是企业、行业还是国家层面,都要避免“为解决小风险付出过大代价”,最终以业务需求决定措施的必要性、程度与时机。

需强调的是,这些原则都需要结合具体行业、企业及事件落地,未来需通过更多最佳实践总结经验,而非依赖“自上而下的统一方案”。

问:生成式AI面临数据污染、模型窃取等风险,从技术层面看,您认为智能威胁检测、自动化攻防演练等手段该如何具体落地?

杜跃进:这可以从“整体安全能力”的视角回答这个问题。目前我国在技术与工程领域能力突出,但常忽视技术之外的关键因素。不能认为技术是解决一切的手段。

回顾网络安全发展历程:2007年前以“无组织攻击”为主,2007年后针对性信息窃取增多,2010-2011年起高级威胁攻击出现,传统的威胁检测、态势感知等方法已面临挑战。生成式AI面临的“数据污染”“模型窃取”风险,仅是众多网络安全问题中的“两个小点”,因此,核心不在于“某类技术如何落地”,而在于整体安全能力的提升。

安全能力不是单一技术指标更不是安全产品的功能性能参数,而是一个机构中技术手段与人员组织、制度流程、资源配置的融合产物——需先明确“安全能力如何刻画与衡量”,再判断其能否应对包括AI风险在内的各类威胁。

实践中,不能陷入“买产品即保安全”的误区,需重视运营、业务决策对接、人员培训、组织建设、制度完善等“非技术环节”,通过多要素融合构建真正的安全能力。

问:2024年您牵头发布了《DSMM应用情况与未来发展分析报告》并推动行业互认机制。一年来,在AI多模态数据融合、跨境数据流动场景下,DSMM面临哪些未预见的挑战?

杜跃进:首先需明确DSMM的核心价值——它是以“组织为单位”来解决组织或机构的“可信任问题”,即判断某一企业或机构的可信度,进而决定“哪些业务可委托给它、风险是否可控”,这是平衡业务发展与风险可控的重要抓手。

当前,AI多模态数据融合、跨境数据流动对“数据流动效率”的需求愈发迫切,数据不流动或流动不足,不仅会增加业务成本,更会影响技术创新、行业发展与国际竞争。在此背景下,DSMM的价值将进一步凸显,DSMM成熟度一至五级的等级划分将是未来企业在数字世界中需要的“通行证”,没有这张“通行证”的企业无法获得别人的信任,而拿着更高等级DSMM证书的企业,则意味着其数据安全能力更加强大,有能力处理更大更重要的数据而不至于风险升高。

从实际应用看,DSMM发展势头良好,但也面临三大可预见的挑战:

第一,保持测评专业性。随着DSMM普及,参与机构增多,需保障第三方测评机构的专业性,若失去专业性,整个DSMM体系的可信度将崩塌。

第二,深化与改进标准。我是从2015年开始提出DSMM的,2016年完成标准研究,2017年开始对外推广和实践,2019年国家标准正式发布,随着技术的进步我们也在不断提升和改进,现在需要总结过去这些年的经验对标准进行改进;另一方面,它是通用框架性标准,需在各行业细化适配才能够更好地适应本行业的特点,但是目前“行业专属DSMM标准”的建设仍不足,未来可加强在具体行业领域的“专属DSMM标准”研究与建设。

第三,强化行业主管部门参与。数据安全与行业业务紧密相关,过去行业主管部门常将其视为“安全监管部门的事”,参与度较低,这种情况事实上导致行业发展严重受阻。实际上,需行业主管部门根据本行业特点明确“不同DSMM等级对应的业务权限”(如三级可开展哪些业务、四级可突破哪些限制),才能实现本行业数据流动过程的风险可控,并且引导企业主动提升数据安全能力,而非仅满足合规要求。

今年数博会上我们也将会发布新的DSMM产业发展报告,大家可以期待一下。


问:2025数博会以“数聚产业动能 智启发展新篇”为主题,将全面展现数据要素与人工智能技术融合创新的最新成果。作为数博会的重要参与者,您对2025数博会在推动安全与发展的平衡、凝聚产业共识方面,有怎样的期待?

杜跃进:我与数博会的缘分始于2016年,当时便建议借助数博会平台打造数据安全领域的标杆,以支撑贵州乃至国家的大数据战略;2017年正式建立贵州大数据安全工程研究中心后,我们制定了中长期规划,把每年数博会作为阶段性成果输出的节点,每年都举办数据安全论坛、闭门会议等,推进测评师培养、实践案例梳理、宏观数据分析等务实工作。

正是以数博会为“里程碑”,DSMM一步步获得很多政府、行业和产业界(包括外资企业和国际机构)的广泛认可,贵州的实践也获得了全国信息安全标准优秀实践一等奖。

我们是参与数博会活动的众多团队之一,以我们自己作为一个小的缩影,对于2025数博会,我的核心期待是“更聚焦务实案例,更注重生态合作”:希望数博会能更多关注“在中国本土扎根成长、具备国际领先性与话语权”的实践案例,将数博会打造为“宣传推介优质实践、建立务实性生态合作”的平台,进而推动数据要素与AI技术融合中安全与发展的平衡,凝聚产业共识。当然,除数据安全领域外,其他行业也有大量优质案例值得关注,期待数博会能全面挖掘并推广这些“扎扎实实的成果”。


相关文章