人工智能技术正以前所未有的速度重塑着各行业的生态格局。从金融领域的智能风控到医疗行业的辅助诊断，从能源行业的智能运维到制造业的数字化转型，AI不仅极大地提升了生产效率和服务质量，更成为推动全球经济和社会发展的关键力量。然而，随着AI技术的广泛应用，内容安全、数据安全、算法伦理、隐私保护等挑战也日益凸显。
为应对这一难题，近日，2025中国数谷·西湖论剑大会“重点行业AI应用与安全防护研讨会”汇聚了政府主管部门、行业专家、企业、行业组织等嘉宾，共同探讨AI在金融、能源等关键行业的应用与安全防护，旨在AI发展与安全的辩证关系中探寻最优解。
锚定航向：共探AI发展与安全
浙江省网络空间安全协会负责人表示，AI作为引领发展的战略性技术，已深刻改变人类社会的生产生活。他强调，要抢抓AI技术变革，推动社会各行业的发展，推动AI在千行百业的应用，但也要在创新与安全之间找到平衡，统筹安全和发展，加快AI技术的应用落地和安全治理。他提出了五点建议：构建行业AI服务平台、构建AI+行业教育生态、完善标准与治理体系、加强风险防控、加强AI生态建设。
政策解读：AI标识合规要求
面对人工智能安全治理的难题，国家互联网信息办公室等部门日前联合发布《人工智能生成合成内容标识办法》，配套强制性国家标准也同时发布，标志着我国AI治理进入"技术标准牵引"的新阶段。如何实现合规要求与技术创新同频共振？来自浙江互联网应急中心人工智能专家结合技术背景与行业实践，分享了对《办法》的理解，着重探讨了标识工作可能带来的积极影响：包括促进技术应用透明化、构建可追溯的责任框架、推动技术标准体系完善、维护创作权益等维度。讨论还涉及标识办法的总体思路、关键概念、技术背景及工作展望等内容。
技术探索：AI安全风险治理
浙江大学滨江研究院数智融合研究中心副主任林昶廷博士分享了“人工智能安全风险治理探索及落地实践”。他从模型自身风险和模型生成内容风险两个方面，深入剖析了AI安全风险治理的现状与挑战。林昶廷介绍了其团队在AI全生命周期安全治理方面的实践，包括生成式人工智能评测验证系统、部署后的大模型防护系统、AIGC内容检测、人工智能安全教学/实训系统等。
行业实践：AI赋能中小银行安全左移
金融行业作为重点行业之一，对数据安全和隐私保护有着极高的要求，而 AI 技术的应用更是为金融行业带来了新的机遇与挑战。杭州银行信息安全部沈勤经理分享了“AI赋能中小银行安全左移”的实践经验。他介绍了杭州银行的信息安全体系，并详细阐述了AI技术在中小银行安全防护中的应用。沈勤指出，通过建立开发安全平台、应用AI手段构建安全大模型，杭州银行实现了漏洞的自动化分析与管理，显著提升了安全防护效率。
安全防护：让智能更安全
安恒信息副总裁杨绍波先生以“让智能更安全”为主题，分享了安恒在AI安全防护方面的探索与实践。他提出，AI安全防护需要从数据处理、运行服务、生产应用三个阶段入手，针对数据安全、运行环境安全、模型安全、内容安全和终端应用安全五大风险点，构建全生命周期的安全防护体系。
安恒信息构建 AI 安全治理体系，推出全域智能安全 “三大件”。大模型风险评估系统，凭借全链路资产管理和多维度探测，可精准检测大模型风险；大模型安全防护系统，通过内容检测三道防线和异步扫描追溯，守护大模型运行安全；办公智盾专注办公场景，保障 AI 应用资产、商业机密防泄漏。这些产品相互配合，从检测、运行到终端，全方位为大模型安全保驾护航，助力企业平衡创新与合规，推动 AI 行业安全发展。
研讨环节：共商AI发展与安全之道
在研讨环节，与会嘉宾围绕AI应用与安全防护展开了深入讨论。专家们就AI生成内容的检测、AI在渗透测试中的应用、数据加密与安全态势感知、人工智能在安全领域的应用前景及挑战等问题进行了交流与探讨。
本次研讨会由浙江省网络空间安全协会、西湖论剑大会组委会主办，浙江省网络空间安全协会软件供应链安全专委会、安恒信息承办，杭州市云计算与大数据协会、杭州银行股份有限公司协办。研讨会的成功举办，为AI在重点行业的应用与安全防护提供了宝贵的思路和方法，希望在政府、企业、高校和研究机构的共同努力下，构建全方位的安全防护体系，推动AI技术健康有序发展。
