智能制造网APP
智能制造网手机站
智能制造网小程序
智能制造网官微
智能制造网服务号
智能控制
机器人
仪器仪表
物联网
3D打印
工业软件
回放
品牌
勤卓
技术演进始终呈现出一个反复出现的模式：愿景清晰、采用迅速、竞争压力陡增，而安全体系却常常滞后。在公共云时代，这一规律已经显露无遗。由于概念宽泛、边界模糊，云的快速扩张在推动业务创新的同时，也暴露出安全策略的迟滞与治理能力的不足。许多企业并非败于技术本身，而是败于缺乏前瞻性的安全体系：影子IT、分散的采购行为以及缺乏统一架构的安全实践造成了长期隐患。
如今，人工智能正沿着更快、更广、更具影响力的轨迹发展，而企业对其本质与节奏的误解正成为新的系统性风险。
人工智能的三次浪潮：为何它们决定安全策略的方向
第一波：以预测分析为中心的智能
早期人工智能主要聚焦于模式识别、预测性分析和机器学习技术。这一阶段的系统大多运行在后台，未进入组织的战略视野，安全重点主要集中于数据保护，确保敏感信息不被泄露或滥用。
第二波：生成式人工智能的全面扩散
生成式人工智能让人工智能走向公众视野。文本、图像、代码等生成能力让其迅速成为业务创新和效率提升的重要工具。然而，这一阶段的最大问题在于：生成式人工智能被简单归为“人工智能”的泛化概念之下，使风险评估和安全控制缺乏针对性。安全团队往往只能依赖战术性补丁，对现有工具进行功能叠加，而未从体系层面重新审视人工智能带来的结构性变化。
此阶段也出现了影子AI现象：员工在缺乏治理的情况下使用非授权工具，导致数据泄露风险持续攀升。
第三波：代理型人工智能的崛起——真正改变威胁格局的拐点
第三波人工智能的核心不再是内容生成或数据分析，而是行动能力。代理型人工智能能够与业务系统直接交互、做出决策、触发流程，并以半自主模式运行。
其安全风险的本质不再仅是数据交换，而是行为控制与系统完整性。
当人工智能代理接入企业资源计划系统、财务模块、物流链路或客户操作环境，其潜在的攻击面呈指数级扩张。此变化与互联网从静态页面向动态应用演进时的安全转折极为相似，每一次架构跃迁都可能生成全新的攻防路径。
盲点：内部安全与外部生态之间的错位
当前企业的主要风险并非来自投入不足，而是安全信心与真实风险之间的脱节。许多组织在内部安全防护上持续加码，却忽略了自身已深度嵌入由人工智能驱动的生态系统之中。
当业务逐渐由跨组织的自动化链路串联时，单体边界已无法反映真实的风险场景。企业与合作伙伴、平台服务商、自动化供应链之间的交互呈现前所未有的复杂性。随着人工智能代理跨系统、跨组织协作，这种复杂性还将持续放大。
生成式与代理式人工智能将在供应链自动化、可持续运营、智能物流等场景快速扩散，这意味着安全事件不再局限于某个组织，而可能沿着自动化链路向外扩散，形成系统性风险。
抵御AI时代威胁：安全思维亟需重构
应对人工智能驱动的威胁，并不意味着放弃传统安全原则，而是需要在这些原则基础上实现体系级进化。
1.代理即用户：零信任应成为基线
人工智能代理的身份应与人类用户一样被严格管理，包括：
独立的身份凭证
最小权限访问
明确的使用边界
持续行为监控
代理的行为偏离应与异常的人类操作同等对待。
2.强化分区：限制爆炸半径
在代理系统的高速自动化能力下，若缺乏分区策略，受损代理可能在极短时间内横向扩展。分段、隔离和分层结构不再只是架构选项，而是强制性的风险控制手段。
3.AI安全不能是附加组件
面对不断升级的攻击手法，将安全功能事后叠加在业务之上已无法满足需求。组织必须承认目前的安全能力已难以应对成熟化威胁，更无法抵御下一阶段机构化人工智能或量子计算带来的挑战。
从被动防御到主动韧性：必须立即完成的转变
公共云与人工智能的发展证明：被动式安全无法与创新速度匹配。在创新迭代周期远快于治理和采购流程的背景下，任何试图“等待成熟框架”或“事件后修补”的做法都将导致重大风险。
未来的安全战略应建立在架构韧性与敏捷性之上，而非依赖一次次针对性的补丁或单点方案。随着人工智能代理变得更具能力、更互联、更自主，安全体系也必须具备同等的动态适应力。
人工智能对威胁格局的重塑已经发生。真正的问题不再是“是否需要应对”，而是组织能否在冲击到来之前做好准备。
浙公网安备 33010602000006号
智能制造网APP
智能制造网小程序
微信公众号
