2月29日消息，奇安信集团发布《2024人工智能安全报告》(以下简称《报告》)。《报告》认为，人工智能技术的恶意使用将快速增长，在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。
《报告》认为，“AI是一种通用技术，通用就意味着既可以用来做好事，也可以被用来干坏事”。具有巨大潜力的AI技术同时带来两大主要挑战：一是放大现有威胁，另一个是引入新型威胁。
奇安信预计，未来十年，人工智能技术的恶意使用将快速增长，将在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。
报告数据显示，2023年基于AI的深度伪造欺诈暴增了3000%，基于AI的钓鱼邮件数量增长了1000%；奇安信威胁情报中心监测发现，已有多个有国家背景的APT组织利用AI实施了十余起网络攻击事件。各类基于AI的新型攻击种类与手段不断出现，甚至出现泛滥，包括深度伪造(Deepfake)、黑产大语言模型、恶意AI
机器人、自动化攻击等，在全球造成了严重危害。
同时，《报告》深入研究了基于AI的深度伪造(Deepfake)、黑产大语言模型基础设施、利用AI的自动化攻击、AI武器化、LLM自身安全风险、恶意软件、钓鱼邮件、虚假内容和活动生成、硬件传感器安全等12种重要威胁，对其技术原理、危害情况、真实案例等进行了深入的剖析，旨在让业界更全面的认识到AI普及带来的两大主要挑战：一方面放大了现有威胁，比如钓鱼邮件、恶意软件和社会工程学等；另一方面是引入了新型威胁，如AI自动化攻击、AI深度伪造等。
面对AI网络攻击、AI武器化等日益严峻的安全威胁，《报告》认为，AI技术将会推动安全领域发生范式变革，全行业需启动人工智能网络防御推进计划。新一代AI技术与大语言模型改变安全对抗格局，将会对地缘政治竞争和国家安全造成深远的影响，各国正在竞相加强在人工智能领域的竞争，以获得面向未来的战略优势。全行业需启动人工智能网络防御推进计划，包括利用防御人工智能对抗恶意人工智能，扭转“防御者困境”。
我要评论