中华网两会|奇安信齐向东：供需人促“AI+安全”

文｜罗曾

3月4日，2024年全国两会拉开帷幕。

中华网财经了解到，全国政协委员、奇安信科技集团董事长齐向东围绕“AI+安全”、“科技金融”准备了两份提案。

其中，作为外界关注的焦点之一，人工智能（AI）是新一轮科技革命和产业变革的核心技术，也将为推进中国式现代化注入强大动力。不过，随着AI技术不断发展，数据泄露、“深伪”诈骗等安全威胁加剧，针对和利用AI的网络攻击、AI武器化等安全问题日益凸显，安全防护难度激增。

齐向东提到，以ChatGPT为代表的生成式AI能快速生成钓鱼邮件、编写恶意软件与代码等，导致攻击数量增加，AI欺诈事件频发。数据显示，ChatGPT等生成式AI导致网络钓鱼邮件攻击增长135%。生成式AI还带来了数据非法获取、数据泄露及恶意滥用等数据安全问题，如ChatGPT在对话交互过程中能获取用户数据，加剧数据泄露风险。不法分子还能利用“深度伪造”换脸变声、伪造视频，“眼见未必为实”将成为常态，网络诈骗大增，甚至引发社会认知混乱。

与此同时，在AI恶意利用方面，人工智能大幅降低了网络攻击门槛，不懂代码、不懂技术的普通人也能成为黑客，增加了网络攻击数量，专业的黑客组织可以利用人工智能对网络攻击进行改造升级，比如，利用AI制作恶意软件、生成规避杀毒软件检测的代码等，网络攻击能力将出现跃升；在针对AI算法攻击方面，机器视觉攻击、数据源污染等攻击频发，攻击者能通过对抗样本、数据投毒、模型窃取等方式对AI算法进行攻击，使其产生错误判断，同时由于算法黑箱和算法漏洞的存在，这些攻击往往难以检测和防范。

此外，涉及军事层面更是不容小觑。齐向东指出，一方面，人工智能可以被用在“机器人杀手”等致命性自主武器(LAW)上，通过自主识别攻击目标、远程自动化操作等，隐藏攻击者来源、建立对抗优势；另一方面，人工智能可以将网络、决策者和操作者相连接，让军事行动针对性更强、目标更明确、打击范围更广，越来越多国家开始探索AI在军事领域的应用。数据显示，2024财年，美国国防部计划增加与AI相关的网络安全投资，总额约2457亿美元，其中674亿美元用于网络IT和电子战能力。

但不可否认，AI同时赋能网络安全行业，在促进攻防技术升级上有大作用，越来越多国家和机构加速布局网络安全与AI技术的融合。

因此，在此次提案中，齐向东对于创新发展“AI+安全”，提出了三点建议：

一是从供给侧看，要开展联合创新，围绕攻防实战和应用场景实现“AI+安全”尖端技术研发突破。鼓励各行业头部企业与专业安全厂商结成“对子”联合创新，共同探索大模型安全创新产品在威胁检测、漏洞挖掘、指挥研判等方面的应用。

二是从需求侧看，要强化政策牵引，推动“AI+安全”技术创新产品在各行业落地应用。设置“AI+安全”产业专项基金，对研发创新“AI+安全”产品的企业，给予政府基金、贴息贷款或科研项目等支持；对率先取得技术突破，实现成果转化的科研机构和企业给予奖励；对积极使用相关技术、产品和服务的企业给予相应补贴。

三是从人才侧看，要壮大“AI+安全”领域的实战型、复合型人才队伍。充分发挥民营企业在人才培养上的优势，鼓励成立校企共同体，在实践中培养更多大数据、人工智能、网络安全等新兴产业领军人才，为我国抢抓人工智能机遇壮大人才队伍。