以ChatGPT为代表的新一代人工智能(AI)技术的兴起,在各行各业掀起了新一轮技术革命。围绕AI技术带来的机遇和挑战，“安全+AI”已经成为目前网络安全厂商积极布局的领域。IDC预测，全球基于AI技术的网络安全市场将从2022年的174亿美元增长到2023年的1027.8亿美元，年复合增长率为19.43%。另据Research and Markets报告预测，2030年网络安全中AI产值将突破千亿美元，年复合增长率达到25.7%。安博通，作为网络安全上游的龙头企业，正加速研发和探索步伐，持续为网安行业发展注入新动能。
AI新型攻击种类与手段迭出 新一轮“攻防战”已打响
AI技术的广泛应用加剧了网安风险，黑产大语言模型、恶意AI机器人、自动化攻击、深度伪造（Deepfake）等AI新型攻击层出不穷，在全球范围内造成严重危害，新一轮“攻防战”已打响。如何防范AI技术带来的新风险，并应用AI技术构建更具实战能力的安全体系，已成为行业、企业的刚需和网安厂商研发的重点。
安博通专家指出，大语言模型自身的安全漏洞就是一大严重的安全威胁。据开放式Web应用程序安全项目（OWASP）发布的AI安全矩阵，常见的AI威胁包括多种提示注入、模型投毒、数据投毒、数据泄露等，针对大模型应用的十大安全风险项检查清单包括提示注入、数据泄漏、沙箱不足和未经授权的代码执行等。这些都可能造成信息泄露。更加严峻的形势是，黑产大语言模型应运而生， FraudGPT和WormGPT 两款恶意AI工具自去年开始就在暗网公开出售，FraudGPT偏向生成迅速且大量的网络钓鱼攻击，WormGPT偏向生成更为复杂的恶意软件和勒索软件功能，均成为黑客手中的得力工具。因此，需要对大语言模型进行加密、权限管理、监控等多重安全措施,保障其输入、输出和相关数据不受非法攻击或访问。
据悉，安博通早在去年就和百度安全签订战略合作协议，基于文心大模型共同研发面向安全网关的AI SEC Agent，共建AI大模型安全生态。据全球增长咨询公司弗若斯特沙利文发布的《2024年中国大模型能力评测》，基于用户使用体验和实际使用价值双重衡量标准，综合考量数理科学、语言能力、道德责任、行业能力及综合能力等5大核心维度及21个细化二级维度，对国内主流的15个大模型进行了权威评测，百度文心一言能力最为全面，五项评测维度均为优势能力，并取得四项第一。
巧用AI化被动为主动 安全产品变身智能安全顾问
社会工程攻击是利用社会工程学手段实施的网络攻击行为。社会工程学是一种操纵人际关系以获取敏感信息或访问权限的技术。攻击者通常利用人类的心理弱点，如信任、恐惧或贪婪，来诱使受害者泄露信息或执行不安全操作。AI技术令攻击者可以更加便捷、更加具有针对性地实施海量攻击。去年，在ChatGPT发布的短短五个月后，据英国网络安全公司Darktrace报告，攻击者使用ChatGPT等生成式AI通过增加文本描述、标点符号和句子长度，就让社会工程攻击量增加了135%。
对此，安博通专家表示，作为网安的防守方，应当以“安全+AI”为利刃，化被动为主动，在这场“攻防战”中积极抢占制高点，更有效地应对新型威胁，提高威胁检测和判断的效率以及准确率，提升安全处置自动化水平。运用AI技术打造的网络安全产品未来应当更具智慧，类似智能安全顾问，能够提供威胁情报与改善建议，在助力企业、行业提升智能化防护水平的同时，进一步改善交互模式和用户体验。
AI攻击危及国家安全 筑牢网安“防火墙”势在必行
AI新型攻击不仅对行业、社会发展带来严重威胁，更危及国家安全层面。例如，基于AI技术图像、音频和视频合成方法的深度伪造技术经常被用于制造虚假新闻、操控公众舆论，该技术曾被运用于2022年俄乌冲突期间的信息战，并造成了今年1月美国新罕布什尔州选举干扰事件。这正是全球各国强化法律约束，持续推动国家信息安全建设的主要原因。据国外调研机构Markets and Markets的研究，2023年全球组织预计将在网络安全AI解决方案上花费224亿美元。
继去年国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》之后，我国持续强化AI安全的管理，进一步健全网安法律和标准体系，维护国家安全和社会公共利益。近期，多项网安规定和相关标准相继发布：3月15日，《数据安全技术 数据分类分级规则》等5项网络安全国家标准获批发布；3月22日，国家网信息办公布《促进和规范数据跨境流动规定》，自公布之日起施行，进一步促进数据依法有序自由流动，激发数据要素价值，扩大高水平对外开放。
安博通专家表示，维护网络安全、守护国家信息安全是全社会的共同责任，更是每个安全厂商的首要责任。从深度伪造、大规模高效率攻击到隐私数据泄露等，尽管AI造成的安全隐患多种多样，但紧握“安全+AI”这个核心，做好AI攻击监测和防范，做强数据安全防护，则可有效防范AI安全风险。而这正是安博通不断努力的方向。作为网安上游企业，我们将在“安全+AI”领域不断探索，致力于成为网安行业坚实的“后盾”，为保障国家信息安全持续贡献力量。
