日前，中央网信办主任庄荣文在接受新华社采访时提出，下一步，将坚持统筹高质量发展和高水平安全，推动这一重要领域(人工智能)的产业发展、技术进步与安全保障。
自去年以来，一场以人工智能为主角的科技浪潮席卷而来，人工智能大模型正在重塑我们的生产和生活。截至目前，我国完成备案并上线、能为公众提供服务的生成式人工智能服务大模型已达190多个，注册用户超过6亿。
高质量发展的另一面，是对高水平安全的要求。2023年7月，我国就率先开展了相关立法，国家网信办会同相关部门发布《生成式人工智能服务管理暂行办法》，为我国人工智能健康发展保驾护航。
在全球其他国家和地区，对于人工智能的安全治理措施也都快速提上日程。2023年，美欧达成人工智能促进公共利益行政协议，深化气候变化应对等五大领域的人工智能合作。2023年，七国集团达成《人工智能国际指导原则》和《人工智能开发者自愿行为准则》。2024年4月，美欧发布联合声明，强调通过人工智能合作应对全球挑战，美英还宣布达成人工智能安全科学合作伙伴关系。2024年8月1日，欧盟《人工智能法案》正式生效。
关于人工智能安全的担忧，一如当年好莱坞电影所预示的那样，当人工智能加速融入我们生活的今天，这一话题更是每每成为舆论关注的焦点。OpenAI对于安全问题的态度，往往会成为媒体的热门话题，近有美媒体爆料其非法限制员工披露AI安全风险，远有OpenAI安全团队的动荡纷争。
如何看待人工智能的发展和安全?中国工程院院士吴世忠在2024西湖论剑·数字安全大会上强调，在人工智能时代，安全问题呈现出前所未有的复杂性。它不仅涵盖传统的Security，即信息安全，还包含Safety，即系统运行的稳定性和可靠性，以及伦理安全，即技术应用必须符合道德伦理标准。这三者交织融合，形成了全新的安全图景。这是与传统安全问题的根本区别，对个人隐私保护、社会稳定、国家发展和国际合作等方面都提出了新的挑战和要求。因此，构建一个安全、坚韧、可信的人工智能发展生态，至关重要。这要求我们必须在推动技术发展的同时，充分考虑到安全保障，实现发展与安全的统筹兼顾。
安恒信息高级副总裁、安恒信息研究院院长王欣指出，在人工智能时代下，大模型技术存在着“矛”与“盾”的两面性。一方面，AI和大模型技术如“利刃”打破原有安全壁垒，安全需求与应用场景发生重大变革。另一方面，AI和大模型技术也促进了安全产品和服务革新，有助于网络安全防护“盾”优化升级。生成式人工智能能极大提高风险识别效率，在一定程度上弥补现有网络人才缺口，让威胁分析更准确、安全运营更高效、安全防护更智能。
作为安全领军企业之一，安恒信息始终秉持“让AI更安全、让安全更智能”的理念，坚信“以AI对AI，以AI管AI”是人工智能安全治理的必经之路。2023年8月28日，安恒信息率先在业内发布“恒脑”安全垂域大模型，并于当年投入杭州亚运会网络安保使用，取得杰出效果。随后又在2024年4月完成其安全大模型的全新升级，并以恒脑2.0驱动全栈产品核心能力提升。
不仅将AI用于安全产品、运营服务，安恒信息从网络安全、数据安全和内容安全三方面，制订了一系列针对大模型安全的产品和解决方案，为客户AI业务提供全生命周期的安全防护能力。
为评估大模型在数据处理、模型构建和应用部署中的风险，安恒信息自研出一套AI大模型风险评估系统，结合先进的内容检测引擎，帮助客户深入测评AI大模型生成内容以及信息输出的合规性，维护企业品牌形象，避免法律风险。此外，系统还深入评估AI基础设施的网络安全风险，识别潜在威胁，驱动完善AI大模型数据完整性和AI业务连续性。
在面向大模型训练与推理场景，安恒AiLand安全岛隐私计算平台设计技术与产品的安全结合架构，支持融合多方数据集建设精调数据集，持续进行训练和推理。今年5月，在中国信息通信研究院组织的首批“面向大模型的增强型可信执行环境基础能力专项测试”中，安恒信息顺利完成全部测试内容，成为首家完成此项测试的企业。
安恒信息将继续以AI驱动安全产品和服务的持续升级，同时也将针对大模型生命周期安全推出进一步、更加完整和完善的解决方案，以高水平安全，夯实人工智能高质量发展的安全基石。
免责声明：市场有风险，选择需谨慎！此文仅供参考，不作买卖依据。
