万物相生相成。以ChatGPT为代表的生成式人工智能,为网络安全领域曾经难解的问题,提供全新解决思路,也伴生出令人担忧的安全问题。
出现矛盾意味着新的突破正要诞生。对于网络安全厂商来说,如何在保证数据安全、合规的基础上,主动应用GPT技术,解决技术发展过程中遇到的新问题,这是一个寻求业务突破的必修课题。
5月30日,由云安全联盟大中华区主办、国内一线安全厂商等单位承办的「CSA ChatGPT安全研讨会」在线上举行。
翻译的CSA白皮书《ChatGPT的安全影响》在会上发布。白皮书强调了GPT技术在提升生产力和改变软件开发实践上的潜力,同时也指出区分其合法和非法使用的挑战。
观点一
攻防对抗持续升级,需以智能对抗智能
当前已经出现攻击者利用AI大模型快速构建攻击工具,无论是在挖掘代码的漏洞、针对漏洞生成攻击脚本,或者是批量生成钓鱼邮件、社会工程学的聊天回复等。当攻防对抗持续升级,认为「以智能对抗智能」,才是未来的发展方向。
以高质量企业级数据的训练,自研出安全垂直领域的大模型「安全GPT」,赋能安全产品和服务,大幅提升对未知、高级威胁的检测能力。
经5000万样本数据测试,相较传统检测引擎,赋能安全GPT技术的某厂商XDR对攻击绕过手法的检测率高达95.7%,误报率(安全告警里判错的比例)仅4.3%。
观点二
GPT技术应用将成为安全厂商的核心生产力与竞争力
某厂商自研的安全GPT由「大模型算法+威胁情报+安全知识」训练而成的。为了防止大语言模型提供错误解答诱导的风险,某厂商还通过小模型进行了大量的微调,使其既有泛化的检测能力,也有高质量的攻击解释能力。
这是大模型带来的技术飞跃,也为安全厂商带来核心生产力与竞争力。
某厂商在国内安全领域率先进行了GPT技术应用的实践,并实现了首秀演示,展现出以下能力:
1.大幅提升对流量和日志的安全检测效果。
2.自动分析用户安全现状,并生成处置建议。
3.自动化调查、分析、研判,提升安全运营效率。
4.自然语言交互,提高用户体验,降低对运营人员的专业要求。
观点三
拥抱大模型,需更充分地拥抱云化
为了用好大模型技术,安全产业需要更开放、互联,更充分地拥抱云化。
某厂商AI技术架构在用户侧的落地,依赖于「开放平台+领先组件+云端服务」的先进体系。通过开放的平台,享受云端在线、海量数据的能力;通过领先的组件,抓取攻击现场的丰富数据,并基于云端和本地的模型进行防护;再通过云端的服务,提供7*24h在线的服务兜底。
某厂商安全GPT技术应用在XDR平台,平台具备云化交付能力,内置与大量组件的联动能力,便捷交付,开箱即用。
面对GPT技术应用,某厂商已经迈出了尝试的一小步,在复杂攻击成为新常态的背景下,以GPT技术构筑安全建设全新范式,在更精准检测防御高级威胁的同时,为安全运营工作降本增效,提升各行业用户安全基准线。
秉持AI First的发展战略,某厂商将探索与解决GPT技术应用的更多难题。相信在不久的将来,某厂商所有的安全产品和服务,都会接入到安全GPT,实现真正智能的安全,助力每一位用户「安全领先一步」。