走进安全行业大模型

颁布功夫 2024-04-11
自ChatGPT颁布以来 ，萦绕大模型 ，幼我、企业甚至国度 ，都陷入愈发剧烈的刷新中 。它的影响力已经远超技术领域 ，成为全球技术、产业和国际竞争的综合战场 。然而 ，大模型的落地并非饱经风霜 ，从行业数据的网络到现实利用场景的结合 ，似乎每一步推动都面对着多沉难题 。本文重要介绍基础大模型和行业大模型的必要性 ，并通过L0-L2分层架构来加快大模型落地过程以及安全大模型的利用场景等内容 ，以便援手各人更好地理解和落地大模型 。

在大模型出现之前 ，以机械进建、深度进建、规定推理等为代表的人为智能技术已经宽泛利用于网络安全领域了 。那么为什么还必要大模型呢 ？


为什么必要大模型 ？


由于大模型不仅具备通用智能和知识 ，还具备知识整合提取能力和逻辑思想能力 。梦想的大模型像是人类的副手（或者说副驾驶） ，而不是一个可供查阅的工具书 。


以通过深度进建训练得到的专用幼模型为例 。幼模型的训练必要大量的标注数据 ，并且只能解决单一问题 。相比之下 ，大模型的通用性矫捷好多 ，甚至只必要几条单一的样例 ，就能具备新能力 ，这就使得大模型有更宽泛的利用场景 。


OpenAI在2020年提出的缩放定律（Scaling Law）指出 ，模型的最终机能重要与推算量 ，模型参数量和数据大幼三者有关 ，而与模型的具体结构（层数/深度/宽度）根基无关 。


而大模型相迸宗之前的幼参数量说话模型 ，在以上三个方面都做了巨大提升 ，并显露出一些涌现能力（世界知识 ，指令遵循 ，逐步推理等） 。


通俗来讲 ，基础大模型由宽泛的通用数据（如网页、百科、书籍等）训练得到 ，它像是一个能够和你对话的百科全书 ，相识却不精通各类知识 ，同时具备肯定的逻辑思想能力 ，而这些都是过往幼模型很难做到的 。


截至2023年底 ，国内已颁布的通用大模型超过了200个 ，那么为什么还要打造面向特定领域或行业的行业大模型呢 ？


为什么必要行业大模型?


上文提到了梦想的大模型所具备的能力 。然而 ，机能受限于缩放定律 ，基础大模型现实利用起来却并没有设想中那么得心应手 。大模型使用通用语料库进行训练 ，而安全行业的数据通常是特殊且有限的 。


这导致 LLM 不足安全有关数据和专业知识 ，对特定安全问题的理解能力匮乏 ，无法提供正确或深刻的专业诠释 。


钻研批注 ，通用大模型在安全问题上天生答案的正确率多数不及50% ，对中文问题回覆的正确率更低 。下图展示的是分歧模型在网络安全问题集上回覆的正确率：


首页 | J9集团有限公司官网



图片起源：Miao, Yukai, et al. "An Empirical Study of NetOps Capability of Pre-Trained Large Language Models." arXiv preprint arXiv:2309.05557 (2023)


因而 ，通过增量预训练（Continuous Pre-train ，CPT）等技术为大模型注入安全行业知识 ，就成为了安全行业大模型利用的必要伎俩 。短缺这个步骤直接对后续安全工作做监督微调（Supervised Fine-tuning ，SFT） ，大模型则或多或少会晤对知识匮乏的问题 ，随即出现“幻觉”景象 ，对不懂的问题做出郑重其事的回覆 。


早年面的描述能够看出 ，同样都接装大模型” ，但具体寓意和合用领域上是存在差距的 。那么大模型还有哪些档次划分呢 ？


L0-L2大模型分层架构


为了加快大模型落地过程 ，可将大模型划分为L0基础大模型、L1行业大模型、L2利用大模型三个档次：


L0基础大模型：重要蕴含使用通用知识预训练得到的基座模型（如九天、文心一言、通义千问等） ，用来为大模型的基础能力提供支持 。L1行业大模型：则是使用行业知识增量预训练得到行业模型 ，为大模型注入领域知识 。在安全行业 ，我们必要的就是安全大模型 。L2利用场景：是通过各类技术使L1行业大模型适配于下游利用场景的方式 ，专一于在特定工作上获得优良的成效 。


通俗来讲 ，L0基础大模型像是进建所有科主张高中生 ，L1行业大模型类似于选定专业的大学生 ，L2利用大模型则是选定特定方向的钻研员 。这种架构的优势在于 ，将大模型利用于业务的步骤流程化 ，加快整体落地过程 ，降降低地成本 。同时 ，对于L0-L2档次的划分 ，也让业务数据的沉淀越发有条理 ，方便数据不休回流到大模型 ，不休优化大模型智能水平 。


首页 | J9集团有限公司官网



在我们关注的网络安全领域 ，有了安全大模型后 ，具体能够利用在哪些场景中 ，为J9集团官网日常工作带来能力和效能的提升呢 ？


安全大模型的利用场景


安全大模型在L2层面拥有宽泛的利用场景 。安全大模型通常允许用户通过天然说话输入的方式实现安全运营的日常操作 ，凭据用户输入 ，按需挪用已有的幼模型和产品职能 ，实现大幼模型协同的智能算法系统 。


这种天然说话挪用职能� ？榈姆绞� ，能够利用大模型的知识储蓄和理解推理能力 ，为领域问题提供专业的解决规划 。同时 ，对于已经有有关经验的安全专家 ，则能够通过大模型提升通例分析工作的效能 。即“援手通常人成为专家 ，援手专家提升效能” 。


下面列举一些常见的安全大模型利用场景： 


利用场景1：安全运营

  

安全汇报：大模型往往能够在几分钟内汇总指定领域内的所有告警事务 ，并且天生综合性安全汇报 ，供安全专家查看 。


告警解读：实现对于安全事务的关键身分 ，蕴含告警内容、事务类型、攻击手法、资产属性等进行专业分析和解读 ，天生解读汇报 ，辅助用户告警研判 。


告警溯源：对于特殊的告警 ，安全专家能够通过大模型进前进一步溯源分析 ，要求大模型凭据终端日志天生溯源图等 。


响应措置：基于事务信息和安全设备部署信息 ，由大模型自动天生事务措置战术 ，上报用户进去批改或确认 ， 实现对攻击行为的急剧响应 。


利用场景2：知识整合


安全谍报：大模型能够利用整合分歧起源的安全谍报源 ，并在用户环境中自动适配 。在安全专家进行事务调查时 ，为安全告警提供高低文 。


安全问答：通过构建安全知识库 ，大模型能够回覆用户的安全问题 。用户能够查问各类网络安全、主机安全等方面的问题 ，并从回覆中获取专业的安全信息和建议 。 


利用场景3：代码治理


缝隙挖掘：通过进建大量代码和缝隙案例 ，大模型能够堆集丰硕的缝隙代码分析经验和专业知识 ，从而发现代码中存在的潜在缝隙或风险 。


缝隙建复：大模型能够凭据缝隙分析了局 ，天生补救步骤、自动执行复杂的风险缓解活动或在无需用户交互的情况下建补软件 ，这大大加快了治理缝隙和提高组织安全性的速度 。


恶意剧本：大模型能够分析和诠释恶意剧本行为 ，协助用户发现存在威胁的剧本 。它允许用户导入剧本并分析其是否存在恶意行为 ，检测缓和解潜在威胁 ，象征漏报和断根误报 。 


利用场景4：合规监控


合规审计：很多企业必须遵守行业尺度以�；す臼莶⒙慵喙芤� ，人为审核通常较为蹩脚 ，大模型能够援试炖估组织对行业尺度、律例要求和内部战术的合规性 。


数据大屏：大模型能够自动天生这些数据大屏来监控组织数据的合规性 ，能够援手安全专家轻松跟踪合规指标的进度并向审核怨毓示 。


合规建复：大模型能够通过合规性审计了局 ，提供相应的建复建议 ，援试祗业达到监管尺度 。


持续更新：随着行业尺度的更新和治理机构更改其律例要求 ，合规审计往往必要做出相应变动 。大模型能够急剧的跟进这些变动 ，并提供领导建议 。