华为云-盘古安全护栏

转载学习：盘古大模型安全解决方案

介绍

华为云盘古安全护栏凭借四道防线，全面覆盖大模型使用的全生命周期，兼容开源、三方大模型，为企业用户提供最佳的大模型安全解决方案。

• 数据防护防线：通过数据脱敏、数据血缘、数据防毒等技术手段，从预训练模型的数据集，直至数据治理阶段，全方位保障企业构建高质量、安全合规的数据集，确保数据多样性和公平性。
• 模型防护防线：针对模型训练阶段可能遭遇的数据投毒风险，以及推理阶段训练数据、用户隐私信息泄露等风险，采用模型混淆、模型加密等先进技术，软硬件结合，加密模型，有效保障企业大模型资产安全。
• 内容防护防线：通过Prompt攻击检测等新型防御能力，实现对多种直接与间接攻击手段的有效检测，并通过对模型输入输出内容严格审核，严防生成有害或不当信息，有效应对新型安全风险。
• 应用防护防线：保护大模型在应用插件场景下的安全可靠性，确保大模型在各类应用场景中都能稳定、高效地发挥作用。

盘古安全护栏四道防线的综合拦截率超过90%。

特点

• 全链路安全防护：大模型安全解决方案从数据预处理开始，为构建安全合规训练数据集做保障。到模型训练阶段，构筑模型内生安全，保障模型资产安全。到模型推理阶段，对模型输入输出和应用插件全方面保护，保障模型安全合规。