2025-10-06 21:25:03
日前，绿盟科技集团在北京举办大模型安全创新成果（新品）发布会，展示公司在人工智能（AI）安全防护领域的最新技术成果和实践经验。
当前，从应用程序编程接口（API）到智能体（Agent），AI应用所面临的风险正处于不断演进和变化过程中。绿盟科技集团高级解决方案经理郝广宾认为，AI安全治理工作必须系统地开展大模型安全产品与服务投入，确保防护措施的有效性和全面性。
绿盟科技秉持“AI原生安全+智能运营”理念，提出了大模型安全建设的“一三五”防御理念，以政策法规、国家标准、行业要求等为指导，开展主体识别工作，明确安全防护的对象和范围。同时，借助合规测评、安全测试、AI红队等多种手段，全面开展安全风险评估，精准识别出需优先处理的特定场景安全风险。
在此基础上，有序构建覆盖算力基础设施、训练语料、模型本身、智能应用以及第三方组件和供应链的纵深防御体系，从基础设施管理、安全合规评估、安全风险处置等维度，全方位开展大模型监管体系的日常安全运营工作，确保大模型在各个环节均能得到有效防护，保障AI应用的稳定运行和可靠性。
随着大模型技术在各行各业得到越来越广泛的应用，其带来的安全挑战也日益增多。“提示词注入、数据投毒等都会威胁到大模型自身安全，软件应用和基础设施环节存在的风险也需要我们不断提升技术能力。”绿盟科技集团副总裁曹嘉说。
为此，绿盟科技发布3款产品：大模型安全评估系统能对140余款主流模型进行自动化深度扫描，精准发现内容安全、对抗攻击、数据泄露及组件漏洞等风险；AI安全一体机集成了内容安全过滤、敏感数据防泄漏、精细化算力调度及应用层攻击防护等能力，通过风云卫混合模型和三级资源管控机制，有效防御提示词注入、模型越狱等攻击，保障资源高效利用，防止模型滥用；AI安全围栏可通过API无缝集成至现有应用，提供流式检测与毫秒级响应，对输入输出进行实时风险分析和智能处置，是守护智能客服、AI助手等交互场景的第一道防线。
“我们在做大模型防护时，除了要解决传统的安全架构问题，还要格外关注模型自身安全。例如，安全围栏可以解决智能体之间相互沟通出现的模型幻觉问题。而风云卫安全垂直大模型则扮演安全专家角色，帮助缺乏安全人才的企业提升安全运营水平。”绿盟科技集团副总裁宫智认为，对大模型安全治理需要在既有能力基础上不断升级防护手段，此次发布的产品就是对基础安全能力的重要补充。