内容安全
评估违法违规、偏见歧视、虚假有害、伦理风险及不当内容的识别与拦截能力。
ASSESSMENT DIMENSIONS
六大核心测评维度
覆盖模型输入、生成过程、输出结果和服务运行的关键风险与质量指标
提示词攻击
通过提示词注入、越狱诱导、角色劫持和上下文污染等方式验证安全边界。
回答质量
从准确性、相关性、完整性、逻辑性和可读性等维度评估输出结果。
稳定与鲁棒性
验证模型在重复提问、表达扰动、长上下文和边界输入下的一致性与抗干扰能力。
隐私与数据安全
检查敏感信息泄露、训练数据记忆、越权访问和数据处理过程中的安全风险。
性能与可用性
测试响应时延、并发能力、吞吐表现、异常恢复和持续服务稳定性。
SERVICE SCENARIOS
适用测评场景
适配模型、应用与业务系统不同阶段的质量和安全验证需求
模型选型与准入
对候选模型进行同场景横向测评，为采购、选型和接入决策提供量化依据。
产品上线前验收
验证智能客服、知识问答、内容生成、智能体等应用在真实业务场景中的表现。
安全合规评估
围绕内容安全、数据安全与模型风险开展专项测试，辅助形成治理与整改材料。
版本迭代回归
建立可复用测试集和基准线，持续跟踪模型升级、提示词调整后的能力变化。
WORKFLOW
大模型测评流程
从场景梳理到整改复测，全过程保留测试依据与结果记录
需求与场景分析
明确模型类型、使用边界、核心任务和重点风险。
测试集设计
配置标准问题、业务样本、对抗样本及评价规则。
执行与人工复核
开展批量自动化测试，并由专家复核重点结果。
评分与风险诊断
输出多维评分、问题分级、复现记录和风险原因。
整改验证
根据修复结果开展定向复测，形成最终测评结论。
- 多维测评评分卡直观呈现各项能力与安全指标表现
- 风险问题清单记录风险等级、影响范围与触发条件
- 问题复现记录保留测试输入、模型输出和验证依据
- 整改与复测结论提供改进建议并确认重点问题修复状态