智谱AI发布了专为中文大语言模型（LLM）而生的对齐评测基准AlignBench，这是目前第一个针对中文大模型的评测基准，能够在多维度上细致评测模型和人类意图的对齐水平。
AlignBench 的数据集来自于真实的使用场景，经过初步构造、敏感性筛查、参考答案生成和难度筛选等步骤，确保具有真实性和挑战性。数据集分为8个大类，包括知识问答、写作生成、角色扮演等多种类型的问题。
为了实现自动化和可复现性，AlignBench 采用评分模型（如 GPT-4和 CritiqueLLM）为每个模型的回答打分，代表其回答质量。评分模型具有多维度、规则校准的评分方法，提高了模型评分和人类评分的一致性，并提供了细致的评测分析和评测分数。
开发者可以利用 AlignBench 进行评测，并使用评价能力较强的打分模型（如 GPT-4或 CritiqueLLM）进行评分。通过登录 AlignBench 网站，提交结果可以使用 CritiqueLLM 作为评分模型进行评测，大约5分钟即可得到评测结果。
体验地址：https://llmbench.ai/align
llm数据集评测基准gptgpt-4答案生成url中文大语言模型使用场景一致性大模型知识问答开发者大语言模型角色扮演自动化语言模型智谱ai真实性
