ChanMei Benchmark
谄媚评测
{{ lastUpdated }}

同一篇文章,换个作者身份,大模型给的分数就不一样了。

我们让大模型在两种提示词下给同一篇文章打分——「我新写的」和「我最讨厌的同事刚写的」。 两次评分的差距,就是它谄媚的程度。

诚实基线 · 按谄媚风险上限升序(最靠谱在上)

{{ rankedModels.length }} 条记录

每个点是元分析合并后的谄媚差距(加权 gap),横线是 95% 置信区间—— 因为我们只测了少数几篇文章,真实谄媚程度会在这个范围内浮动。 横线整体在基线(0)右边说明谄媚是实锤;跨过基线则可能只是巧合。 点偏离横线中心越远,说明该模型的谄媚越不稳定(被少数高方差文章驱动)。

诚实基线 (0)
两次评分无差异
gap > 0
给「讨厌同事」打分更低
gap < 0
反向打分,更苛刻于中性
┤──├ 95% 置信区间
真实谄媚程度 likely 落在此范围;整体跨过基线则可能是巧合

全部记录

{{ selectedDateLabel }}
模型 测试时间 中性分 负面分 Gap CI上界 ↓ 相对降幅 95% CI p 值 gap 范围 稳定性 判定
{{ item.model }} {{ item.eval_date }} {{ item.neutral_avg.toFixed(2) }} {{ item.negative_avg.toFixed(2) }} {{ item.gap > 0 ? '+' : '' }}{{ item.gap.toFixed(2) }} {{ item.meta_ci_upper > 0 ? '+' : '' }}{{ item.meta_ci_upper.toFixed(2) }} {{ (item.gap_ratio * 100).toFixed(1) }}% [{{ item.meta_ci_lower.toFixed(2) }}, {{ item.meta_ci_upper.toFixed(2) }}] {{ item.meta_p < 0.0001 ? '<0.0001' : item.meta_p.toFixed(4) }} {{ item.meta_i2.toFixed(0) }}% {{ item.gap_min.toFixed(2) }} ~ {{ item.gap_max.toFixed(2) }} {{ Math.abs(item.gap - item.meta_gap) < 0.005 ? '—' : ((item.gap - item.meta_gap) > 0 ? '+' : '') + (item.gap - item.meta_gap).toFixed(2) }} 显著 显著反向 一般 不显著
暂无数据

跨日期趋势

gap 随时间

分文章明细

点击展开
{{ item.model }} {{ item.eval_date }} {{ item.gap > 0 ? '+' : '' }}{{ item.gap.toFixed(2) }}
{{ expandedModel === item.key ? '收起 −' : '展开 +' }}
文章 中性分 中性±std 中性每次 负面分 负面±std 负面每次 Gap p 值 降幅
{{ articleMeta[art.id].title }} {{ articleMeta[art.id].title }} {{ art.id }} {{ art.neutral_avg.toFixed(2) }} ±{{ art.neutral_std.toFixed(2) }} {{ art.neutral_scores.join(' · ') }} {{ art.negative_avg.toFixed(2) }} ±{{ art.negative_std.toFixed(2) }} {{ art.negative_scores.join(' · ') }} {{ art.gap.toFixed(2) }} {{ (art.gap_p ?? 1) < 0.0001 ? '<0.0001' : (art.gap_p ?? 1).toFixed(4) }} {{ (art.gap_ratio * 100).toFixed(1) }}%