2026年10月時点|6億6100万点を見て、ベンチマークの不正を考える
1
2026年10月17日
Daniel Luフルスタックエンジニア | コンテンツクリエイター
異常値と不正の証拠を分け、ランキングの信頼性を考える。
カテゴリー:データ&インサイト
2026年10月時点
Microsoft Basic Render Driverと申告された計算テストの一群では、中央値5104に対して最高点は661036218だった。調査すべき差だ。意図的な偽スコアはランキングを傷つけるが、この数字だけで投稿者を不正者と断定することはできない。
まず記録を確認する
計算テストv1の例。同じ完全なrenderer文字列で集計し、表示名だけ短縮した。申告が同じでも実機が同じとは確認されていない。
| 申告ラベル(略称) | 件数 | 中央値 | 最高点 | 最高点/中央値 |
|---|---|---|---|---|
| Microsoft Basic Render Driver | 488 | 5,104 | 661,036,218 | 129,513.37× |
| NVIDIA RTX 4060 Laptop GPU (0x000028E0) | 270 | 1,017,426.5 | 257,091,432 | 252.69× |
| NVIDIA RTX 5060 Laptop GPU (0x00002D59) | 262 | 1,234,287.5 | 382,482,277 | 309.88× |
56件は不正者56人ではない
版を分け、正の点数が20件以上ある同一ラベル群で中央値と比較した。10倍超、100倍超は点検用の基準であり、導入済みの不正判定ではない。
| テスト・版 | 版の記録数 | 比較対象 | 中央値の10倍超 | 中央値の100倍超 |
|---|---|---|---|---|
| 3D v3 | 6,143 | 3,720 | 12 | 2 |
| GPU compute v1 | 8,109 | 5,544 | 44 | 18 |
比較対象9264件のうち10倍超は56件、約0.60%、100倍超は20件。旧3D版193件は混ぜていない。少数群も安全と認定したわけではない。3Dの12件には11ラベル、計算の44件には44ラベルがあるが、ラベルの共有・変更・重複があり人数には換算できない。
罰する前に必要なこと
識別、時間計測、単位、実装の問題も異常値を生む。Unknown GPUなどは実機の確認にもならない。不正な点数は順位や比較をゆがめるため、原記録を残して要確認と検証済みを分け、版・中央値・分位点・件数を表示し、処理量や時間の整合性を検証したい。これは今後の提案で、削除や利用停止を実施したという意味ではない。