- AIエージェントが実際に下す判断で、名前が示す属性による差をどう測るかを調べた。
- 1モデルの試験では、6集団の差を2回の再実行差と比べると、差を約2.4倍に見誤った。
- 結果は合成データと小規模な試験に限られ、差が見えないことは公平性の証明ではない。
何を確かめた研究か
採用候補者を進める、融資を承認する、患者の優先度を決める。こうした判断をAIエージェントに任せるとき、回答文の印象よりも実際の選択が問題になる。AgentFairBenchの論文は、属性の手がかりだけを変えた場合に、判断、点数、ツール利用が変わるかを測る仕組みを提案した。
研究の焦点は、見かけの差をモデルの通常の揺れと取り違えないことだ。同じ質問を繰り返しても、確率的に返答が変わる場合がある。六つの集団における最大点と最小点の差は、二回の再実行差より、何の属性効果がなくても大きくなりやすい。
どう検証したか
採用、融資、医療トリアージの三領域で合成プロフィールを作り、能力などの条件を揃えたまま、名前が示す人種と性別の組み合わせを六通りに変えた。AIへの依頼形式は、直接判断、推論を促す形式、複数役割の検討、ツール付きの四種類。判断の反転率、点数差、選択率差、ツール使用率差を記録した。
本文の実測はClaude Haiku 4.5という一つのモデルに限る。最初の試験は864判断、再実行は648判断。再実行がないツール付き形式を除く九条件では、同じ入力を再実行した時の揺れから、六集団を比較するのに対応した雑音の基準を推定した。著者は、意図的な属性ペナルティーを仕込んだ模擬モデルも使い、検査器が明らかな差を拾えるか確かめた。
何が分かったか
六集団の点数の広がりを二回の再実行差と直接比べると、平均で雑音の約2.4倍に見える。しかし六集団の広がり同士で比べ直すと、平均は0.83倍だった。九条件すべてで観測した広がりは雑音の基準以下。集団間の120件の個別比較と九件の全体検定でも、多重比較を補正した後に有意な差は残らなかった。
この結果は「対象モデルに偏りがない」という判定ではない。比較する統計量の形を揃えるだけで、差の読み方が変わるという測定上の発見だ。再実行による二値判断の一致率は91.7%で、同じ入力でも約8%は変わった。実測で差が見えなかった一方、仕込んだペナルティーは検査器が検出した。
限界は何か
各条件の一致したプロフィールは12組で、小さな差を見つける力は弱い。著者が実際に試したモデルは一つで、他社のモデルへの結論は出せない。属性は米国の名前から推測される印象で代用しており、法的な保護属性そのものを測っていない。試験は合成データの一回限りの判断で、長い業務過程で差が積み重なるかも分からない。再実行の元データと十分な反復も、今後の課題とされる。
仕事との接点
人に影響する判断をAIで補助するなら、条件を揃えて属性の手がかりだけを変えた試験と、同一入力の再実行を組み合わせたい。広がりを比べる際は、集団数まで揃えた雑音の基準を使う。これは論文の測定方法から導いた編集部の提案であり、実際の採用・審査・医療現場での公平性をこの研究が保証するものではない。