AI倫理とは？意味・主な原則と公平性やプライバシーの研究（2026年11月時点）

ひとことで言うと

AI倫理（AI Ethics）は、AI を作り、提供し、使うときに守るべき価値と原則のことだ。公平であること、仕組みや結果を説明できること、プライバシーを守ること、安全であること、責任の所在をはっきりさせること、人が監督することなどが挙がる。OECD（経済協力開発機構）、UNESCO（国連教育科学文化機関）、日本政府などが、それぞれ原則の文書にまとめている。

身近な例は、採用の書類選考に AI を使う場面だ。応募者の名前が示す属性で結果が変わらないか、結果に納得できない人が理由を知り異議を申し立てられるか、最後に人が確かめるか。こうした点を考えるときのよりどころが、AI倫理の原則にあたる。

このページは各機関の公式のページをまとめたもので、法的な助言ではない。TRAIL は法律事務所ではない。

仕組み

AI倫理の原則は、文書ごとに言葉が少しずつ違う。OECD の AI原則と UNESCO の AI倫理勧告に共通して出てくる要素を並べる。

• 公平性：OECD の原則1.2は、差別をしないこと、平等、多様性、公平を挙げる。UNESCO は、AI が偏り（バイアス）を再生産し増幅するおそれに触れ、原則の10番目に「公平と差別の禁止」を置く。
• 透明性と説明できること：OECD の原則1.3は、人が AI とやり取りしていると分かるようにし、AI の結果で不利益を受けた人が異議を申し立てられる情報を出すことを求める。
• プライバシー：OECD の原則1.2はプライバシーとデータの保護を含む。UNESCO の原則3は、AI のライフサイクル（開発から運用、廃止まで）の全体でプライバシーを守るとする。
• 安全：OECD の原則1.4は、害を及ぼすおそれがあるときに AI システムを上書き、修理、停止できる仕組みを求める。UNESCO の原則2は、望まない害（安全のリスク）と攻撃への弱さ（セキュリティのリスク）を避けるとする。
• 責任の所在：OECD の原則1.5は、AI にかかわる者が役割に応じて責任を負い、データセット、過程、決定を後から追えるようにすることを求める。UNESCO の原則5は、AI システムを監査でき、追跡できるようにするとする。
• 人の関与：OECD の原則1.2は、人の主体性と監督（human agency and oversight）の仕組みを挙げる。UNESCO の原則7は、AI が人の最終的な責任に取って代わらないようにするとする。

OECD の AI原則は2019年5月に採択され、2024年5月に改定された。価値にもとづく5つの原則と、政策をつくる人への5つの勧告からなる。OECD は、AI に関する初めての政府間の基準だと説明しており、47の国などが支持している（2026年11月6日の表示）。EU、米国、国連などは、OECD による AI システムの定義を法令や指針で使っている。

UNESCO の「AIの倫理に関する勧告」は、2021年11月に193の加盟国が採択した。UNESCO は、AI倫理に関する初めての世界的な基準と説明している。人の尊厳と人権の尊重、公正で平和な、つながりのある社会、多様性と包摂、環境と生態系の4つを中核の価値とし、10の原則と、ジェンダーやデータなどの政策の分野ごとの勧告を示す。

日本では、内閣府の「人間中心のAI社会原則検討会議」が、AI の倫理などに関する基本原則を検討した。原則を G7 や OECD などの国際的な議論に出すことも目的としていた。2018年12月27日に案を公表し、原則は統合イノベーション戦略推進会議で決まった。

総務省と経済産業省の「AI事業者ガイドライン」は、2024年4月19日に第1.0版が公表された。内閣府の一覧は、事業活動で AI の開発、提供、利用を担うすべての者に、必要な取り組みの基本的な考え方を示すものと説明している。組織での運用の仕方は AIガバナンス のページにまとめた。

表で見る最新の状況

上の「公平性、プライバシー、説明できることにかかわる研究」には、TRAIL の DB から、AI倫理の原則にかかわる論文の解説4本を選んだ。論文の公開日は DB の値で、確認日は2026年11月6日だ。

公平性の研究では、AgentFairBench（2026年6月15日）が採用、融資、医療トリアージの模擬の判断で、名前が示す属性による差を測った。単純な差の比較はモデルを再実行しただけの揺れを大きく見積もった。単一のモデルの試験では、有意な属性の差を確認できなかった。

プライバシーの研究では、DP-SGD（2016年7月1日）が差分プライバシーを使い、学習で個別の勾配を切り詰めて雑音を加え、学習全体のプライバシーの費用を追った。Federated Averaging（2016年2月17日）は端末にデータを残したまま学び、サーバーがモデルを平均する。解説は、データを送らないことだけではプライバシーの保証にならない点にも触れている。

説明できることの研究では、GNN Explainer（2019年3月10日）がグラフニューラルネットの予測を保つ小さな部分グラフと特徴量を探し、どの関係が判断に効いたかを示した。

TRAIL の DB の4本では公平性、プライバシー、説明できることのそれぞれに、測る方法か守る方法の研究がある。AgentFairBench の解説は、単一のモデルの小規模な試験からは公平性を保証できないとまとめている。

各機関の文書の公表と改定は次のとおりだ（2026年11月6日に公式のページで確認）。

AI倫理と AIガバナンス・法規制の違い

AI倫理は、守るべき価値と原則を示す。AIガバナンスは、それを組織の中でどう運用するかの仕組みだ。EU AI法とAI推進法は国や地域の法令にあたる。法令の側は TRAIL のそれぞれのページと同じ事実だけを書いた。

近い言葉にアライメントがある。AI が人の意図や価値観に沿って動くようにすることと、そのための研究を指す。AI倫理は、AI を作る人や使う人が守る原則の側を指す。

仕事でどう関係するか

AI に人の評価や選別を手伝わせるとき

採用や融資のように人を選ぶ場面では、公平性の原則が判断の軸になる。OECD は差別をしないことと平等を、UNESCO は公平と差別の禁止を挙げている。AgentFairBench の解説は、業務の判断に AI を使うなら、属性以外をそろえた比較に加えて、同じ入力を再実行したときの揺れも測ることを挙げている。

人が後から確かめる材料として、判断の根拠を書かせる指示の例を挙げる。

次の応募書類を、募集要項の必須条件ごとに「満たす」「満たさない」「書類からは分からない」で判定してください。
判定ごとに、書類のどの記述を根拠にしたかを引用してください。
名前、性別、年齢、国籍は判定に使わないでください。

AI を使っていることを伝えるとき

OECD の原則1.3は、人が AI とやり取りしていると分かるようにすることを求める。OECD の説明では、チャットボットのように AI と直接やり取りする場面も含み、知らせる程度はやり取りの重要さに見合ったものにするとしている。問い合わせの窓口に AI を置くときは、AI が答えていることを利用者が分かる形にするかを決める手がかりになる。

個人の情報を入力するとき

OECD と UNESCO はどちらも、プライバシーとデータの保護を原則に挙げる。内閣府の一覧には、個人情報保護委員会の「生成AIサービスの利用に関する注意喚起等について」（2023年6月）が載っている。顧客の名前や連絡先を含む資料を AI に読ませる前に、この注意喚起と社内の規程を確かめる場面で関係する。

社内の原則や方針を決めるとき

AI事業者ガイドラインには、チェックリストとワークシート（別添7）と、海外のガイドラインなどの参照先（別添9）がある。両省はガイドラインのチャットボットと「活用の手引き（案）」も公開している。UNESCO は原則の9番目に、AI とデータを理解するための教育と AI倫理の研修を挙げており、社員の AIリテラシー を考える材料にもなる。

注意点と限界

原則の文書は、程度を状況に合わせる前提で書かれている。OECD の原則には「状況に応じて」「技術の水準に沿って」という条件が何度も付いている。UNESCO は、透明性と説明できることの程度は状況に合わせるべきで、プライバシーや安全などの原則と緊張関係が生じることがあるとしている。

このページは法的な助言にあたらない。TRAIL は法律事務所ではない。自社に何が必要かは、法令の条文と各機関の公式の資料で確かめる必要がある。

「人間中心のAI社会原則」と AI事業者ガイドラインの本文は PDF で公開されている。このページは内閣府、総務省、経済産業省の HTML のページで確かめた範囲だけを書いた。

文書は改められる。OECD の AI原則は2024年5月に改定され、AI事業者ガイドラインは第1.0版から第1.2版まで版を重ねている。社内で参照するときは、版と日付を記録する。

よくある質問

関連する用語

• 用語：AIガバナンス、EU AI法、AI推進法、アライメント、ディープフェイク、生成AIと著作権、ハルシネーション、AIリテラシー
• 研究：AgentFairBench 論文の解説、DP-SGD 論文の解説、Federated Averaging 論文の解説、GNN Explainer 論文の解説