自然言語処理(NLP)とは?意味・仕組みと原論文・主要モデルの一覧(2026年10月時点)
自然言語処理(しぜんげんごしょり)
NLP / Natural Language Processing / 自然言語処理(NLP)
自然言語処理(NLP)とは、日本語や英語のような人間の言語で書かれた文章を、コンピューターで分析したり、つくったりする技術の分野。感情分析、翻訳、要約、質問応答などを含む。
要するに
- 文章をトークンに分けて数値に置き換え、モデルで文脈を読んで答えを出す
- LLMは自然言語処理に使うモデルの一種で、GeminiやGPTはTransformerを使う
- BERTやGLUEの成績は英語の課題で測ったもので、日本語の業務とは分けて見る
最終確認

自然言語処理の原論文と関連研究
- SQuAD 論文の解説:答えを文章から抜き出す質問応答の基準SQuAD: 100,000+ Questions for Machine Comprehension of Text
- GNMT 論文の解説:希少語と翻訳速度に取り組んだ実用設計Google's Neural Machine Translation System: Bridging the Gap between Human and Machine Translation
- Attention Is All You Need 論文の解説:Transformerの提案Attention Is All You Need
- ELMo 論文の解説:文脈で意味が変わる単語表現Deep contextualized word representations
- GLUE 論文の解説:言語AIを九つの課題で測るベンチマークGLUE: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding
- BERTは「両側の文脈」をどう学んだか 2018年の原論文を読むBERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
- T5の原論文を読む 文章処理を入出力の文章にそろえるExploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer
- GPT-3の少数例学習は何を示したか 2020年の原論文を読むLanguage Models are Few-Shot Learners
主要なモデル
| モデル | 提供元 | 公開日 | Arena の順位(文章・総合) | 確認日 |
|---|---|---|---|---|
| 1位 | ||||
| Meta | — | |||
| Anthropic | — | |||
| OpenAI | 21位 | |||
| Anthropic | 32位 | |||
| Anthropic | 2位 | |||
| OpenAI | 67位 | |||
| OpenAI | 91位 | |||
Grok 4.7 | SpaceXAI(旧 xAI) | 90位 | ||
Sakana Fugu Max | Sakana AI | — | ||
Sakana Fugu Ultra v2 | Sakana AI | — | ||
| DeepSeek | 39位 | |||
| OpenAI | 35位 | |||
| 8位 | ||||
| Meta | — | |||
| Anthropic | 6位 | |||
| DeepSeek | 55位 | |||
Grok 4.6 | SpaceXAI(旧 xAI) | 72位 | ||
Sakana Namazu | Sakana AI | — | ||
Grok 4.5 | SpaceXAI(旧 xAI) | 51位 | ||
| 17位 | ||||
| Perplexity AI | — | — |
Arena の順位は、文章・総合の順位表(414件、公開)での最上位の行です。出典は Arena(旧 LMArena)のデータセット(CC BY 4.0)。人の投票による目安で、「—」は順位表にないモデルです。
目次8
ひとことで言うと
自然言語処理(NLP、Natural Language Processing)は、日本語や英語のような人間の言語(自然言語)で書かれた文章を、コンピューターで分析したり、つくったりする技術の分野だ。文章の感情の判定、固有名詞の抜き出し、翻訳、要約、質問への回答などが含まれる。
たとえば Google の Cloud Natural Language API は、文章の書き手の態度が肯定か否定か中立かを判定する感情分析や、有名人やランドマークなどの名前を見つける固有表現の分析を提供している。GPT-3 の論文の要旨は、LLM(大規模言語モデル)のような言語モデルを大きくすると、少数の例だけで課題を解く力が大きく上がると報告している。GPT-3 は、翻訳や質問応答など多くの自然言語処理のデータセットで高い成績を出した。
仕組み
- 文章をトークンに分ける。Google の用語集によると、トークンは単語、1文字、単語の一部(サブワード)のどれかだ。Cloud Natural Language API の構文解析も、文章を文とトークンに分けてから分析する。
- トークンを数値に置き換える。Google の用語集は、単語を数値の並び(ベクトル)で表す方法をエンベディング(単語の埋め込み)と呼び、意味が近い単語ほど近い値になると説明している。
- モデルが文脈を読む。Google の用語集によると、Gemini や GPT のような LLM は Transformer という仕組みを使う。Transformer はセルフアテンション(文の中のほかのトークンが、あるトークンの意味にどれだけ関わるかを見る計算)を重ねて文脈をとらえる。
- 目的に合わせて答えを出す。感情の判定や分類のように決まった答えを返す使い方と、言語モデル(トークンの並びが現れる確率を見積もるモデル)で文章をつくる使い方がある。
Google の用語集によると、自然言語理解(NLU)は自然言語処理の一部で、言われたことや書かれたことの意図を判定する。文脈、皮肉、感情のような複雑な面も扱う。
表で見る最新の状況
上の論文の表は TRAIL が解説している自然言語処理の論文8本を、論文の公開日の古い順に並べたものだ。
2016年6月16日の SQuAD は、Wikipedia の記事から作った10万件超の質問と、本文中の短い答えを集めた。9月26日の Google の GNMT は、8層ずつの LSTM(文を順に読むニューラルネットワーク)、注意機構、WordPiece を組み合わせた翻訳の仕組みだ。2017年6月12日の Transformer の論文は、当時主流だった再帰型や畳み込み型のネットワークを使わず、注意機構だけで翻訳のモデルをつくった。
2018年には、文脈で意味が変わる単語の表現を示した ELMo、九つの課題で英文の理解を測る GLUE、BERT が出た。BERT の論文の要旨によると、BERT は11の自然言語処理の課題で当時の最高の成績を出し、GLUE のスコアを80.5%に上げた。2019年10月23日の T5 は、翻訳、分類、要約、質問応答を、同じ「文章を入れて文章を出す」形式にまとめた。2020年5月28日の GPT-3 の論文は、1,750億パラメーターの言語モデルを、課題ごとの追加学習なしで使えるかを調べた。
TRAIL の論文の表では、課題ごとに追加学習する方法から、1つの言語モデルに文章で課題を示す方法へと移っている。BERT は課題ごとに出力の層を1つ足して追加学習した。GPT-3 の論文の要旨は、それまでの方法では課題ごとに数千から数万件の学習用の例が必要だったと書き、GPT-3 では課題と例を文章で示すだけにした。
上のモデルの表は TRAIL が掲載している主要なモデル22件を、公開日の新しい順に並べたものだ。確認日は2026年10月12日から10月24日。いちばん新しいのは2026年10月13日公開の Google の Gemini 4 Argon で、提供元は8社だ。TRAIL の DB では、入力の種類が登録された19件のうち18件が、文章に加えて画像も受け付ける。文章だけを受け付けるのは DeepSeek-V4-Pro だ。
自然言語処理と LLM、Transformer の違い
| 自然言語処理(NLP) | LLM(大規模言語モデル) | Transformer | |
|---|---|---|---|
| 何か | 言語を扱う技術の分野 | 自然言語処理に使うモデルの一種 | モデルの仕組み(構造) |
| 例 | 感情分析、翻訳、要約、質問応答 | GPT-6 Sol、Claude Opus 5.5、Gemini 4 Argon | BERT、T5 が使う |
| 関係 | LLM や Transformer を含む広い分野 | Google の用語集では、Transformer を使った言語モデルを広く指す | 2017年の論文で提案され、翻訳の実験で試された |
Google の用語集は LLM を「少なくともパラメーターがとても多い言語モデル」とし、くだけた意味では Gemini や GPT のような Transformer を使った言語モデルすべてを指すと説明している。一方で、文章を評価するモデルの多くは言語モデルではなく、文章の分類や感情分析のモデルは言語モデルに入らないとも書いている。
仕事でどう関係するか
問い合わせやアンケートを仕分けるとき
問い合わせの仕分けには、感情分析と分類が使える。Cloud Natural Language API は文章の書き手の態度を肯定、否定、中立で判定し、内容のカテゴリも返す。LLM に同じ作業を頼む方法もある。次のように、分類の選択肢を決めて渡す。
次の問い合わせを「料金」「不具合」「使い方」「その他」のどれか1つに分け、書き手の態度を「肯定」「否定」「中立」で判定してください。理由を1文で書いてください。
(ここに問い合わせの文を貼る)記事や文書から人や場所の名前を抜き出すとき
文章に出てくる人や場所を一覧にしたいときは、固有表現の分析を使う。Cloud Natural Language API の固有表現の分析は、有名人やランドマークのような固有名詞に加え、レストランや競技場のような一般名詞も見つけて、その情報を返す。
翻訳や要約を任せるとき
Google の用語集は機械翻訳を、ある人間の言語の文章を別の人間の言語に変えることと定義している。T5 は、翻訳と要約を同じ「文章を入れて文章を出す」形式で扱った。翻訳のツールの選び方はAI翻訳のページにまとめている。
注意点と限界
- BERT や GLUE の成績は、英語の課題で測ったものだ。TRAIL の論文の解説は、英語のベンチマークの値を日本語の業務の品質に読み替えないよう注意している。
- GPT-3 の論文の要旨は、少数の例を示す使い方でもうまくいかないデータセットがあったと書いている。
- Google は、LLM はハルシネーション(事実と違う内容を答えること)を起こし、予測に誤りが含まれることが多いと説明している。
よくある質問
自然言語処理と LLM の違いは何か
自然言語処理は言語を扱う技術の分野で、LLM はその分野で使われるモデルの一種だ。Google の用語集では、LLM はパラメーターがとても多い言語モデルを指す。感情分析や翻訳のように、LLM 以外の方法でも取り組まれてきた課題がある。
自然言語処理で何ができるか
感情分析、固有表現の抜き出し、構文の解析、文章の分類、翻訳、要約、質問への回答などができる。Cloud Natural Language API は、このうち感情分析、固有表現の分析、構文解析、内容の分類を提供している。
Transformer と自然言語処理はどう関係するか
Transformer は2017年の論文で提案されたモデルの仕組みで、翻訳の実験で性能を確かめた。論文の要旨によると、英語からドイツ語への翻訳で28.4、英語からフランス語への翻訳で41.8の BLEU(翻訳の自動評価の指標)を出した。BERT と T5 は、論文の題名に Transformer を掲げている。
自然言語理解(NLU)とは何か
Google の用語集によると、自然言語理解は自然言語処理の一部で、言われたことや書かれたことの意図を判定する技術だ。文脈、皮肉、感情のような、言語の複雑な面も扱う。
自然言語処理の成績はどう測るか
課題ごとのデータセットで測る。TRAIL の論文の表では、SQuAD は文章から答えを抜き出す質問応答を、GLUE は九つの課題で英文の理解を測る。翻訳では、Transformer の論文が BLEU という自動評価の指標を使った。
関連する用語
- LLM(大規模言語モデル):パラメーターがとても多い言語モデル
- Transformer:Gemini や GPT のような LLM が使う、文脈をとらえる仕組み
- エンベディング:単語や文を数値のベクトルで表す方法
- AI翻訳:機械翻訳を使うツール
- ハルシネーション:LLM が事実と違う内容を答えること
- モデルの一覧とAPI料金の比較
出典
- Attention Is All You Need(arXiv:1706.03762)arXiv
- BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding(arXiv:1810.04805)arXiv
- Language Models are Few-Shot Learners(arXiv:2005.14165)arXiv
- Machine Learning GlossaryGoogle
- LLMs: What's a large language model?Google
- Cloud Natural Language documentationGoogle Cloud
- Natural Language API BasicsGoogle Cloud
- 公開
- 執筆
- TRAIL編集部(編集方針)

