ニューラルネットワークとは？意味・仕組みと構造を変えた論文（2026年10月時点）

ひとことで言うと

ニューラルネットワークは入力と出力の間に「隠れ層」を1つ以上持つ機械学習のモデルだ。Google の機械学習の用語集は少なくとも1つの隠れ層を持つモデルと定義している。層の中にあるニューロン（計算の単位）が数値を受け取って計算し、その結果を次の層へ渡していく。

身近な例でいえば、服の写真を見て「シャツ」「スニーカー」などの種類を当てる仕組みだ。PyTorch（ニューラルネットワークを作るためのソフトウェア）の公式のチュートリアルは、28×28の服の画像を10種類に分けるニューラルネットワークを作る例を示している。

仕組み

Google の用語集と PyTorch のチュートリアルの説明をもとに、数式を使わずに流れを書くと次のようになる。

1. 入力層がデータを数値として受け取る。PyTorch の例では28×28の画像を784個の画素の値の並びに直してから渡す。
2. 隠れ層の各ニューロンが入力の値にそれぞれの重み（学習で決める掛け算の数）を掛けて足し合わせ、その和を活性化関数に通す。活性化関数は直線では表せない込み入った関係を学べるようにする関数だ。よく使われる ReLU は入力が0以下なら0を、正ならそのままの値を返す。
3. 出力層が予測を出す。PyTorch の例では最後の層の値を Softmax という処理で0から1の値に直し、10種類それぞれの確率として扱う。
4. 予測と正解の差を「損失」として測る。
5. 誤差逆伝播法（バックプロパゲーション）が、損失を小さくするように、すべての隠れ層のニューロンの重みを増やすか減らすかを決める。どれだけ動かすかは学習率という値で決まる。

この手順を何度もくり返して、重みとバイアス（重みとともに学習で決める値）を決めることを、Google の用語集は「学習」と呼んでいる。学習で決めた重みを使って予測することは「推論」と呼ぶ。

誤差逆伝播法は1986年に Nature に載った Rumelhart、Hinton、Williams の論文が、ニューロンに似た単位をつないだネットワークの学習の方法として示したものだ。論文は重みを調整するうちに、入力でも出力でもない「隠れ」ユニットが課題の重要な特徴を表すようになると書いている。

層のつなぎ方にはいくつかの型がある。Google の用語集の定義は次のとおりだ。

• 順伝播型（フィードフォワード）：輪になるつながりや再帰的なつながりを持たない。層を深く重ねた従来のニューラルネットワークはこの型だ。
• 畳み込みニューラルネットワーク（CNN）：少なくとも1つの層が畳み込み層で、画像認識などで大きな成果を上げた。
• 再帰型ニューラルネットワーク（RNN）：前の回の隠れ層の結果を次の回の入力の一部にして、何回もくり返し動かす。データの並び（系列）の扱いに向く。
• Transformer：自己注意（self-attention）という仕組みに頼り、畳み込みも再帰型も使わない。

表で見る最新の状況

上の「代表的な構造の論文」は TRAIL の研究記事から、ニューラルネットワークの構造を変えた論文6本を、発表の古い順に選んで並べたものだ。確認日は2026年10月25日。

• ResNet（2015年12月）：「深いニューラルネットワークほど学習が難しい」という問題に、層の入力を基準にした差分（残差）を学ばせる形で取り組んだ。ImageNet で最大152層のネットワークを評価した。論文は VGG より8倍深いと書いている。
• Layer Normalization（2016年7月）：学習を速くするために、1つの層のニューロンへの入力をまとめて正規化（値のばらつきをそろえる処理）する方法だ。それまでのバッチ正規化は、一度にまとめて学ぶデータの数（ミニバッチの大きさ）に効果が左右され、RNN への使い方もはっきりしなかった。
• Sparsely-Gated Mixture-of-Experts（2017年1月）：最大で数千の小さなネットワーク（専門家）を並べ、入力ごとに一部だけを使う層（MoE）を提案した。計算の効率をあまり落とさずに、モデルの容量を1000倍超に増やしたという。最大1,370億パラメータの MoE を、LSTM（RNN の一種）の層の間に入れたモデルも示した。
• Attention Is All You Need（2017年6月）：再帰型や畳み込み型を使わず、Attention（注意機構）だけで組んだ Transformer を提案した。
• Neural ODE（2018年6月）：隠れ層を1段ずつ並べる代わりに、隠れ層の状態の変化をニューラルネットワークで表す。深さを連続した量として扱う新しい型のモデルだ。
• How Powerful are Graph Neural Networks?（2018年10月）：点と線でできたグラフを扱うグラフニューラルネットワーク（GNN）について、どんな構造を見分けられるかを理論で調べた。よく使われる型のいくつかは、ある単純なグラフの構造を見分けられないと示した。

TRAIL が選んだ6本は、層を深くする工夫、入力ごとに一部だけを使う工夫、グラフのような形のデータを扱う工夫と、それぞれ違う課題に取り組んでいる。ResNet は画像、MoE と Transformer は翻訳などの文章、GNN はグラフを扱った。

ニューラルネットワークとディープラーニングの違い

Google の用語集では、隠れ層が2つ以上あるモデルを deep model、またはディープニューラルネットワークと呼ぶ。この呼び方では、隠れ層が1つだけのニューラルネットワークは deep model に入らない。詳しくはディープラーニングのページで説明している。

仕事でどう関係するか

「パラメータ数」の数字を読むとき

Google の用語集によると、パラメータはモデルが学習で決める重みとバイアスのことだ。PyTorch の例では最初の層だけで512×784の重みを持つ。Mixture-of-Experts の論文は、ネットワークが情報を取り込める量はパラメータの数に限られると書き、入力ごとに一部だけを動かす方法を示した。

TRAIL の年表では2026年4月24日の DeepSeek-V4 のプレビュー版は、V4-Pro が総1.6T、活性化49B と、総パラメータと動かすパラメータを分けて示している。入力ごとに一部だけを使う型のモデルでは、総パラメータ数だけを見ても、1回の計算にどれだけ使うかは分からない。

学習と推論のどちらの話かを確かめるとき

Google の用語集は重みを決めることを「学習」、決めた重みで予測することを「推論」と呼ぶ。AI の導入の相談で費用や期間の話が出たら、自社のデータでモデルの重みを決め直すのか、できあがったモデルを使うだけなのかを、まず分けて聞くと判断しやすい。

この提案は、次のどちらに当たりますか。
1. 当社のデータを使って、モデルを新しく学習させる（重みを変える）
2. 学習済みのモデルを、そのまま使う
それぞれの場合に、当社のデータがどこに保存されるかも教えてください。

画像の分類を自社で試すとき

PyTorch のチュートリアルは torch.nn という部品の集まりで、ニューラルネットワークを組む手順を示している。CUDA などのアクセラレーター（計算を速めるための機器）があればそれを使い、なければ CPU で動かす書き方だ。出力は種類ごとの確率として出るので、確率が低い判定を人が見直す、といった運用の線引きを決める材料になる。

注意点と限界

• 深くするほど学習が難しくなる。ResNet の論文は冒頭で、深いニューラルネットワークほど学習が難しいと書いている。
• 構造ごとに表せるものに限りがある。グラフニューラルネットワークの論文は、よく使われる型がある単純なグラフの構造を見分けられないと示した。
• 脳の神経細胞をまねた仕組みだが、脳そのものではない。Google の用語集は計算機の上のニューラルネットワークを、脳や神経系のものと区別して「人工ニューラルネットワーク」と呼ぶことがあると書いている。
• 学習率の決め方で結果が変わる。Google の用語集によると、学習率が大きいほど、1回ごとの重みの増減が大きくなる。

よくある質問

関連する用語

• 用語：ディープラーニング、機械学習、Transformer、MoE、LLM
• 研究：ResNet、Attention Is All You Need