第2章 生成AI(ジェネレーティブAI)

第2章は、生成AIがどのようなモデルの発展によって生まれ、ChatGPTや主要生成AIサービスへつながったのかを学ぶ章です。モデル名が多いため、「何を扱うモデルか」「どの仕組みが重要か」「ChatGPTとどう関係するか」を整理します。

この章の3分要約

  • 生成AIは、文章・画像・音声・動画などの新しいコンテンツを生成するAIです。
  • 生成モデルは、ボルツマンマシン、自己回帰モデル、CNN、VAE、GAN、RNN、LSTM、Transformerなどの発展を経てきました。
  • Transformerは、Attentionにより入力内の重要な関係を捉えやすくしたモデルで、現在のLLMの基盤です。
  • ChatGPTはGPTモデルを対話向けに調整したサービスで、自然言語処理、RLHF、アライメント、ファインチューニングと関係します。
  • 生成AIは便利ですが、ハルシネーションや不正確な出力があるため、人間による確認が必要です。

生成モデル発展の流れ

大まかな流れ:
初期の生成モデル → 画像処理系モデル(CNN・VAE・GAN) → 系列処理モデル(RNN・LSTM) → Transformer → GPT・ChatGPT → マルチモーダル生成AI

試験では、モデル名だけでなく、それぞれが何を得意とするかが問われやすいです。CNNは画像、RNNやLSTMは時系列や文章、Transformerは文脈理解と大規模言語モデルの基盤として整理すると覚えやすくなります。

詳しい解説

生成AIとは

生成AIは、学習したデータの特徴をもとに、新しい文章、画像、音声、動画、コードなどを作り出すAIです。従来のAIが「分類する」「予測する」用途で使われることが多かったのに対し、生成AIは「作る」ことに重点があります。

自己回帰モデル

自己回帰モデルは、これまでの情報をもとに次の情報を予測するモデルです。文章生成では、前の単語や文脈から次に来る単語を予測します。GPT系モデルの理解にもつながる重要な考え方です。

CNN

CNNは畳み込みニューラルネットワークです。画像の局所的な特徴を捉えるのが得意で、画像認識や画像処理で使われてきました。畳み込みにより、画像内の線、形、パターンを段階的に抽出します。

VAE

VAEは変分自己符号化器です。エンコーダで入力データを潜在ベクトルに圧縮し、デコーダで復元します。データの特徴を潜在空間に表現し、その空間から新しいデータを生成できる点が重要です。

GAN

GANは敵対的生成ネットワークです。生成器が本物らしいデータを作り、識別器が本物か偽物かを判定します。両者が競い合うことで、より本物らしい生成結果を目指します。生成器と識別器の役割を混同しないことが重要です。

RNNとLSTM

RNNは回帰型ニューラルネットワークで、文章や音声のような順序を持つシーケンスデータを扱います。ただし長い文脈の保持が苦手なため、長期依存関係を扱いやすくしたLSTMが登場しました。

Transformer

Transformerは、RNNのように順番に処理するのではなく、Attention Mechanismによって入力のどこに注目すべきかを計算します。Self-Attentionは、文中の語と語の関係を捉える仕組みです。位置エンコーディングは、語順情報をモデルに与えるために使われます。

ChatGPTとGPTモデル

ChatGPTは、GPTモデルを基盤にした対話型AIです。GPT-1、GPT-2、GPT-3、GPT-3.5、GPT-4と発展し、より自然な文章生成、文脈理解、推論、マルチモーダル処理へと広がってきました。

RLHFとアライメント

RLHFは、人間のフィードバックを使ってAIの出力を調整する方法です。アライメントは、AIの出力を人間の意図や価値観に沿わせる考え方です。ChatGPTが単に文章を続けるだけでなく、質問に答える形に調整されている点と関係します。

ハルシネーション

ハルシネーションは、AIが事実ではない内容をもっともらしく生成する現象です。生成AIは文章の自然さと事実の正確さが常に一致するわけではないため、出力結果の確認が必要です。

主要生成AIサービス

名称押さえる観点
GPT-4o / GPT-o1 / GPT-o3 / GPT-o4 / GPT-4.1 / GPT-5GPT系モデルの発展として整理する
Sora動画生成AIとして押さえる
OperatorAIによる操作・作業支援の文脈で押さえる
Codexコード生成・プログラミング支援と関連
Image Generation画像生成機能として整理する
Gemini / Claude / CopilotChatGPT以外の主要なテキスト生成AIとして整理する

頻出用語表

用語意味試験での注意点
潜在ベクトルデータの特徴を圧縮して表したものVAEと関連
エンコーダ / デコーダ入力を圧縮し、出力へ復元する構造VAEやTransformerの文脈で登場
生成器 / 識別器GANを構成する2つの要素役割の取り違えに注意
Self-Attention入力内の語同士の関係を捉える仕組みTransformerの中心概念
ファインチューニング学習済みモデルを目的に合わせて追加調整すること事前学習との違いを押さえる

間違えやすいポイント

  • GANは生成器だけで成り立つのではなく、識別器との競争で学習します。
  • TransformerはChatGPTそのものではなく、ChatGPTなどの基盤となるモデル構造です。
  • RLHFは事前学習そのものではなく、人間の評価を使った調整です。
  • ハルシネーションは、AIが自信を持っているように見えても誤情報を出す可能性がある点が重要です。
  • Gemini、Claude、CopilotはChatGPT以外の主要生成AIとして分類します。

確認チェックリスト

  • CNN、VAE、GAN、RNN、LSTM、Transformerの違いを説明できる。
  • Attention、Self-Attention、位置エンコーディングの役割を説明できる。
  • GPTモデルとChatGPTの関係を説明できる。
  • RLHF、アライメント、ファインチューニングを区別できる。
  • 主要生成AIサービスの名称と大まかな用途を整理できる。