第6章 AIと人間の対話(生成AI・LLMの世界) 6.1 出入力を文章にする発想の歴史

かつて、コンピューターは専門家だけが扱える特殊な計算機でした。初期のコンピューターへの命令は、物理的なスイッチの切り替えや、穴の開いたカード(パンチカード)の読み込ませ、さらには「C言語」や「Python」といった、人間が機械に歩み寄った特殊なプログラミング言語で行うのが鉄則だったのです。

しかし、技術の黎明期から、研究者たちの頭には常にひとつの壮大な野望がありました。

「人間が普段使っている言葉(自然言語)のままで、コンピューターに命令を出したり、対話したりすることはできないだろうか」

コンピューターの出入力を「文章(人間の言葉)」そのものにするというこの発想は、「自然言語処理(NLP: Natural Language Processing)」という学問として、何十年にもわたる苦難と進化の歴史を歩むことになります。

「ルール」の限界と、AIの冬の時代

初期の自然言語処理は、人間の言語学者たちが「文法のルール」や「辞書」を1から10まで手作業でコンピューターに覚え込ませるアプローチ(ルールベース)をとっていました。

  • 「主語の次には動詞が来る」
  • 「『Apple』は『リンゴ』という名詞である」

こうした辞書と文法規則を膨大に書き込んでいけば、いつかは人間と言葉が交わせると信じられていたのです。

しかし、この試みはすぐに高い壁にぶち当たります。人間の言葉は、あまりにもアイマイで、例外や文脈による変化に満ちていたからです。

たとえば、「すもももももももものうち」という文をどう区別するのか、「ヤバい」という言葉が肯定なのか否定なのか。ルールを増やせば増やすほどルール同士が衝突し、コンピューターはたちまちフリーズしてしまいました。これが、AI研究が一度行き詰まった「AIの冬の時代」の正体です。

その後、2000年代に入ると、コンピューターの処理能力の向上に伴い、ルールではなく「大量の文章から統計的に言葉のつながりを学ぶ」というアプローチへと主流が移り変わっていきます。しかしそれでも、「少し長い文章になると、前の会話の内容を忘れてしまい、支離滅裂になる」という致命的な弱点を克服できずにいました。

歴史を一変させた「トランスフォーマーモデル」の登場

この停滞期を完全に終わらせ、現代の大規模言語モデル(LLM)や生成AIの爆発的な進化を引き起こしたのが、2017年にGoogleの研究者たちによって発表された「Transformer(トランスフォーマー)」という革新的なニューラルネットワークの構造(モデル)です。

トランスフォーマーモデルがもたらした革命は、一言で言えば「言葉の『アテンション(注目度)』を計算する仕組み」にあります。

従来のAIは、文章を左から右へ、単語を1つずつ順番にしか処理できませんでした。そのため、長い文章になると最初の方に出てきた言葉の記憶がどんどん薄れてしまったのです。

しかし、トランスフォーマーは違います。文章の中のすべての単語を「同時に、一気に」並列処理し、「どの単語とどの単語が、文脈のうえで強く結びついているか」を天文学的な数の足し算・掛け算によって一瞬で割り出します。

たとえば、次のような文章があるとします。

「そのは、一日中公園を走り回って疲れたので、自分の小屋に入って眠った。」

人間がこの文を読むとき、「眠った」のが「公園」でも「小屋」でもなく「犬」であることを自然に理解します。トランスフォーマーモデルを搭載したAIは、内部の計算によって「『眠った』という言葉は、離れた場所にある『犬』という言葉と非常に強い結びつき(アテンション)がある」という数値を正確に弾き出すことができるのです。

「文章」という、新たなコンピューターのインターフェース

このトランスフォーマーモデルの登場と、第4章で解説した「GPUによる異次元の並列計算」、そして「インターネット上の地球規模のデータ(記憶)」の3つが完全に融合したことで、現代のLLM(大規模言語モデル)が誕生しました。

今や、私たちはコンピューターに言うことを聞かせるために、難しいプログラミング言語を学ぶ必要はありません。「これこれの書類を作って」「このプログラムのバグを直して」と、人間同士で話すのと同じ「文章」を入力するだけで、コンピューターはその文脈を完璧に捉え、的確な計算を行い、再び文章として答えを出力してくれるようになりました。

「出入力を文章にする」という数十年前のエンジニアたちの夢は、コンピューターの計算と記憶の力を極限まで高めたトランスフォーマーという技術によって、2026年現在の私たちの日常において、当たり前の現実となったのです。

 の目次へ