世の中には、手のひらに収まるスマートフォンから、ビルの一室を占領するスーパーコンピューターまで、じつに多種多様なコンピューターが存在します。
これほど規模が違っても、コンピューターの基本的な性能(能力)は、長年ふたつの尺度だけで評価されてきました。
- 計算速度(処理能力):1秒間にどれだけ多くの足し算をこなせるか(CPUの性能)
- 記憶容量(保存能力):どれだけ大量の0と1のデータを保持できるか(メモリやストレージの性能)
どんなに優れたコンピューターも、基本はこの「速さ」と「広さ」の掛け算で決まります。しかし、現代のコンピューター、とりわけ巨大なデータを扱うAIの時代においては、このふたつに並ぶ「第三の極めて重要な要素」に注目しなければ、その真の能力を推し量ることはできなくなりました。
それが、データを運ぶパイプの太さ、すなわち「帯域(データ帯域 / バンディッシュ)」です。
「頭の回転」「机の広さ」、そして「手の動かしやすさ」
コンピューターの能力を、前述の「オフィスで働く人間」の比喩でもう一度整理してみましょう。
- 計算速度(CPU) = 働く人の「頭の回転の速さ」
- 記憶容量(RAM/SSD) = 資料を広げる「机の広さ」や「本棚の大きさ」
- データ帯域(バス・配線) = 机と本棚、あるいは脳と机を結ぶ「通路の広さ(あるいは手の動かしやすさ)」
どれほど頭の回転が速い天才(高性能CPU)が、広大な机(大容量メモリ)の前で構えていても、本棚から資料を運んでくる通路が一人分の幅しかなければ、天才は資料が届くのをじっと待つしかありません。この「待ち時間」による性能の低下を、コンピューターの世界では「ボトルネック(瓶の首のように細くなって詰まる場所)」と呼びます。
現代のコンピューターは、CPUの頭の回転(計算速度)が速くなりすぎたために、データを運ぶ通路(帯域)の太さが追いつかないという問題(メモリウォール問題)に常に直面しています。そのため、どれだけ「通り道を太くし、一度に大量の0と1を流せるか」という帯域の広さが、コンピューターの本当の強さを決める決定打になっているのです。
AIへのつながり:AIの性能は「帯域」で決まる
この「帯域」という要素が、最もシビアに勝敗を分けるのが現代のAI(人工知能)の世界です。
第5章や第6章で詳しく解説しますが、AIが人間の質問に答えるとき、AIの脳細胞にあたる数千億個もの膨大なデータ(パラメータ)を、一瞬のうちに記憶装置から計算機へと「すべて流し込みながら」計算を行う必要があります。
つまり、AIの処理においては、単に計算が速いことよりも、「巨大な知識データを、どれだけ一瞬で計算機に転送できるか」という帯域の広さ(圧倒的なパイプの太さ)が何より重要になります。
現代のAI開発で、世界中の企業が「GPU」と呼ばれる特殊なプロセッサ(第4章で詳述)を奪い合っている最大の理由も、ここにあります。GPUは計算が速いだけでなく、データをやり取りする「帯域」が、普通のCPUに比べて桁違いに太く設計されているからなのです。
コンピューターの能力は、「計算の速さ」と「記憶の大きさ」だけでは決まりません。それらをつなぐ「道の太さ(帯域)」が揃って初めて、現代のAIのような、よどみのない驚異的な知能のオーケストレーションが可能になるのです。