AlexNet
AlexNetの登場
lexNetは、2012年に画像認識の分野に大きな変化をもたらした深層学習モデルです。トロント大学のAlex Krizhevsky、Ilya Sutskever、Geoffrey Hintonによって開発されたこのニューラルネットワークは、大規模な画像認識タスクにおいて従来の手法を大きく上回る性能を示し、ディープラーニングの時代の幕開けを告げました。
ImageNet Large Scale Visual Recognition Challenge (ILSVRC) 2012において、AlexNetは他の参加者を圧倒的な差をつけて打ち負かし、トップ5エラー率を従来の26%から15.3%へと劇的に改善しました。この成功により、コンピュータビジョンの研究分野は急速にディープラーニング手法へとシフトしていきました。
AlexNetの特徴
AlexNetの成功の鍵は、その独特なアーキテクチャにあります。このモデルは、5つの畳み込み層と3つの全結合層から構成されており、合計8層の深さを持っています。各層の間には活性化関数としてReLU（Rectified Linear Unit）が使用され、過学習を防ぐためにドロップアウトが採用されています。
特筆すべき点として、AlexNetは当時としては非常に大規模なモデルで、約6000万個のパラメータを持っていました。これほど多くのパラメータを効率的に学習させるため、AlexNetの開発者たちは2台のGPUを並列で使用するという革新的な手法を採用しました。これにより、大量のデータを高速に処理することが可能になり、モデルの学習時間を大幅に短縮することができました。
AlexNet以降の発展
AlexNetの成功は、深層学習モデルの可能性を世界中の研究者に示しました。その後、VGGやGoogLeNetなど、さらに深い層を持つモデルが次々と登場し、画像認識の精度は飛躍的に向上していきました。
VGGネットワークは、3x3の小さな畳み込みフィルタを重ねることで、より複雑な特徴を捉えることに成功しました。一方、GoogLeNetは「Inceptionモジュール」という革新的な構造を導入し、異なるサイズの特徴を同時に捉えることを可能にしました。さらに、ResNetはスキップ接続を用いることで、152層という超深層なネットワークの学習を実現し、人間の認識精度を超える成果を上げました。
しかし、これらのモデルが人間を超えているのは、あくまでも限られた条件下でのことです。例えば、ILSVRCでは1000クラスの物体認識が課題となっていますが、それ以外の物体に対しては人間ほどの柔軟性を持っていません。
