【G検定】第3次AIブームとディープラーニング

第3次AIブーム

第1次AIブーム	推論・探索の時代：1950年代後半～1960年代	トイ・プロブレム：コンピュータによる「推論」や「探索」 の研究が進み、特定の問題に対して解を提示できるようになった。迷路や数学の定理の証明のような簡単な問題（トイ・プロブレム）は解けても現実の問題は解けないことが明らかになり、1970年代には人工知能研究は冬の時代を迎える。
第2次AIブーム	知識の時代：1980年代	エキスパートシステム：データベースに大量の専門知識を溜め込んだ実用的なシステム。日本では政府によって「第五世代コンピュータ」と名付けられた大型プロジェクトが推進された。しかし、知識を蓄積・管理することの大変さが明らかになってくると、1995年ごろからAIは冬の時代を迎える。 第2次AIブームの主役である知識表現は、現在も重要な研究対象になっている。
第3次AIブーム	機械学習・特徴表現学習の時代：2010年～	ディープラーニング（深層学習）：ビッグデータを用いることで人工知能が自ら知識を獲得する機械学習が実用化。特徴量を人工知能が自ら習得するディープラーニング（深層学習）が登場。 第3次AIブームの主役である機械学習（ニューラルネット）も、本質的な提案は第1次AIブームの時に既に出ていた。

ディープラーニング

深層学習（ディープラーニング）は、人間の神経細胞の仕組みを再現したニューラルネットワークを用いた機械学習の手法の1つであり、多層構造のニューラルネットワークを用いることが特徴です。入力層と出力層の間に中間層（隠れ層ともいう）を設け、さらに中間層を複合化して学習することで、情報処理が複雑さに対応できるようになり、データの精度を向上させる画像認識や認識音声、翻訳などさまざまな分野で大きな成果を生み出しています。

深層学習（ディープラーニング）の特徴

深層学習（ディープラーニング）の利点のいくつかを次に示します。

複雑で大規模なデータを処理する能力: ディープ ラーニング アルゴリズムは、従来の機械学習アルゴリズムが苦労する可能性がある大規模で複雑なデータセットを処理できます。これにより、画像や音声認識などのタスクに最適です。

自動特徴抽出: ディープ ラーニング アルゴリズムは、入力データから特徴を自動的に抽出できるため、手動の特徴エンジニアリングに比べて時間と労力を節約できます。

精度の向上: ディープ ラーニング アルゴリズムは、特に大規模で複雑なデータを扱う場合に、多くのタスクで従来の機械学習アルゴリズムよりも高い精度を達成できます。

エンド ツー エンドの学習: ディープ ラーニング アルゴリズムは、手動の機能エンジニアリングを必要とせずに、入力から出力までタスクをエンド ツー エンドで実行することを学習できます。

一般化: ディープ ラーニング アルゴリズムは、新しいデータに対して適切に一般化できます。つまり、これまでに見たことのないデータに対しても適切に機能します。

適応性: ディープ ラーニング アルゴリズムは、新しいデータセットでネットワークの重みを微調整することにより、新しいタスクに簡単に適応できるため、汎用性が高くなります。

深層学習（ディープラーニング）の主なタスク

1. 画像分類: 写真内のさまざまな品種の犬を認識するなど、画像内のオブジェクトを識別および分類します。
2. オブジェクト検出: 画像内の顔の検出など、画像内のオブジェクトの検出と位置特定。
3. 画像のセグメンテーション: 画像を複数の領域に分割し、各領域にラベルを割り当てます (前景を背景から分離するなど)。
4. 音声認識: 話し言葉をテキストに書き起こすなど、音声をテキストに変換します。
5. 自然言語処理 (NLP): 感情分析や機械翻訳など、人間の言葉の処理と理解。
6. 生成モデル: 新しい画像や新しい音楽の生成など、入力データに似た新しいデータの生成。
7. レコメンダー システム: 製品や映画のレコメンデーションなど、ユーザーにパーソナライズされたレコメンデーションを作成します。
8. 異常検出: 金融取引における不正行為の検出など、データ内の異常または異常なパターンを検出します。

ディープラーニングの歴史

初代のディープラーニング

ディープ ラーニングの歴史は、ウォルター ピッツとウォーレン マカロックが人間の脳のニューラル ネットワークに基づいてコンピューター モデルを作成した1943 年にさかのぼることができます。彼らは、思考プロセスを模倣するために「しきい値ロジック」と呼ばれるアルゴリズムと数学の組み合わせを使用しました。

この論文で、彼らは、脳は、電気信号を介して互いに通信する相互接続されたニューロンの大規模なネットワークと考えることができると提案しました。彼らは、脳の行動は、これらのニューロンによって実行できる一連の論理演算としてモデル化できることを示唆しました。

彼らの研究は、人間の脳の構造と機能を模倣するように設計されたコンピューター アルゴリズムである人工ニューラル ネットワークの開発の基礎を築きました。今日、人工ニューラル ネットワークは、コンピューター ビジョン、自然言語処理、ロボット工学など、コンピューター サイエンスの多くの分野で広く使用されています。

Group Method of Data Handling (GMDH)

「ディープラーニング」という用語は1980年代半ばに導入されました。最初の重大な突破口は 1960 年代半ばにAlexey Grigoryevich IvakhnenkoとVG Lapaの多項式活性化関数を備えたモデルです。

Group Method of Data Handling (GMDH) として知られるこのモデルは、活性化関数として多項式関数を使用する人工ニューラル ネットワークの一種です。GMDH モデルは、回帰と分類の問題を解決するように設計されており、特徴選択と次元削減にも使用できます。

GMDH アルゴリズムは、入力データから一連の多項式関数を作成し、最終モデルで使用する最も適切な多項式を選択することによって機能します。選択プロセスは、平均二乗誤差などの近似の品質を測定する基準に基づいています。最終的なモデルは、選択した多項式の組み合わせであり、新しい入力データに基づいて予測を行うために使用できます。

GMDH モデルには、他のニューラル ネットワーク モデルに比べていくつかの利点があります。たとえば、入力変数と出力変数の間の非線形関係を処理でき、少量のトレーニング データでも使用できます。さらに、GMDH モデルは実装が比較的簡単で、場合によっては実装が困難な勾配ベースの最適化アルゴリズムを使用する必要がありません。

現在のディープ ラーニング

今日知られている最新のディープ ラーニング アプローチは、より強力なコンピューティング リソースの出現と大量のデータの利用可能性により、2000 年代半ばに登場しました。「ディープ ラーニング」という用語は 2010 年代に広く知られるようになりました。これは、さまざまなタスクで従来の機械学習アルゴリズムを上回る新しいディープ ニューラル ネットワーク アーキテクチャが研究者によって開発されたためです。