G検定
【G検定】正規分布とは?平均±1σに約68%が入る釣鐘型の分布をわかりやすく解説

身長、測定誤差、テストの点数——世の中の多くのデータは、平均のまわりに集まり、平均から離れるほど珍しくなる「釣鐘型」の分布を描きます。この最も重要な確率分布が正規分布です。68%・95%ルールや偏差値との関係、なぜ統計と機械学習のあちこちに顔を出すのかを丁寧に解説します。

続きを読む
G検定
【G検定】AdaGradとは?パラメータごとに学習率を変える適応的最適化の元祖を解説

「すべての重みを同じ歩幅で更新するのは、本当に効率的なのか?」——この疑問に答え、パラメータ1つひとつに異なる学習率を割り当てる道を開いたのがAdaGradです。RMSProp・AdaDelta・Adamへと続く「適応的学習率」の系譜は、すべてこの手法から始まりました。

続きを読む
G検定
【G検定】条件付き確率とは?「すでに起きた」を前提にした確率をトランプと検査の例で解説

「雨が降っている日に、電車が遅れる確率」のように、私たちは日常的に「何かが起きたという前提」で確率を考えています。この考え方を数学的に整理したものが条件付き確率です。ベイズの定理や迷惑メールフィルタなど、AIの根幹を支える確率の考え方を、トランプと病気検査の例でやさしく解説します。

続きを読む
G検定
【G検定】AdaDeltaとは?AdaGradの学習停滞を直し学習率設定を不要にした手法を解説

AdaGradの「学習が進むほど学習率が小さくなりすぎて止まる」という弱点を、過去の勾配を少しずつ「忘れる」ことで解決したのがAdaDeltaです。さらに、そもそも学習率をほとんど手動設定しなくてよいという独自の特長を持ちます。RMSPropと似た発想の兄弟手法として、系譜の中での位置づけを整理しましょう。

続きを読む
G検定
【G検定】最尤法とは?コイン投げの例で「もっともらしさ」を最大化する推定を解説

コインを10回投げて表が7回出たら、このコインの表が出る確率はいくつと見積もるのが自然でしょうか。直感どおり「0.7」と答えを出してくれるのが最尤法です。「観測されたデータが最も起こりやすくなるパラメータを選ぶ」という統計学の基本戦略で、深層学習の学習則にまでつながる重要概念を解説します。

続きを読む