【G検定】ELMoとは？文脈で変わる単語埋め込みの先駆けをわかりやすく解説
2026年5月22日
同じ単語でも、文が違えば意味は変わります。この当たり前の事実をベクトル表現に持ち込んだのがELMoです。本記事では、word2vecなどの「固定された単語ベクトル」と何が違うのか、なぜBERTやGPTにつながる転換点とされるのかをやさしく解説します。
【G検定】ChatGPTとは？GPTシリーズを基盤とする対話型AIの仕組みを解説
2026年5月22日
いまや「AI」の代名詞となったChatGPT。G検定でも、単なるサービス名としてではなく「GPTシリーズ・Transformer・事前学習」といった技術用語と結びつけて問われます。この記事では、話題性の裏にある技術の構造を整理して理解します。
【G検定】CEC(定誤差カルーセル)とは？LSTMの記憶を支える中核構造を解説
2026年5月21日
LSTMはなぜ「長期記憶が得意」なのでしょうか。その答えの核心が、LSTMブロックの中心に据えられたCEC(Constant Error Carousel、定誤差カルーセル)です。この記事では、RNNの勾配消失問題からさかのぼって、CECが果たす役割をわかりやすく解説します。
【G検定】CBOWとは？word2vecの学習方式とSkip-Gramとの違いをわかりやすく解説
2026年5月21日
「単語の意味を数値ベクトルで表す」——現代の自然言語処理を支えるこのアイデアを一気に広めたのがword2vecで、その学習方式の1つがCBOWです。この記事では、CBOWがどうやって単語の意味を学ぶのか、そして対をなすSkip-Gramや、名前の似たBoWとの違いを解説します。
【G検定】BoW(Bag-of-Words)とは？単語の出現回数で文書をベクトル化する手法を解説
2026年5月21日
機械学習は数値しか扱えないのに、文章はただの文字列——このギャップを埋める最も基本的な方法がBoW(Bag-of-Words)です。仕組みは「単語を数えるだけ」と拍子抜けするほどシンプルですが、その割り切りと限界を正しく理解することが、後のword2vecやBERTを学ぶ土台になります。