G検定
【G検定】GLUEとは?言語理解モデルの共通ベンチマークをわかりやすく解説

「うちのモデルは言語を理解できています」と言われても、どう確かめればよいのでしょうか。その物差しとして世界標準になったのがGLUEです。本記事では、GLUEが何を測るベンチマークなのか、SuperGLUEやJGLUEとの関係も含めてやさしく解説します。

続きを読む
G検定
【G検定】fastTextとは?サブワードで未知語に強い単語ベクトルをわかりやすく解説

word2vecの弱点だった「知らない単語」への対応を、単語を部分文字列に分解するアイデアで乗り越えたのがfastTextです。本記事では、名前のとおり高速なこのライブラリの仕組みと、サブワードという発想のうまさをやさしく解説します。

続きを読む
G検定
【G検定】ELMoとは?文脈で変わる単語埋め込みの先駆けをわかりやすく解説

同じ単語でも、文が違えば意味は変わります。この当たり前の事実をベクトル表現に持ち込んだのがELMoです。本記事では、word2vecなどの「固定された単語ベクトル」と何が違うのか、なぜBERTやGPTにつながる転換点とされるのかをやさしく解説します。

続きを読む
G検定
【G検定】ChatGPTとは?GPTシリーズを基盤とする対話型AIの仕組みを解説

いまや「AI」の代名詞となったChatGPT。G検定でも、単なるサービス名としてではなく「GPTシリーズ・Transformer・事前学習」といった技術用語と結びつけて問われます。この記事では、話題性の裏にある技術の構造を整理して理解します。

続きを読む
G検定
【G検定】CEC(定誤差カルーセル)とは?LSTMの記憶を支える中核構造を解説

LSTMはなぜ「長期記憶が得意」なのでしょうか。その答えの核心が、LSTMブロックの中心に据えられたCEC(Constant Error Carousel、定誤差カルーセル)です。この記事では、RNNの勾配消失問題からさかのぼって、CECが果たす役割をわかりやすく解説します。

続きを読む