G検定
【G検定】位置エンコーディングとは?Transformerが語順を知るための仕組みを解説

「犬が猫を追う」と「猫が犬を追う」——使われている単語は同じでも、語順が変われば意味は正反対です。ところがTransformerの心臓部であるSelf-Attentionは、そのままでは語順を認識できません。この弱点を補うのが位置エンコーディングです。

続きを読む
G検定
【G検定】ソフトローとは?法的拘束力のないAIガイドラインの役割を解説

AIのルールづくりで各国がまず頼ってきたのは、実は「法律」ではなく「ガイドライン」でした。法的拘束力はないけれど関係者が従うべき指針を示す——これがソフトローです。この記事では、ソフトローの意味と役割、国内外の代表的なガイドラインをわかりやすく解説します。

続きを読む
G検定
【G検定】Transformerとは?Self-Attentionと並列処理で言語AIを変えた仕組みを解説

ChatGPTのGPTは「Generative Pre-trained Transformer」の略——現在の生成AIブームの土台にあるのが、2017年の論文「Attention Is All You Need」で提案されたTransformerです。RNNを捨ててAttentionだけで系列を処理するという大胆な設計が、何を可能にしたのかを理解しましょう。

続きを読む
G検定
【G検定】ハードローとは?法的拘束力を持つAI規制をソフトローと対比して解説

AIのルールには、「守らなければ罰則がある法律」と「守ることが望ましいガイドライン」の2種類があります。前者がハードロー、後者がソフトローです。この記事では、ハードローの意味と、EUや米国のAI規制の動きをソフトローとの対比でわかりやすく解説します。

続きを読む
G検定
【G検定】Source-Target Attentionとは?デコーダがエンコーダを参照する仕組みを解説

翻訳AIが「猫」という単語を出力する瞬間、入力側の「cats」に視線を向けている——そんな入力と出力の橋渡しをするのがSource-Target Attentionです。Self-Attentionとの区別が試験で狙われやすい、Attention理解の要となるキーワードです。

続きを読む