Transfomer
Transformerの仕組みを体系的に理解したい 第４章
2025年3月4日
第4章: Transformerの全体構造 前章では、Transformerの核となるAttention機構について記述しました。 この章では、Transformer全体の構造を記述していきます。特に、エンコーダーとデコ […]
自然言語処理モデルを直感的に理解したい（２）OpenAI GPT
2023年4月4日
前回はTransformerの特徴であるアテンションについて詳しく調べてみました。 今回は、具体的なモデルの例としてOpenAIのGPTについて調べていきます。 OpenAI GPT OpenAIが開発した初代のGPT( […]