GPT
Transformerの仕組みを体系的に理解したい 第５章
2025年3月5日
ここまでで、Transformerの基本構造と内部の処理について記述してきました。 この章では、Transformerを基にした代表的な以下のモデルを取り上げ、どのような違いがあるのか見ていきたいと思います。 5.1 B […]
自然言語処理モデルを直感的に理解したい（２）OpenAI GPT
2023年4月4日
前回はTransformerの特徴であるアテンションについて詳しく調べてみました。 今回は、具体的なモデルの例としてOpenAIのGPTについて調べていきます。 OpenAI GPT OpenAIが開発した初代のGPT( […]