2025年3月

2025年3月7日

OpenAIやAnthropic ,Googleなどの巨大IT企業が新しい大規模LLMモデルを開発し続けているので、一般的な用途ではファインチューニングの必要性はあまり感じられなくなりました。LLM自体がすでに一般人以上 […]

2025年3月5日

ここまでで、Transformerの基本構造と内部の処理について記述してきました。この章では、Transformerを基にした代表的な以下のモデルを取り上げ、どのような違いがあるのか見ていきたいと思います。 5.1 B […]

2025年3月4日

第4章: Transformerの全体構造前章では、Transformerの核となるAttention機構について記述しました。この章では、Transformer全体の構造を記述していきます。特に、エンコーダーとデコ […]

2025年3月4日

第3章: Attention機構の仕組み Transformerの革新の中心となるのがAttention機構です。特に、Self-Attention（自己注意メカニズム）は、入力文中の単語間の関係をモデル化するための鍵と […]

2025年3月3日

Transformerは、生成AIを理解する上で重要な技術です。以前、「直感的に理解したい」と思い、調べた結果を以下の記事にしました。概念的には理解できたのですが、やはり「体系的に理解したい」と思い、まとめ直してみまし […]

2025年3月3日

この記事では、LangChainライブラリを使って、前回変換したMarkdownファイルをデータベース化する方法を紹介します。これにより、前回のようにMarkdownコンテンツを直接LLM（大規模言語モデル）に送る方法に […]

2025年3月3日

今回は、以下の記事の続きです。 Markdownを使ったRAG 単純にテキストを抽出しただけでは文書の構造情報が失われてしまうため、PDFからMarkdown形式に変換することで構造を保ちながらLLMへ入力する方法を試し […]