株式会社なごみテクノロジーのブログサイトにようこそ！
最新の自然言語処理やソフトウエア技術を使って、アプリケーションを作りながら、実際に役に立つシステムを検討しています。ご興味を持たれた方は、お気軽にメールでご連絡ください。
株式会社なごみテクノロジーの公式サイトは、こちらへ。
おすすめのコンテンツ
Difyを使ってAIアプリケーションを作ってみた
VPSを借りてDifyを立ち上げたので、早速アプリケーションを作ってみたいと思います。 AIモデルの設定 Difyでは主要なAIモデルを、簡単にアプリケーションに組み込むことが…
自然言語処理を使ったソフトウエア開発 
OpenAIのアシスタントAIを使って、Function Callingを試してみた
新しく公開された、AssistantAIからもFunction Callができるとのことでしたので、試してみました。 以前、ChatGPTから関数を呼び出す「Function calling」については、以…
OpenAIのアシスタントAIを使ってPDF資料を説明させてみた
現時点（2023年11月）でベータ版ではありますが、OpenAIがアシスタントAIを作成するためのAPIを公開したので、試してみました。 公式によるアシスタントAIの概要を引用し…
KaggleのCompetitonに挑戦してみた
ここ２、３ヶ月の間、自然言語処理とは全く関係ない仕事をしていました。ひと段落ついたところで、データ分析について勉強し直してみようと思い立ち、Kaggleを使ってみる…
最新の投稿
- Transformerの仕組みを体系的に理解したい 実践編
OpenAIやAnthropic ,Googleなどの巨大IT企業が新しい大規模LLMモデルを開発し続けているので、一般的な用途ではファインチューニングの必要性はあまり感じられなくなりました。LLM自体がすでに一般人以上 […] - Transformerの仕組みを体系的に理解したい 第５章ここまでで、Transformerの基本構造と内部の処理について記述してきました。 この章では、Transformerを基にした代表的な以下のモデルを取り上げ、どのような違いがあるのか見ていきたいと思います。 5.1 B […]
- Transformerの仕組みを体系的に理解したい 第４章第4章: Transformerの全体構造 前章では、Transformerの核となるAttention機構について記述しました。 この章では、Transformer全体の構造を記述していきます。特に、エンコーダーとデコ […]
- Transformerの仕組みを体系的に理解したい 第３章第3章: Attention機構の仕組み Transformerの革新の中心となるのがAttention機構です。特に、Self-Attention（自己注意メカニズム）は、入力文中の単語間の関係をモデル化するための鍵と […]
- Transformerの仕組みを体系的に理解したい 第１章、第２章Transformerは、生成AIを理解する上で重要な技術です。以前、「直感的に理解したい」と思い、調べた結果を以下の記事にしました。 概念的には理解できたのですが、やはり「体系的に理解したい」と思い、まとめ直してみまし […]