自然言語処理
日本語大規模言語モデル（LLM）rinnaを使ってみる
rinna株式会社様が日本語に特化したGPTモデルをオープンソースで公開してくださいました。早速試してみたいと思います。 rinnaの日本語に特化した強化学習済み対話GPT言語モデルの特徴 ・36億パラメータを持つ汎用G […]
Google Bard とその言語モデル"PaLM"のAPIを使ってみた（？）
GoogleがBardの日本語での利用を開始しました。同時に韓国語でも利用可能になったようです。 Bardといえば、言語モデルとしてLaMDAを使っていましたが、PaLM2というモデルに切り替わったようです。OpenAI […]
ChatGPTと口喧嘩してみたい
以前、OpenAIのモデル（text-davinci-003）を使ったEmotion分析を試してみました。 この記事では、入力された文章に含まれる書き手の感情を抽出することを試しています。少ない文例ですが、うまく感情を表 […]
プロンプトエンジニアリング
プロンプトエンジニアリングとは、自然言語モデルに対する入力（プロンプト）を開発する技術のことを言います。通常ChatGPTを使うのに、特別な知識や技術は必要ありません。ただ、効率的に欲しい情報を得ようとした時には、工夫が […]
gpt-3.5-turboを使って、関西弁のチャットボットを作ってみた
ここ数ヶ月の間、OpenAIのGPTモデルについて、色々と調査してきました。確かに、従来のモデルに比べて格段に自然です。T5を使って特定タスク向けに学習させようとしてきたのですが、そのモチベーションが薄れてしまいました。 […]
自然言語処理モデルを直感的に理解したい（２）OpenAI GPT
前回はTransformerの特徴であるアテンションについて詳しく調べてみました。 今回は、具体的なモデルの例としてOpenAIのGPTについて調べていきます。 OpenAI GPT OpenAIが開発した初代のGPT( […]
自然言語処理モデルを直感的に理解したい（１） Transformer
「ChatGPTはなぜ自然な会話ができる様になったのか？」 多くの人が不思議に思うことだと思います。私はAIの研究者ではなくシステム開発者なので、元となる自然言語処理モデルを自分で作ったり、評価したりすることはないと思い […]
ChatGPT PlusにアップグレードしてGPT-4を使ってみる
Open AIのGPT-4がLimited beta版として公開されました。OpenAIの公式WebPageはこちら。 現時点ではAPIは使うことができず、waitlistに登録して待ち状態となっています。 今回はCha […]
OpenAI ChatGPTのモデル(gpt-3.5-turbo)を使ってみる
ChatGPTで使われているモデルgpt-3.5-turboが公開され、自作のプログラムからも利用可能となりました。合わせてモデルの体系も少し変化したようです。 驚くべきことに、以下の記事で紹介した”text-davin […]
Dialogflowを使った日付の音声入力
日常会話の中で、日付に言及する場合、「2023年2月13日に会いましょう」のような表現をすることはあまりないと思います。通常は「今日」を基点として、「明日」とか「来週の日曜」とか、表現するのではないでしょうか？ 現在、音 […]