サーバ開発
Hugging FaceのInference Endpointを使って推論サーバを構築する
Transformerの推論モデルを自作のソフトウエアから使う方法は、いくつかの選択肢があります。以前の記事では、AWSのLamdaにモデルをデプロイする方法を紹介しました。 昨日、Hugging Faceからメールが届 […]
Firebase Hosting を使ってFlutter のWebアプリをホスティングする
以前、NetlifyにFlutter Webアプリをデプロイするという記事を書きました。 アプリ内でファイルストレージや、認証を使う必要ができてしまったので、これを機会にFirebaseに乗り換えることとしました。 Fi […]
Transformerの学習済みモデルをLambdaにデプロイする(SAM)
前回もTransformerの学習済みモデルをLambdaにデプロイしましたが、別の方法を試してみます。 今回は、AWS Serverless Application Model(sam)を使っています。 同じ目的であれ […]
Transformerの学習済みモデルをLambdaにデプロイする
前回、flask で作ったAPIをChaliceを使ってLambdaにデプロイしてみました。 この方法は、アプリをzip形式でアップロードします。zip形式は、最大250MBのサイズ制限がありますので、HuggingFa […]
AWS Lambda のChalice使ってflask APIをデプロイする
前回、Netlifyの記事を書きましたが、今回は、Chaliceです。 接続としては、以下の通りです。 <LINE> ー <Dialogflow> ー <heroku> ー <V […]
NetlifyにFlutter Webアプリをデプロイする
Flutterで開発した webアプリを公開する方法には、いくつかあります。公式サイトでは以下の3つが挙げられています。 Firebaseホスティング GitHubPages Google CloudHosting 今回 […]
Flutter webアプリのXMLHttpRequest error（CORS）
FlutterはiOS,Androidだけでなく、Web ,Windows,Macのアプリも共通の環境で開発できることが、特徴です。 今回、iOSの音声チャットボットアプリをベースに、webアプリに改変した場合に遭遇した […]
音声チャットボットの完成
前記事で、応答生成サーバを作りました。これを、Flutterで作った「おうむ返しアプリ」から呼び出して、対話ができる「音声チャットボットアプリ」を完成させます。 httpリクエスト 最初は、応答生成サーバに発話テキストを […]
応答生成モデルの実装
構成の選択 一番最初の記事に記載した通り、iOSのアプリケーションから「発話」をテキストで送信すれば「応答」をテキストで返す様にしたいと思います。 このwebAPIを実装する方法として、大きく２種類あります。 1つは、H […]
応答生成モデルの学習(Text-to-Text Transfer Transformer)
ユーザの発話テキストに対して、応答テキストを生成させるためのモデルを作ります。 T5 (Text-to-Text Transfer Transformer) チャットボットを作るときに必要となるモデルは、Text to […]