サーバレス推論
OpenAI ChatGPTのモデル(gpt-3.5-turbo)を使ってみる
2023年3月3日
ChatGPTで使われているモデルgpt-3.5-turboが公開され、自作のプログラムからも利用可能となりました。合わせてモデルの体系も少し変化したようです。 驚くべきことに、以下の記事で紹介した”text-davin […]
Transformerの学習済みモデルをLambdaにデプロイする(SAM)
2022年7月19日
前回もTransformerの学習済みモデルをLambdaにデプロイしましたが、別の方法を試してみます。 今回は、AWS Serverless Application Model(sam)を使っています。 同じ目的であれ […]
Transformerの学習済みモデルをLambdaにデプロイする
2022年7月19日
前回、flask で作ったAPIをChaliceを使ってLambdaにデプロイしてみました。 この方法は、アプリをzip形式でアップロードします。zip形式は、最大250MBのサイズ制限がありますので、HuggingFa […]