OpenAI Assistants APIのストリームレスポンスでUXを改善する
OpenAIのAssistants APIはスレッドによる会話コンテキストの維持やFunction calling、Retrieval等のツールが使えて便利ですね。 ただ、ユーザーとインタラクティブに対話するためには、アシスタント(とその先のGPT)がレスポンスを完全に生成するまでポーリングする必要がありました。 これだとユーザーが体感する待ち時間は長くなり、UX的に今ひとつになってしまいます。 これを打開すべく、先月(2024-03-14)OpenAIから以下の発表がありました...
記事を読むPulumiベースのSST(v3)でサーバーレスアプリケーションをデプロイする
AWS Lambdaを始めとするサーバーレスアプリケーションのデプロイに何を使っていますか？ Serverless FrameworkやSAM(Serverless Application Model)、AWS CDK、Terraform等、数多くの選択肢がありどれを使うか悩みますね。 その中でも、CloudFormationをベースにするServerless Frameworkは結構普及したと思いますが、v4からは一定規模以上の組織では有償化される予定です[1]...
記事を読むAWS Lambda向け高速JavaScriptランタイム LLRT(ベータ版) を使う
AWS Lambdaのようなオンデマンドなサービスでは、コールドスタートによる遅延が問題になることがあります。 もちろん使用するランタイム環境によって大小ありますが、Node.jsのような比較的軽量なランタイム環境でもコールドスタートによる遅延は発生します。 最近以下の記事を読みました。 Publickey - AWS、高速起動にこだわった軽量なJavaScriptランタイム「LLRT」（Low Latency Runtime）をオープンソースで公開...
記事を読むNuxt3 - 単体テスト後編 - モック・スタブ用のユーティリティを使う
前回はNuxt3の単体テスト方法として以下の内容を見てきました。 Nuxtのテストユーティリティ(@nuxt/test-utils)をセットアップする テスト用のNuxt環境上でNuxtコンポーネントをマウントしてテストを書く 後半となる今回は、テストユーティリティが提供するモック・スタブに関する機能について見てみたいと思います。 --> InformationここではVitest自体のモック機能について詳細は触れません。 少し昔のものですが、以下の記事でVitestの概要をご紹介してます...
記事を読むNuxt3 - 単体テスト前編 - セットアップ・コンポーネントをマウントする
Nuxt3がリリースされて結構時間が経ちました。その間にも様々な改良が施されて今では成熟したフレームワークになったと言えるかと思います。 ただ、リリースしてしばらくの間はテストに関するドキュメントはほとんどなく手探りの状態でした。それから時が流れ、ふと公式ドキュメントを見ると、現在はテストユーティリティやドキュメントが充実してきました。 ということで、複数回に分けてNuxt3のテストを整理してみたいと思います...
記事を読むCloudFrontの継続的デプロイをパイプラインから実行する
皆さんの現場ではどのようなリリース戦略を採用しているでしょうか？ 安全なリリースを実現するために、ブルーグリーンデプロイやA/Bテスト、カナリアリリース等いろんなやり方やプロダクト/サービスがありますね。 もちろんAWSでも様々なリリース戦略をサポートしていますが、今回はCDNを提供するCloudFrontの継続的デプロイという機能を取り上げます...
記事を読む開発者体験(DX)を進化させるJetBrainsのAIアシスタント機能の紹介
先日JetBrains社からAIアシスタント機能の一般公開が発表されました。 Introducing JetBrains AI and the In-IDE AI Assistant JetBrains AI と IDE 内での AI Assistant のご紹介 今回はこれを試してみましたので、その使いどころをご紹介したいと思います。 なお、本記事ではIDEとしてIntelliJ IDEA 2023.3 (Ultimate Edition)を使用しています...
記事を読むSlackとOpenAI Assistants APIでGitHubのPRレビューを効率化する
これは、豆蔵デベロッパーサイトアドベントカレンダー2023第6日目の記事です。 前に以下の記事でOpenAIのAssistants APIの紹介と簡単なCLIベースのチャットツールを作成しました。 OpenAIのAssistants API(ベータ版)を試す 今回せっかくのアドベントカレンダー記事なので、これをもう少し実用的に発展させて、Slack上でAssistants APIを使ってGPTとチャットできるようにしてみたいと思います...
記事を読むAWS AmplifyにNuxt3のSSRアプリをゼロコンフィグでデプロイする
GAリリースから約1年経過してだいぶ成熟してきた感のあるNuxt3ですが、利用するアプリのタイプに応じてデプロイ方法が異なってきます。 SPAやプリレンダリングを使用した静的ホスティングであれば、生成した静的リソースをデプロイするだけなので比較的簡単です。 ただ、最近主流となりつつあるサーバーサイドでページを生成するSSRアプリを採用した場合は、コンテナ等のサーバー環境を別途準備する必要があり何かと手間がかかります...
記事を読むOpenAIのAssistants API(ベータ版)を試す
先日のOpenAIの開発者イベント(DevDay)では、新モデル(GPT-4 turbo)やカスタムGPT(GPTs)等、数多くの注目機能が発表されましたね...
記事を読む
