“コスト最適化”タグの記事

EC2スポットインスタンス×vLLMでGPUコストを大幅削減する

はじめに # 前回の記事（自前vLLMをOpen WebUI経由でVS Code（Cline）に接続！トークンフリーで開発する）では、オープンソースのWeb UI・APIゲートウェイ「Open WebUI」を採用し、AWS上で動かす自前vLLMサーバーをVS Code拡張機能「Cline」のバックエンドとして直結させました。 前回の検証では「1台のGPUサーバー（g6.xlarge）をチーム3〜5人でシェアする」運用モデルを検討し、実用的なコストパフォーマンスが得られることを確認しました...