複数の LLM プロバイダの無料枠をまとめ、1つの OpenAI 互換 /v1 エンドポイントとして使えるようにするプロキシ。レート制限時に次のプロバイダへ自動で切り替える。個人の実験用と明記されている。

できること

  • 34 プロバイダの無料枠を1つの /v1 API にまとめる
  • リクエストごとにルーターが使えるモデルを選び、制限時は自動フェイルオーバー
  • キーごとの使用量を追跡して無料枠の上限内に収める
  • プロバイダの API キーを暗号化して保存
  • 自前の OpenAI 互換エンドポイント（chat、embedding、画像、音声）の追加
  • Web ダッシュボードでの管理、デスクトップアプリ（macOS / Windows）

使い方

Docker があれば curl -fsSL https://freellmapi.co/install.sh | bash で ~/freellmapi に構築され、http://localhost:3001 を開く。Keys ページでプロバイダのキーを登録し、発行された統合キーを OpenAI SDK の API キーに指定する。

活用できそうな場面

  • 無料枠で LLM アプリや agent の試作をするときの接続先として使えそう
  • 複数クライアントから使うエンドポイントを1つにまとめる用途に使えそう

向いている人

LLM アプリを個人で実験したい人。有料 API を契約せずに試したい人

似ているもの

  • LiteLLM：OpenAI 互換のプロキシ兼ルーター。こちらは無料枠の束ね方に特化している

技術

TypeScript（Node.js、.nvmrc あり）。Docker イメージあり。ほかにデスクトップとモバイルのアプリ。MIT。

注意点

README は「個人の実験と学習用で本番には使わない」と明記。無料枠を束ねる使い方が各プロバイダの利用規約に沿うかは、利用者の責任とある。最新モデルは有料のライブ配信カタログ（$19/年）の方が早く反映される。モデルの質や遅延は一定せず、1日の上限に達すると質が下がる。インストールは curl | bash なので、事前にスクリプトを読むべき。