AI/ML API

AI/ML API とは

AI/ML API は開発者向けの集約ゲートウェイである。各モデルプロバイダーを個別に統合する代わりに、1 つのアカウントを作り、クレジットを購入し、チャット、推論、画像、動画、音声、音声合成、検索、3D、埋め込みを網羅する非常に大規模なモデルカタログを 1 つの API で呼び出す。

できること

• 1 つのエンドポイントで多数のモデル呼び出し
• 新たな統合なしでモデル比較
• マルチモーダルアプリケーションの構築
• 1 つのプロバイダーが落ちた際の予備確保
• プロバイダー間のコストとレイテンシ計測

向いている人

• エージェントやマルチモーダル製品を作る開発者
• 1 つの請求関係を望むチーム
• 後でモデルを変えるかもしれないプロトタイプ

注意点

• モデル数は宣伝であり、重要なのは必要な特定モデルが最新版かどうか
• 仲介業者が利用者とプロバイダーの間に位置するため、ログ、保持、学習不使用の取り組みを確認すること
• モデルごとのライセンスが、構築・公開できる範囲を引き続き決める
• レイテンシの主張はベンダー数値であるため、自社ワークロードで計測すること