Modal

Modal とは

Modal は AI とデータ処理向けのサーバーレス基盤。Python で定義した関数を、GPU 割り当て・自動拡張・コンテナ・ストレージ・HTTPS 付きで実行する。

課金は実際の CPU と GPU の使用時間に従う。月次の無料枠がサイトに記載されている。

できること

• HTTPS エンドポイント越しにモデルを提供
• バッチ推論やデータ処理を実行
• レンタル GPU でモデルをファインチューニング
• 反復する計算ジョブをスケジュール

向いている人

• AI の推論を配置する開発者
• GPU インフラの運用を避けたいチーム
• 従量課金の計算資源を求めるスタートアップ

注意点

• 費用は実行時間に比例する。長い GPU ジョブはすぐ高額になる
• コールドスタートと待ち行列の挙動は GPU 種別と地域で異なる
• 自分で管理しなければデータとモデルは基盤上に置かれる
• 現在の GPU 空き状況と無料枠の条件を確認する