Under the Snow

Cloudflare Workers AI：エッジでAI推論を実現

• 3分で読める
クラウド
CloudflareAIエッジコンピューティングWorkers

2023年9月にCloudflareが発表したWorkers AIは、その後も機能拡充と提供範囲の拡大が継続されています。これにより、Cloudflareのエッジネットワーク上でAIモデルを直接実行しやすくなり、条件次第では従来型の集中型インフラと比べて遅延の低減が期待できます。詳細な位置づけや最新情報は公式ドキュメントとアナウンスをご参照ください。

Workers AIの特徴

エッジでのAI推論

従来のAIサービスは中央集権的なデータセンターで実行されていましたが、Workers AIは世界中に分散したエッジロケーションでAI推論を実行します：

// Workers AIでのテキスト生成例
export default {
  async fetch(request, env) {
    const messages = [
      { role: "system", content: "You are a helpful assistant." },
      { role: "user", content: "Hello! How are you today?" }
    ];

    const response = await env.AI.run("@cf/meta/llama-3.1-8b-instruct", {
      messages,
    });

    return new Response(JSON.stringify(response));
  }
};

利用可能なモデル

正式リリース時点で、以下のカテゴリのAIモデルが利用可能です：

大規模言語モデル（LLM）

  • テキスト生成・対話型モデル
  • プログラミング特化モデル
  • 多言語対応モデル

画像生成モデル

  • 高品質な画像生成モデル
  • 高解像度画像生成モデル

その他専門モデル

  • 音声認識モデル
  • 画像とテキストの理解モデル

実装例

チャットボット機能

// シンプルなチャットボットの実装
export default {
  async fetch(request, env) {
    if (request.method === 'POST') {
      const { message } = await request.json();
      
      const aiResponse = await env.AI.run("@cf/meta/llama-3.1-8b-instruct", {
        messages: [
          {
            role: "system", 
            content: "You are a helpful customer service assistant."
          },
          {
            role: "user", 
            content: message
          }
        ]
      });

      // 戻り値の形はモデルや時期により異なる場合があります。
      // まずは全体を返し、クライアント側で必要項目を参照するのが堅実です。
      return Response.json({ result: aiResponse, timestamp: new Date().toISOString() });
    }

    return new Response("Method not allowed", { status: 405 });
  }
};

画像生成API

// Stable Diffusionを使った画像生成（モデルは一例）
export default {
  async fetch(request, env) {
    const { prompt } = await request.json();
    
    const inputs = {
      prompt: prompt,
      num_steps: 20,
      guidance: 7.5,
      strength: 1
    };

    const response = await env.AI.run("@cf/stabilityai/stable-diffusion-xl-base-1.0", inputs);

    return new Response(response, {
      headers: {
        "Content-Type": "image/png"
      }
    });
  }
};

パフォーマンスの優位性

レイテンシの考え方

エッジ実行により、ユーザー近接のロケーションで推論が行われやすくなります。モデル特性、入力長、ネットワーク状況、同時実行数などの条件に依存するため、遅延はケースバイケースですが、集中型インフラと比べた体感の改善が見込める場面があります。

スケーラビリティ

// 自動スケーリング対応の実装例
export default {
  async fetch(request, env) {
    // リクエスト数に関係なく同じパフォーマンス
    const startTime = Date.now();
    
    const result = await env.AI.run("@cf/meta/llama-3.1-8b-instruct", {
      messages: [{
        role: "user",
        content: "Generate a product description"
      }]
    });

    const processingTime = Date.now() - startTime;
    
    return Response.json({
      result: result.response,
      processing_time_ms: processingTime
    });
  }
};

コスト効率性

従来サービスとのコスト比較

Workers AIの料金体系は使用量ベースで、エッジでの実行により以下のコスト削減が期待できます（実際の費用は利用モデルやデータ転送量に依存）：

  • データ転送費用: エッジ実行により大幅削減
  • レスポンス時間: 高速化によるユーザー体験向上
  • インフラ管理: サーバーレスによる運用コスト削減
// コスト効率的なバッチ処理
export default {
  async fetch(request, env) {
    const { texts } = await request.json();
    
    // 複数のテキストを並行処理
    const promises = texts.map(text => 
      env.AI.run("@cf/meta/llama-3.1-8b-instruct", {
        messages: [{ role: "user", content: text }]
      })
    );

    const results = await Promise.all(promises);
    
    return Response.json({
      results: results.map(r => r.response),
      processed_count: texts.length
    });
  }
};

開発者体験

簡単な統合

Workers AIは既存のCloudflare Workersエコシステムとシームレスに統合：

// Next.js APIルートでの利用例
import { NextRequest } from 'next/server';

export async function POST(request: NextRequest) {
  const { prompt } = await request.json();
  
  const response = await fetch(
    `https://api.cloudflare.com/client/v4/accounts/${ACCOUNT_ID}/ai/run/@cf/meta/llama-3.1-8b-instruct`,
    {
      method: 'POST',
      headers: {
        'Authorization': `Bearer ${API_TOKEN}`,
        'Content-Type': 'application/json',
      },
      body: JSON.stringify({
        messages: [{ role: 'user', content: prompt }]
      })
    }
  );

  const result = await response.json();
  return Response.json(result);
}

まとめ

Cloudflare Workers AIの正式リリースにより、エッジネットワークでのAI推論が本格的に利用可能となりました。従来の中央集権的なクラウドAIサービスと比較して、低レイテンシでのAI処理を実現し、開発者にとってより身近なAIプラットフォームとして位置づけられています。

今後の展開として、リアルタイム翻訳、パーソナライズされたコンテンツ生成、IoTデバイスでのAI処理など、様々な分野での活用が期待されます。

参考文献

関連記事