DjangoとOpenAI APIによるSSEストリーミング：実践ガイド

AI搭載アプリケーションの世界では、滑らかで対話的なユーザー体験と静止した体験の差は、しばしばデータをストリーミングで送信できるかどうかにかかっています。Server-Sent Events（SSE）は、サーバーがクライアントへ段階的な更新を送信することを可能にするプロトコルで、言語モデルの応答を全体の生成完了を待たずとも単語単位で表示することができます。この記事では、OpenAI互換APIからの応答をストリーミングするDjangoエンドポイントの設定方法を解説します。

SSEストリーミングとは何か、そしてなぜ使うのか

SSEストリーミングは持続的なHTTP接続を利用し、ダブル改行で区切られたテキストベースのシンプルなフォーマットでサーバーからブラウザへテキストイベントを送信します。WebSocketとは異なり、SSEはサーバーからクライアントへの一方向通信であるため、クライアントがリクエストを送信し継続的なチャンクを受け取るテキスト補完のシナリオに理想的です。

メリットは明白です：最初のトークンは数ミリ秒で表示され、ユーザーはテキストがリアルタイムで現れるのを目にでき、接続管理の複雑さは最小限に抑えられます。チャットボットやAIアシスタントアプリケーションでは、この即時性の知覚が、好まれるプロダクトとフラストレーションを引き起こすものの違いを生みます。

Djangoエンドポイントの設定

Djangoでストリーミングを有効にするには、チャンクを段階的に送信するPythonジェネレーターで応答する必要があります。重要なのは、StreamingHttpResponseにContent-Type: text/event-streamヘッダーを付け、キャッシュとHTTPバッファリングを無効化することです。以下がエンドポイントの基本構造です：

• リクエストを受け取り、プロンプトをAIサービスへ転送するビューを定義する
• レスポンスストリームをイテレートし、各チャンクをSSEフォーマットで包む
• 適切なヘッダーでStreamingHttpResponseを返す

SSE接続はWebSocketのように自動的に再接続されないため、タイムアウトとネットワークエラーの処理は必須です。堅牢なパターンとしては、障害発生時にクライアントへerrorイベントを送信するtry-except実装が含まれます。

OpenAI互換APIとの統合

現代のほとんどのAIプロバイダー——OpenAI、Anthropic、Azure OpenAI、さらにOllamaやvLLMなどのセルフホストソリューション——は、completionリクエストでstream=Trueパラメータをサポートしています。Djangoでは、ストリーミング呼び出しにopenaiライブラリまたはhttpxを活用するか、requestsにstream=Trueを指定して行ごとストリームを読むこともできます。

プロバイダーから受信する各チャンクには通常、部分テキストを含むdeltaフィールドが含まれています。Djangoジェネレーターは、各チャンクを標準のSSEフォーマットに変換する必要があります——テキストを含むdata:行と、イベントを区切る空行です。このアプローチにより、ネイティブのEventSourceオブジェクトを使用するJavaScriptクライアントとの最大の互換性が確保されます。

フロントエンドとイベント処理

クライアントサイドでは、Djangoエンドポイントを指すEventSourceの新しいインスタンスを初期化するだけです。サーバーがdataイベントを送信するたびにonmessageコールバックがトリガーされ、新しいトークンを表示中のテキストに連結することでDOMを更新できます。体験を向上させるため、ロード状態の管理と、生成中に点滅するカーソルの表示も有用です。

重要な注意点として、自動再接続の処理があります：EventSourceはエラー後に再接続を試みますが、単一のチャットリクエストの文脈ではこの動作が混乱を招く可能性があります。サーバーサイドでタイムアウトを設定し、生成が終了したら接続をきれいに閉じることで、孤立した接続の問題を回避できます。

まとめ

DjangoとOpenAI互換APIによるSSEストリーミングの実装は、ユーザー体験の観点から即座に効果を発揮する投資です。パターンはシンプルですが、イベントの正しいフォーマット、エラー処理、接続の整序されたクローズといった細部への注意が必要です。実践的なポイントは何でしょうか：まず、プロバイダーのストリームからチャンクを読み取りSSEイベントとして転送するPythonジェネレーターから始め、その後エラーハンドラーとタイムアウトを追加します。この基盤があれば、いかなるモダンなWebインターフェースにも統合できる反応性の高いチャットプロトコルが完成します。