OpenAI API

W&B OpenAI API インテグレーションを使用すると、ファインチューンされたモデルを含むすべての OpenAI モデルのリクエスト、レスポンス、トークン数、モデルの メタデータ を ログ に記録できます。

API の入力と出力を ログ に記録すると、さまざまなプロンプトのパフォーマンスを迅速に評価し、さまざまなモデル 設定 (温度など) を比較し、トークンの使用量などの他の使用状況 メトリクス を追跡できます。

OpenAI Python API ライブラリ をインストール

W&B autolog インテグレーションは、OpenAI バージョン 0.28.1 以前で動作します。

OpenAI Python API バージョン 0.28.1 をインストールするには、以下を実行します。

pip install openai==0.28.1

OpenAI Python API の使用

1. autolog をインポートして初期化する

まず、wandb.integration.openai から autolog をインポートして初期化します。

import os
import openai
from wandb.integration.openai import autolog

autolog({"project": "gpt5"})

オプションで、wandb.init() が受け入れる 引数 を持つ 辞書 を autolog に渡すことができます。これには、 プロジェクト 名、 チーム 名、 エンティティ などが含まれます。wandb.init の詳細については、API リファレンス ガイド を参照してください。

2. OpenAI API を呼び出す

OpenAI API への各呼び出しは、W&B に自動的に ログ 記録されるようになりました。

os.environ["OPENAI_API_KEY"] = "XXX"

chat_request_kwargs = dict(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Who won the world series in 2020?"},
        {"role": "assistant", "content": "The Los Angeles Dodgers"},
        {"role": "user", "content": "Where was it played?"},
    ],
)
response = openai.ChatCompletion.create(**chat_request_kwargs)

3. OpenAI API の入力とレスポンスを表示する

ステップ 1 で autolog によって生成された W&B run リンクをクリックします。これにより、W&B アプリ の プロジェクト ワークスペース にリダイレクトされます。

作成した run を選択して、トレース テーブル、トレース タイムライン、および使用された OpenAI LLM のモデル アーキテクチャ を表示します。

autolog をオフにする

OpenAI API の使用が終了したら、すべての W&B プロセス を閉じるために disable() を呼び出すことをお勧めします。

autolog.disable()

これで、入力と補完が W&B に ログ 記録され、 分析 の準備が整い、同僚と共有できます。