2023年08月21日 更新

OpenAI APIの「The server is overloaded or not ready yet.」が時間経過で治らない場合の対処

どうも、クラゲジュニアです。

OpenAI APIを使っているときにThe server is overloaded or not ready yet.と、サーバーの過負荷によって回答が得られない旨がレスポンスされることがあります。

通常であれば数分経過後に再度利用できることが多いですが、稀にコードのミスでも同様のエラーが得られる場合があります。今回はそのパターンの一つを紹介します。

環境

クラゲジュニアはWindows 11 pro (22H2)で検証しました。また、Python関係は下記の構成にしました。

- python: 3.10.11
- openai: 0.27.6

エラー発生コード

レスポンスを得るためのコードですが、下記のようにmodelに代入しているモデル名に/が入っていたり、モデル名そのままが入っていないと該当のエラーが得られます。

response = openai.Completion.create(
    model='/text-davinci-003',
    prompt=prompt,
    max_tokens=1024,
    n=1,
    stop=None,
    temperature=0.7,)

修正コード

モデル名を適切なものに修正します。

response = openai.Completion.create(
    model='text-davinci-003',
    prompt=prompt,
    max_tokens=1024,
    n=1,
    stop=None,
    temperature=0.7,)

以上です。