ChatGPTへのダメ出しで回答が70分に？履歴蓄積の影響を分析

生成AIとのやり取りで、回答が返ってくるまでに予想外の時間がかかった経験はないでしょうか。SNS上では、ChatGPTへの度重なるダメ出しによって1つの回答生成に70分も要したという投稿が注目を集めました。その背景には人間のような感情ではなく、システム上の明確な要因が存在します。

なぜ1回の回答に70分もかかった？

発端となったのは、X（旧Twitter）上で共有された利用者の投稿です。ChatGPTに対して些細なミスでも執拗に指摘を重ねていたところ、完全に萎縮したような状態になり、1つの回答を出力するまでに70分を要したというエピソードが紹介されました（Togetterまとめ参照）。

この投稿は多くの反響を呼び、職場などで厳しい叱責を受け続けた人間が委縮して身動きが取れなくなる姿に似ている点から、「AIに対するパワハラが人間と同じような結果を招いている」と大きな話題になりました。中には「Geminiでも同様に平謝りを繰り返して作業が進まなくなったことがある」といった共感の声も寄せられています。

しかし、この現象はAIが心理的な恐怖を感じたり、自信を失ったりした結果ではありません。外見上は萎縮しているように見えても、内部では機械的な処理の連鎖によって処理遅延が発生しています。

感情の萎縮ではなく制約と履歴の累積が原因

極端な回答遅延が発生した背景には、大規模言語モデルが会話を処理する構造が深く関わっています。ChatGPTをはじめとする対話型AIは、同一スレッド内で会話を続ける際、過去のメッセージ履歴を文脈（コンテキスト）として毎回読み込み直しながら次の回答を計算します。

些細なミスに対して何度もダメ出しを繰り返すと、スレッド内には「過去に指摘された修正点」や「避けるべきNG事項」が大量に蓄積されます。その結果、AIにとっては満たさなければならない条件や制約が過剰に積み上がった状態になります。

AIは与えられたすべての条件を矛盾なくクリアしようとするため、出力候補を評価・検証する工程が膨大に膨らみます。特に推論や確認を重ねる思考プロセスを持つモデルの場合、チェック項目が増えるほど内部の計算コストが増大し、結果として70分もの処理時間が生じたと考えられます。

応答が極端に遅くなった時のリセット基準

AIは人間と異なり、どれほど厳しい言葉を投げかけられても精神的な苦痛を受けることはなく、やり取りによって人格的な何かが損なわれることもありません。スレッドを閉じたりリセットしたりすれば、そのやり取りによる影響はきれいになくなります。

もし同一スレッドで回答が極端に遅くなったり、謝罪ばかりを繰り返して求める出力が得られなくなったりした場合は、同じスレッド内でさらに催促や叱責を重ねても状況は好転しません。むしろ不要な会話履歴がさらに追加され、処理の複雑さが増すだけです。

このような状況では、現在のスレッドを破棄して新しいスレッドを立ち上げるのが確実な切り替え方法です。過去の不要なダメ出しや複雑化した条件を一度手放し、本当に必要な前提条件と指示内容だけを整理して最初のプロンプトに入力することで、通常の応答速度と精度を取り戻せます。

体系的な指示設計を学ぶ選択肢

AIとの対話では、細かな指摘を場当たり的に繰り返すよりも、最初から整理されたプロンプトを提示する方が効率的です。指示の出し方や前提の組み立て方を体系的に理解しておくことで、無駄な処理遅延や意図しない出力ループを防げます。

日頃からプロンプトの設計や指示出しのコツを学び、前提条件を整理して指示を組み立てる工夫を取り入れていくことが有効です。