ChatGPT会話を人間が読む？Project Lilyの事実と設定

ChatGPTに入力した相談や仕事の文章は、AIの学習だけでなく人間の目にも触れているのでしょうか。OpenAIが実際の会話ログを契約スタッフに評価させる内部プロジェクトを進めていることが報じられ、プライバシーへの影響に関心が集まっています。

ChatGPTの会話は誰がどのように読んでいる？

GIGAZINEが伝えた海外メディアの報道によると、OpenAIはChatGPTの応答品質を向上させる目的で、「Project Lily」と呼ばれる社内プロジェクトを進行させています。このプロジェクトでは、数百人規模の契約スタッフが実際のユーザーとChatGPTの間で交わされた会話を読み、回答の適切さや問題点を評価しています。

大規模な言語モデルの開発では、文章データを自動で事前学習させる工程だけでなく、生成された回答が利用者の意図に沿っているかを人間が確認して判定する作業が欠かせません。そのため、実際のやり取りをサンプルとして抽出し、評価員が直接チェックする体制が組まれています。

日常の会話ログには、プログラミングや文章の校正といった業務用途だけでなく、家族関係、健康状態、個人の悩み事など、かなり私的な話題が含まれます。外部メディアの404 Mediaは、実際の利用者の会話が人間による評価対象となっている点について、プライバシー保護の観点から大きな課題があると指摘しています。

OpenAIのプライバシーフィルタでも文脈依存の情報は残る

OpenAIは、会話ログがレビュー担当者に渡る前に「OpenAI Privacy Filter」という仕組みを通し、個人情報を削減する処理を行っています。このフィルタは、氏名、住所、メールアドレス、電話番号といった特定の個人識別情報を自動で検知し、別のラベルへ置き換える処理を担当します。レビュー画面上ではユーザー名も匿名化されます。

しかし、自動フィルタによってすべての個人情報が完全に除去されるわけではありません。OpenAI自身も、一般的ではない識別情報や、前後の文脈によって意味が変わる個人的な情報は見落とす可能性があると説明しています。404 Mediaの取材に対し、OpenAIは機密性の高い情報が除外されずにレビュー担当者へ届く可能性を認めています。

さらにThe Next Webの報道によると、レビュー画面にはユーザー名が表示されない一方で、ChatGPTのメモリ機能が保持している要約が表示される場合があります。このメモリ要約には、過去の利用履歴や大まかな居住地域に関する情報が含まれるケースが確認されています。

利用プランによって会話の扱いはどう分かれる？

OpenAIのプライバシーポリシーには、サービスの運営や品質改善に必要な範囲において、委託業者やサービス提供事業者が個人データを処理する場合があると明記されています。人間によるデータ確認の根拠について問い合わせを受けたOpenAIは、消費者向けヘルプページにあるデータ利用規約を案内しています。

ただし、入力した会話がモデル改善や人間のレビュー対象になるかどうかは、契約プランとチャットの利用モードによって明確に分かれています。

無料版やPlusなどの個人向けアカウントでは、初期状態で会話データをモデル改善に利用する設定が有効になっています。一方、企業や教育機関向けの専用プランでは、標準で会話データの学習利用が無効化されています。また、履歴を残さない「一時チャット」機能を利用した場合も、モデル改善には使われません。

データコントロールのオフと一時チャットで学習利用は防げる

個人向けアカウントを利用している場合でも、ユーザー側の操作で会話データをモデル改善から除外できます。ChatGPTの画面にある「設定」を開き、「データコントロール」の項目を選択すると、「モデル改善に協力する」というトグルスイッチが表示されます。この設定をオフに切り替えると、それ以降に開始した新しい会話はモデルのトレーニング対象から外れます。

また、機密情報や個人的な相談を一度だけ行いたい場面では、「一時チャット」の起動が有効です。一時チャット内の会話はモデル改善に利用されず、履歴一覧にも保存されず、通常は30日後にシステムから削除されます。

ChatGPTを個人アカウントで利用している場合は、設定内のデータコントロール項目を開き、モデル改善への協力設定が意図した状態になっているかを確認することが直接の判断基準となります。