ChatGPTがユーザーについて知っていることすべてで空室を埋めるというプロンプトがSNSで拡散している。この実験結果から、ChatGPTが記憶に蓄積している情報量が浮き彫りとなった。チャットボットがデータを保存していることは多くの利用者が認識していたが、そのすべてが一枚の画像で示されたことで、不安を感じた人もいる。
この流行は一見すると無害なお遊びに見える。ただし、すべてのオブジェクトがかつてチャットボットに入力したデータを反映しているため、一種のセキュリティテストともなっている。画像がX上で公開されれば、同じプロファイルが見知らぬ人にも渡るリスクがある。
ChatGPTのメモリーは実際に何を保存しているか
話題のプロンプトは、グレーの空室画像と1つの指示文をセットにする。チャットボットは過去の会話をもとに部屋を埋める。Xの有名な暗号資産アカウントが、試して結果を投稿するようフォロワーに呼び掛けた。
OpenAIによると、ChatGPTのメモリーは2つの側面がある。
- 保存メモリーには、ユーザーの名前や好み、目標などの詳細が記録される。
- 有料のPlusおよびProプランでは、会話履歴の参照機能があり、データが保存されていなくても過去の対話が参照可能。
記憶容量が増すほど、他サービスへの乗り換えも難しくなる。AIのメモリーによる乗り換え困難をめぐる議論でも、この傾向が指摘された。
暗号資産保有者のリスクがより大きい理由
暗号資産保有者にとって、リスクは単なる恥ずかしい情報にとどまらない。今年初め、開発者が共有リンク経由でGoogleにインデックスされたClaudeのチャット内に暗号資産ウォレットのデータを発見した。
保有資産や取引所、旅行計画などの情報が保存されていれば、詐欺師がより巧妙なフィッシングメールを作成する助けになり得る。
バイナンス創業者のチャンポン・ジャオ氏は、AIの本当の危険性はフィッシングや情報流出にあるのであって、ビットコインの暗号技術の破壊ではないと指摘している。空室の例は、攻撃者が知り得る情報の一例を示す。
OpenAIは個人設定でChatGPTのメモリー閲覧、削除、無効化を許可している。「一時チャット」ではメモリーの参照や更新は行われない。
暗号資産業界ではさらに踏み込んだ対応もある。イーサリアム共同創業者のヴィタリック・ブテリン氏は、AIにプロンプトが届く前に内容を隠すパラノイドモードを開発した。
一方で規制当局もデータ管理のコストを引き上げている。ニューメキシコ州の裁判所は、Metaに対しFacebookのユーザーデータの扱いをめぐり、過去最高となる250億ドルの制裁金を命じた。
ChatGPTのメモリーが深くなるほど、空室テストはAI企業がどのような情報を保有しているかを点検する日常的な手段となる可能性がある。
