ChatGPTの開発元OpenAIは17日、ウォール・ストリート・ジャーナルのTech Liveカンファレンスでディープフェイクを検出するツールを開発中と明かした。同社の技術最高責任者ミラ・ムラティ氏によれば、新しいツールはAIを使用して生成された画像を判定する際の信頼性が「99％」であるという。
ツールのリリース日は未定であるが、同ツールはすでにテスト段階まで開発が進んでいるという。現在のAIによる画像の生成検出方法は自動化されていない。多くの専門家は、AIが正確に生成するのが難しい部分に着目し、直感をもとに検証を行なっているという。ディープフェイクに関する懸念は高く、日本でもディープフェイクを使った犯罪事例は複数件見られている。
Sponsored同社は1月、ChatGPTのような生成AIモデルが機械生成テキストと人間の文章を区別するツールを発表していた。しかし、7月には、精度が低いことからツールの提供を終了していた。
OpenAIは、公表されているコンテンツガイドラインを厳格に適用し、自らのAIモデルが不適切なコンテンツを生成しないよう制約を設けていると主張した。米スタンフォード大学が18日に発表した生成AIの透明性を評価するスコアリングシステム「Foundation Model Transparency Index」（FMTI）によればOpenAIのCPT-4は3位に位置している。
OpenAIは世界一のスタートアップになりうる
同社は、既存の従業員保有株を860億ドルの企業評価額で売り出す方向で交渉を進めている。情報筋によれば、OpenAIは複数の投資家と交渉中であるが、配分に関しては確定しておらず、条件はまだ変わる可能性があるという。同社の株は米マイクロソフトが49％所有する。企業価値は800億から900億ドルと見積もられている。これが実現すれば、OpenAIは世界で最も価値のあるスタートアップとなる。
