OpenAIは7日、画像生成AIモデル「DALL·E 3」で生成された画像にC2PAメタデータを追加すると発表した。出版社、企業、その他の団体がメディアコンテンツの起源や関連情報を検証するためにメタデータを埋め込むことを可能にするC2PA標準に基づいている。C2PAは、AIによって生成された画像だけでなく、カメラメーカーやニュース組織などによっても採用されており、メディアコンテンツの出所などを証明する。
ChatGPTウェブサイトおよびDALL·E 3モデルのAPIを介して生成された画像にはC2PAメタデータが含まれるようになり、12日までにすべてのモバイルユーザーにも展開される。OpenAIのプラットフォームを介して生成された画像の出所を、Content Credentials Verifyなどのサイトを使用して確認できるようになる。メタデータは社会的なメディアプラットフォームによって削除されたり、スクリーンショットを取ることで失われる可能性があるため、C2PAメタデータを含まない画像がChatGPTまたはAPIで生成されたかどうかは必ずしも明確ではない。
C2PAの実装は画像ファイルサイズにわずかな影響を及ぼす可能性があるが、画像生成の品質に影響を与えることはなく、遅延にもほとんど影響を与えない。APIを介して生成された画像は、DALL·E 3モデルによって生成されたことを示す署名を含み、ChatGPT内で生成された画像は、ChatGPTを使用して作成されたコンテンツであることを示す。OpenAIは、デジタル情報の信頼性を高めるために、これらの手法を採用し、ユーザーがこれらの識別をできることことが重要であると述べている。
- プロベナンス（Provenance）は、特定のアイテムやコンテンツが由来する起源や歴史を追跡することを指す
C2PAは、AdobeやMicrosoftなどの企業が構成するグループであり、AIまたは人間によって作成されたコンテンツのプロベナンスを識別するためにContent Credentialsの検証を使用することを推進している。メタは6日、FacebookやInstagram、Threadsに投稿された画像がAIによる場合において、「ラベル」を表示させると発表した。同取り組みは数カ月以内にスタートする。
ディープフェイクの区別を適切に行えるかが課題となる
米大手メディアFox Corporationは1月10日、AI生成メディアの増加に対応するべくPolygon Labs（MATIC）の協力のもと、オープンソースプロトコル「Verify」のベータ版を公開した。「Verify」により、出版社はコンテンツを登録し、ブロックチェーン上での暗号化署名が可能になる。これにより、消費者は信頼できるソースからのコンテンツを「Verify Tool」を通じて識別できる。登録できるコンテンツは記事や音声、画像に対応が可能だ。
ドナルド・トランプ前大統領はフォックス・ビジネスがこのほど行った「Sunday Morning Futures」インタビューで、AIの危険性、特にディープフェイクによる偽情報の拡散と戦争の流れを変える可能性を強調した。AIについては「おそらく最も危険なもの」と言及し、実際の解決策が存在しないと警告した。AIの進化がもたらすセキュリティリスクについても言及し、ディープフェイク技術が実際の戦争を引き起こす可能性について懸念を示した。OpenAIは24年秋に控える大統領選でのAIの介入を防ぐ対策に取り組んでいる。
AIへの対策は各国で行われており、日本政府は2月中にも、AIの安全性を担う新組織「AIセーフティーインスティテュート」の設立を予定している。同組織は、生成AI開発企業の軍事転用などを含む安全性の評価基準策定や偽情報対策技術の研究に取り組む。
Trusted
Follow us on:
X（Twitter）：@BeInCryptoJapan
Telegramチャンネル：@BeInCrypto Japan オフィシャルチャンネル
免責事項 - Disclaimers
当ウェブサイトに掲載されているすべての情報は、誠意をもって作成され、一般的な情報提供のみを目的としています。当ウェブサイトに掲載されている情報に基づいて行う一切の行為については、読者ご自身の責任において行っていただきますようお願いいたします。
