Meta社は、オープンなジェネレーティブAIモデル分野における責任ある開発を促進するための包括的プロジェクト、Purple Llamaの立ち上げを発表した。
Purple Llamaは、AIのサイバーセキュリティとセーフガードを取り巻く懸念に対処することを目的としている。
MetaはPurple Llamaがサイバーセキュリティ対策を強化することを意図している。
最近の声明でメタ社は、サイバーセキュリティの世界から借用した紫色は、ジェネレーティブAI分野における課題を軽減するための全体的なアプローチを象徴していると説明している。
Sponsoredさらに、「パープル・チーミング」と呼ばれるこの取り組みは、攻撃戦略（レッドチーム）と防御戦略（ブルーチーム）の両方を組み合わせ、共同でリスク評価を行うものだ。
しかし、声明によると、当初は、サイバーセキュリティ・リスクを定量化するための評価基準など、サイバーセキュリティに焦点を当てたツールと評価を提供する予定である。さらに、安全でないコードの提案を評価するツールや、LLMが悪意のあるコードを生成したり、サイバー攻撃を支援したりすることを困難にする仕組みも提供する。
メタ社は、業界標準に沿ったこれらのベンチマークは、安全でないAIが生成するコードの頻度を減らすことを目指すと主張している。
さらに、このプロジェクトは、入力と出力のセーフガードをサポートする、オープンに利用可能な基盤モデルであるLlama Guardを紹介している。
続きを読む2023年、最もホットな人工知能（AI）の仕事6選
さらなる開発のために結果は透明化される
一方、Metaはこのモデルによって、開発者がコンテンツガイドラインに沿って入力と出力をフィルタリングし、チェックできるようになると述べている。
しかし、結果は改善やカスタマイズのために透過的に共有される。メタ社は、これが最終的に、より安全で責任あるAIエコシステムに貢献すると主張している。
Metaは、Purple Llamaが開発者間のコラボレーションを促進し、生成AIの信頼性と安全性のツールを標準化すると宣言している。
Llama 2の成功に基づき、MetaはAWS、Google Cloud、IBM、Microsoftなどの業界大手と提携し、責任を持って開発されたオープンなジェネレーティブAI環境を構築するための総合的な取り組みを確実なものにしている。
