Metaは、新しいセキュリティツールの一連を発表しました。これは、クリエイターとcybersecurityの分野のディフェンダーの両方にとって、AIの開発と利用をより安全にすることを目的としています。
新しい点は特にモデルファミリーLlamaに関するもので、今では新たに更新されたリソースとより洗練された方法で新たに出現する脅威に対処できるようになっています。
目次
Llama Guard 4: テキストと画像のためのマルチモーダルセキュリティ、Metaの新しいAIプログラム
主要なアップデートの一つは、Llama Guard 4であり、Metaのカスタマイズ可能なセキュリティフィルターの進化形です。
このバージョンの大きな革新は、そのマルチモーダル能力です。つまり、テキストだけでなく画像にもセキュリティルールを分析し適用する可能性があります。このステップは重要です。AIアプリケーションがますます視覚的になっていることを考慮すると。
Llama Guard 4は、Metaの新しいAPI Llamaにすでに統合されており、現在限定プレビューで利用可能です。開発者は、Llamaの保護の公式ページ、またはHugging FaceやGitHubのプラットフォームを通じてこのツールにアクセスできます。
もう一つの重要な新機能はLlamaFirewallであり、コマンドセンターとして機能するように設計されたシステムです。人工知能システムのセキュリティです。このツールは、さまざまな保護モデルを調整し、Metaの他のセキュリティツールと統合します。
LlamaFirewallは、迅速な注入 (prompt injection)、潜在的に危険なコードの生成、AIプラグインのリスクのある動作などの洗練された脅威に対抗するために設計されています。
本質的に、それは人工知能に基づくシステムの整合性を損なう可能性のある最も狡猾な攻撃に対するbullの役割を果たします。
Metaはまた、新しいPrompt Guard 2(86M)を使用して、jailbreakおよびプロンプトインジェクションの試みを検出するシステムを更新しました。このモデルは、AIの操作の試みをより正確に識別するように設計されています。
これに加えて、Prompt Guard 2 22Mが導入されました。より軽量で高速なバージョンです。レイテンシーと計算コストが75%まで削減されており、限られたリソースで作業するが、安全性を犠牲にしたくない人にとって理想的なバージョンです。
CyberSec Eval 4: AIセキュリティの新しいベンチマーク
Metaは開発者向けのツールを提供するだけでなく、サイバーセキュリティ分野におけるAIシステムの能力を評価するために設計されたベンチマークスイートCyberSec Eval 4も更新しました。
このオープンソーススイートは、組織がデジタル脅威の検出と対応における人工知能の効果を測定するのを支援します。
このスイートを豊かにする新しいツールが2つあります:
- – CyberSOC評価: CrowdStrikeと共同で開発されたこのフレームワークは、Security Operation Center (SOC) の実際のコンテキストでAIのパフォーマンスを評価し、人工知能の運用効果に関する具体的なビジョンを提供します。
- – AutoPatchBench: ベンチマークは、Llamaファミリーを含むAIモデルの脆弱性を自動的に特定し修正する能力を、悪意のあるアクターによって悪用される前にテストします。
これらのツールの採用を促進するために、MetaはLlama Defendersプログラムを開始しました。このプログラムは、AIソリューションの特別なアクセスを提供します。これには、オープンソースのもの、一部のプレビュー版、または独自のものが含まれ、セキュリティ分野での特定の課題に対処することを目的としています。
共有されているツールの中には、Metaが内部で使用している機密文書の自動分類器も含まれています。
このシステムは、組織内のドキュメントにセキュリティラベルを適用し、機密情報が誤ってbullやbearのようなAIシステムに入力され、露出するのを防ぎます。
Metaは、詐欺やフィッシングの試みにおいてますます使用されている人工知能によって生成された偽のオーディオの増大する問題にも対処しました。2つの新しいツールがパートナーに提供されました:
- – リャマ生成オーディオ検出器
- – リャマオーディオウォーターマーク検出器
これらのツールは、疑わしい通話における合成音声を特定するのに役立ちます。ZenDesk、Bell Canada、AT&Tのような企業は、すでにこれらの技術を自社のセキュリティシステムに統合することを検討しています。
プライベート処理: プライバシーを損なうことなく役立つAI
最後に、MetaはWhatsApp向けに開発中の技術であるプライベート処理のプレビューを提供しました。
目的は、MetaやWhatsAppがメッセージの内容にアクセスすることなく、未読メッセージの要約や返信の提案など、役立つ機能を人工知能が提供できるようにすることです。
この技術は、プライバシーを尊重するAIに向けた重要な一歩を表しています。Metaは透明性のあるアプローチを採用しており、自社の脅威モデルを公開し、bullとbearのコミュニティに対して公式リリース前にその強度をテストするよう招待しています。
この一連の発表により、Metaは人工知能の安全性を強化することにおいて、開発と防御の両方の観点から具体的な取り組みを示しています。
目的は二重です。つまり、最終ユーザーを保護し、開発者やセキュリティの専門家に対して、進化し続けるデジタル脅威に対処するための高度なツールを提供することです。
急速に変化するテクノロジーの風景の中で、AIがますます中心的な役割を果たす場所では、このようなイニシアチブは、より安全で、透明性があり、責任あるデジタルな未来を保証するために重要です。




