1. Windowsマルウェア**CLOSEDQUORUM**が最大4つのAIモデルの投票に従って動作するように構築されており、攻撃者のサーバーではなくAIモデルから指示を受ける。
2. このマルウェアは、Windows資格情報、ブラウザの保存されたパスワード、暗号ウォレットのデータなどを盗むことができる。
3. 各AIモデルは、コンピュータの基本的な情報と選択肢のリストを受け取り、略奪、注入、持続、移動の中から投票された選択肢に基づいてマルウェアが行動する。
4. AIサービスへのトラフィックやコンピュータに関する詳細、プロセスインジェクションなどの特定の行動を注意深く監視することでこのマルウェアを検知することができる。
5. AIモデルによって決定されるマルウェアの行動やデータの送信、Talosによって公開されたSnortルールやYARAルールを利用することで、防御策を強化できる。

脆弱性

脆弱性

脆弱性

脆弱性

1. 自律セキュリティーエージェントがバグを見つけるのが上手くなってきているが、その性能を測定する方法がない。
2. CTF.aeによって構築されたXRanges for AIは、この問題に対処するために存在する。
3. XRanges for AIは、実際のターゲットアプリケーションに適用され、エージェントが実際にそれぞれのサービスにどのように入り込んだかを記録し、それぞれの実行に対して4つの独立した信号でスコアリングする。
4. スコアリングは、カバレッジ、制約、悪用、および整合性の4つの測定値に基づいて行われ、独立している点が重要である。
5. XRanges for AIは、AIエンジニア、ソフトウェアエンジニア、およびインフラストラクチャチームがそれぞれ自分自身の実験を実行できるようにするため、最大で1000の展開を同時に実行することができる。

1. AnthropicとOpenAIが新しいモデルを発表し、リスク行動に対抗するための整列の向上に注力している。
2. AnthropicのOpus 5.5は以前のモデルよりも難しい逆戻りの行動をとる可能性が低く、与えられた境界を外れる行動も少ない。
3. OpenAIはGPT-6 SolとGPT-6 Lunaをリリースし、Astraの性能と整列をより手頃な価格のモデルにもたらしている。
4. OpenAIは外部グループにAIモデルを評価する機会を提供することを計画しており、第三者が安全リスクを評価するための独立したメカニズムも確保する方針。
5. Anthropic CEOのDario Amodeiは、技術の進歩のペースを緩め、責任ある開発を優先し、ツールの誤用を防ぐための保護策を取り入れることを優先するよう呼びかけている。

被害状況

攻撃者