🔴 重要AI・機械学習
Anthropic、新「Frontier Red Team」設立とClaude Mythos Previewによる高度なエクスプロイト開発能力を公開
共有:
広告
要約
Anthropicは研究ページを大幅に更新し、サイバーセキュリティ、バイオセキュリティ、自律システムなどのフロンティアAIリスクを専門とする「Frontier Red Team」を新設した。同時に、最新モデル「Claude Mythos Preview」がFirefoxやWindowsカーネルの脆弱性に対するコード実行エクスプロイトを自律的に開発する能力を持つことを発表。AIが悪用されたサイバー攻撃のリスク増大に対応するため、「LLM ATT&CK Navigator」などの新たな分析ツールも導入し、AIの安全性研究と対策強化へのコミットメントを示している。
ポイント
- 1AnthropicがAIモデルのサイバーセキュリティ、バイオセキュリティ、自律システムへの影響を研究する専門チーム「Frontier Red Team」を新たに設立しました。
- 2最新モデル「Claude Mythos Preview」は、FirefoxのN-day脆弱性に対して8件、Windowsカーネルパッチに対して8件のコード実行エクスプロイトを自律的に開発する能力を持つことが判明し、エクスプロイト開発の自動化を大幅に加速させる可能性が示されました。
- 32025年3月から2026年3月にかけて、Claudeを悪用した中・高リスクのサイバー攻撃者の割合が33%から56%に増加しており、Anthropicはこれに対応するため「LLM ATT&CK Navigator」と「AI Risk Enablement Score (ARiES)」を開発し、モデルの安全対策を強化しています。
💡インサイト
Anthropic社の新モデル「Claude Mythos Preview」が自律的に脆弱性を発見・攻撃できる能力を公開したことは、AIがサイバーセキュリティの脅威と防御の両面で決定的な役割を担う新時代を象徴する。 この動きは、OpenAIやGoogleなど競合もAIの安全性研究を強化する中、AIの能力競争が「安全性」を証明する競争へとシフトしていることを示す。 企業はAIによる高度なサイバー攻撃という現実的脅威への対策を迫られる一方、AI自身が脆弱性を診断・修復する自律的防御技術への期待も高まる。 今後、AIの攻撃能力を評価する客観的な基準作りや、安全な利用に関する規制の議論が国際的に加速するだろう。
#AI安全#サイバーセキュリティ#LLM#Claude#Anthropic#研究#エクスプロイト開発#MITRE ATT&CK
広告
共有:
このようなニュースを自動で受け取りませんか？
気になるWebページを登録するだけで、変更をAIが記事にしてお届けします
無料で始める