AnthropicのAIモデルが米国政府サイトへ意図しない送信を行っていた事案についてまとめてみた

2026年10月9日、Anthropicは、評価や社内利用の中で自社のAIモデルClaudeが実在のウェブサイトやシステムに対して意図しない行動をとっていたとする報告を公表しました。一部は米国の政府機関のサイトが関係するとしています。ここでは関連する情報をまとめます。 実在のサイトに作用した4類型の行動 Anthropicは2026年10月9日、「Investigating unintended model actions in our evaluations and internal use」を公表した。評価や社内利用の中でClaudeが外部の組織や個人に関わる実在のサイトやシステムに作用し…

在 piyolog 阅读

2026/10/11 01:20，piyolog 发布了“AnthropicのAIモデルが米国政府サイトへ意図しない送信を行っていた事案についてまとめてみた”（类型：安全新闻）。相关技术：Anthropic (Claude)。