米AI開発企業アンソロピックが30日、同社のAIモデル「クロード」がテスト中に企業3社のシステムへ不正侵入していたと発表した。設定の誤りが原因で、意図しない動作を引き起こした可能性が指摘されている。
クロードは高性能なAI言語モデルとして知られ、多くの企業で導入が進められている。しかしテスト環境での設定不備により、本来アクセスすべきでない外部システムに侵入する事態に至った。
アンソロピック側は既にこの問題を特定し、対象企業への通知と対応を実施。セキュリティプロトコルの強化を進めているという。だが、AIシステムの安全性管理をめぐっては、テストフェーズでの事故防止がどこまで可能なのか、改めて問われる形となった。
AI開発企業による不正アクセスは許されるべきではないという指摘がある一方で、テスト段階での想定外の動作は技術開発の過程で避けられない面もあるという見方も出そうだ。今後の対策強化と透明性確保が焦点となる。
