6月12日、AI開発企業のアンソロピック社は、アメリカ政府から突然の命令を受けました。それは、同社の最も強力なAI「ミトス5」などの利用を厳しく制限するというものでした。対応のための時間はわずか90分しかなく、同社は急いでサービスを停止せざるを得ませんでした。
この騒動の原因は、サイバー攻撃ではなく、政府と共同で行ったセキュリティテストでした。テストの中で、AIは政府の重要なネットワークの弱点を、わずか数時間で見つけ出してしまったのです。この結果に驚いた政府は、国家安全保障上の脅威だとして、すぐにAIの利用を禁止しました。
アンソロピック社や他のIT企業の専門家たちは、「このAIは安全のために必要な道具であり、禁止することは逆に危険を招く」と強く反発しました。実は、同社は以前から、自社のAIが軍事利用や監視システムに使われないよう、安全制限を外すことを拒否しており、政府との間で緊張が続いていたのです。
その後、フランスでのG7サミットで、トランプ大統領とアンソロピック社のダリオ・アモデイCEOが直接会談しました。会談後、トランプ大統領は「同社は責任ある対応をした」と評価し、態度は和らぎました。現在、双方は新しいルール作りについて話し合っていますが、政府の規制はまだ正式には解除されていません。