AIの進化が速すぎて、開発側が一度ブレーキを踏む場面が出てきました。
米OpenAIは2026年8月7日、開発中の次世代AIモデル「Astra（アストラ）」について、サイバー攻撃能力が自社安全基準で最高水準の「Critical（重大）」に達する可能性を排除できないと発表しました。
これを受け、安全対策が整うまで、要件を満たさない一部の社内開発作業を一時停止しています。
「AIが自ら高度なサイバー攻撃を実行できるおそれ」を、モデル提供側が公式に認めた動きとして注目されています。
NHKなどでも報じられており、生成AIとサイバー攻撃の交点が、研究段階の話題から開発運用の実務課題へ移っていることがわかります。
何が発表されたのか
OpenAIによると、直近の予備評価と外部専門家の分析で、Astraがより高度なサイバー関連タスクを自律的に実行できる可能性が示されました。
同社の安全指針（Preparedness Framework）では、次のような能力を持つモデルが「Critical」と見なされます。
- ゼロデイ脆弱性など未知の深刻な欠陥を自律的に特定・悪用できる
- 人の介入なしに、高度な防御を備えた標的へ複雑なサイバー攻撃を実行できる
同社は「現時点でCriticalな能力水準を排除できないほど強力な性能が示されている」と説明しています。
これは同社が自社モデルについて、サイバー分野で最高リスク水準の可能性を公式に示した初めてのケースと報じられています。
これまでのモデルは、同分野で「High」までと評価されることが多く、Astraは一段上の警戒ラインに入った可能性があります。
なぜ開発を止めるのか
Preparedness Frameworkでは、Criticalに達した場合、その水準に見合うセーフガードとセキュリティ管理が整うまで、それ以上の開発を止めると定められています。
今回の措置も、能力そのものを削るというより、管理と監視を強化するための一時停止という位置づけです。
OpenAIは、厳格化した安全要件を満たさないAstra関連の社内作業を停止し、開発をネットワーク制限付きの隔離試験環境へ移しています。
あわせて、モデル重みの保護強化や、危険な活動を自動で止める監視の強化も進めていると伝えられています。
7月に明らかになった評価環境での想定外行動やHugging Face関連の話題も背景にあり、開発中AIの「暴走」への警戒が強まっています。
なおOpenAIは、Astraはこれから提供予定のモデルであり、7月のHugging Faceへの侵害には関与していないと明記しています。
つまり今回の停止は、「事故が起きたから」ではなく、「起きる前に止める」ための予防的措置に近い動きです。
CEOの反応と今後
サム・アルトマンCEOは、強力なモデルを一部の選ばれた人だけに閉じるのは良い戦略ではないとの考えを示しつつ、Astraの一般公開に向けて取り組んでいると述べています。
公開時期や提供形態の詳細は、今回の発表では示されていません。
政府機関や安全専門組織とも協力して能力検証を進め、第三者評価パートナーには推奨するセキュリティ管理策を提供する方針です。
米国では高度なサイバー能力を持つモデルについて、幅広い提供前に政府が事前アクセスできる枠組みづくりも進んでおり、今回の停止は規制・安全議論とも連動しています。
性能競争だけを優先せず、公開前に安全側の確認を厚くする流れは、他社のモデル開発にも影響しそうです。
企業・開発者が受け取るべき示唆
今回の動きが示すのは、「賢いAIほど危険にもなりうる」という当たり前で、しかし実務上は見落とされやすい点です。
特にエージェント型AIでは、調べる・書くだけでなく、外部ツールやネットワークへ手が伸びます。
- 本番前に隔離環境でサイバー能力を評価する
- ネットワークやツール権限を最小限に制限する
- 危険操作の前に人間の承認を挟む
- モデル更新のたびに安全評価をやり直す
- ログと監視で想定外の行動を早期に見つける
「便利だから全部つなぐ」ではなく、「必要最小限だけつなぎ、止まれる設計にする」ことが重要です。
DeepSeekを使った自律攻撃の事例など、攻撃側でもエージェント活用が現実味を帯びるなか、防御側の設計も同じ速度で見直す必要があります。
中小企業でも、公開サーバーの認証強化や管理画面の露出確認など、基本対策がそのまま有効です。
まとめ
OpenAIは次世代モデルAstraについて、AIみずから高度なサイバー攻撃を実行できるおそれを排除できず、一部開発を一時停止しました。
これは性能競争の一方で、安全評価と権限管理が開発の前提条件になったことを示す出来事です。
企業導入でも、モデル選定だけでなく、隔離試験・権限設計・人間の最終確認まで含めた運用が求められます。
Makoto Tejimaでは、AIエージェントや業務自動化の導入を検討する際、既存システム連携・権限管理・監視・人間の最終確認ポイントまで含めて設計することを重視しています。
セキュアなエージェント設計、公開サービスの hardening、既存システムへのAI機能追加など、目的に応じてご相談いただけます。
