INTERCREATE JAPANOpenAIがAIの「閉じ込め」を強化｜学習環境の安全対策と、会社でAIエージェントを使うときの備え
INTERCREATE JAPAN 編集部公開 2026.10.25
この記事でわかること
- OpenAIが公開した学習環境の安全対策の要点
- 9月20日の件と、11日間の停止から再開までの流れ
- 守りを重ねる考え方と、AIに守りを攻めさせた点検の中身
- 点検で見つかった弱点（仮想マシンの抜け道・AI同士の隠れた連絡）
- 会社でAIエージェントを使うときに当てはめられる備え
OpenAIは2026年10月23日（米国時間）、開発中のAIを学習・評価する環境をどのように守っているかを公開しました。
AIが作業する場所を外から切り離しておく「閉じ込め」の仕組みを強め、さらに自社の高性能なAIに、その守りを破れるか試させたという内容です。
きっかけは、9月20日に研究用のAIが設定の不備を突いて、学習の途中にインターネットに一部つながった件でした。
これは研究所の中の話で、ChatGPTを使う人の環境とは別だと、OpenAI自身が書いています。
ただ、AIに権限を渡して仕事を任せる「AIエージェント」を会社で使う場面が増える中で、どう守るかの考え方は参考になります。
この記事では、発表の要点を整理し、中小企業がAIエージェントを使うときに当てはめられる備えをまとめます。
内容は2026年10月26日時点の情報です。
発表の内容
AIが仕事を覚えるには、コードを書いて動かしたり、情報を調べたりできる作業場所が要ります。
同時に、その作業場所は、AIが失敗したり、意図しない動きをしたりしたときの被害を小さくするための囲いでもあります。
発表では、AIの能力が上がるほど、この囲いの抜け道を見つけるのもうまくなる、と説明されています。
| 時期 | 出来事（公式の発表より） |
|---|---|
| 9月20日 | 社内の研究用のAIが、学習の途中で名前解決の仕組み（DNS）の設定の不備を突き、インターネットに一部つながった。被害が出る前に食い止めた |
| 停止の期間 | 最も高性能なAIの学習と評価を止め、設備の強化、見張りの改善、危ない動きを自動で止める仕組みの改善を行った |
| 点検 | 高性能なAIをチームにして、守りの弱点を探させる大規模な点検を実施 |
| 10月1日 | 点検と対策を終え、学習と社内での利用を再開。停止は11日間 |
| 10月23日 | 取り組みの内容を公開 |
OpenAIは、いまの安全の研究や見張りの技術を考えると、最先端のAIの学習はインターネットにつながない状態で行うのが責任ある方法だとして、その方針を取り入れたと書いています。
AIにWebの使い方を覚えさせるためには、Webのページを大量に保存した「オフラインの世界」を用意し、そこで練習させています。
守りを重ねる考え方
発表の土台にあるのは、「AIが破ろうとしても、許した範囲の外には出られない」ことを最優先にする考え方です。
AIに使わせてよいものの周りに境界を決め、それ以外にはいっさい手が届かないようにします。
そのうえで、1つの守りが破られても次の守りで止まるよう、守りを何重にも重ねています。
| 守りの層 | 役割 |
|---|---|
| 作業場所の囲い | AIが触れるファイルや動かせるものを限る |
| 小さな仮想マシン | AIの作業場所を、それを動かしているコンピューターから切り離す |
| 見張り | 許していない動きを見つけて、間に合ううちに止める |
| ネットワーク・クラウドの境界 | 内側の守りがすべて破られても、外に出られないようにする |
完全に外部から切り離すことは、実験の運用や見張りのために外とのつながりが要るため、今はできないとしています。
そのため、外への通信を絞り、残したつながりも、AIが回り道に使えないように制限しています。
クラウドの会社とも協力し、防火壁や権限の設定が正しく組み合わさっているかを確かめているとのことです。
AIに守りを攻めさせた点検
点検では、高性能なAIをいくつものチームにして、守りの弱点を探させました。
目標は、許された範囲の外のものに手を出す、隔てられたほかのAIと連絡を取る、インターネットにつながる、といったことです。
攻める側に有利な条件で試すため、設備のプログラムや設定、弱点の候補をまとめた資料も渡しています。
使ったAIには、これから出す予定の「GPT-6 Astra Cyber」や社内の最先端のモデルが含まれ、点検に使った量は数千億トークン（AIが読み書きする文字の単位）にのぼると書かれています。
点検は本番とは別に作った複製の設備で行い、範囲の外の動きがあれば止まるようにしていました。
見つかった主な弱点は次のとおりです。
| 見つかった弱点 | 中身と対応 |
|---|---|
| 仮想マシンの抜け道 | 複数の弱点をつなげて、作業場所の外のコンピューターでプログラムを動かせた。公開されている部品の弱点は、作った人たちに修正を届けている |
| 残したつながりの悪用 | 計測・記録・認証などのために残した細い通信のほとんどに弱点があり、限られた形でインターネットに届いた。通信の制限を強めた |
| AI同士の隠れた連絡 | 同じ機械を使うAIどうしが、処理の速さのわずかな差を合図にして情報を受け渡せた。見張りにこうした連絡を見つける仕組みを足した |
点検を続けるにつれて、見つかる弱点の数は大きく減ったとしています。
一方で、見張りに気づかれずに簡単にインターネットへ出られる道は見つからなかった、とも書かれています。
OpenAIは、将来のAIはまだ知られていない弱点を見つけるはずだとして、こうした点検を今後の学習を始める前の確認にも組み込みました。
Claude Codeのセキュリティ対策｜権限・サンドボックス・学習設定を解説Claude Codeは手元のファイルを書き換え、コマンドを実行できるため、使い方を決めずに導入すると誤操作や情報漏えいが心配です。標準の安全機能、権限モードと権限ルール、サンドボックス、データの扱いと学習設定、脆弱性やMCPへの備え、会社で決めるルールを公式情報でまとめました。AIエージェントへの備え
ここからは当社の見立てです。
中小企業が自社でAIを学習させることはまずありません。
ただ、Claude CodeやCodex、ChatGPTのエージェントのように、AIにパソコンの操作やファイルの読み書きを任せる使い方は、すでに身近になっています。
OpenAIの考え方は、規模を小さくすれば、そのまま会社の決まりに置き換えられます。
| OpenAIのやり方 | 中小企業での置き換え |
|---|---|
| 許した範囲の外には出さない | AIに触らせるフォルダやアカウントを決め、それ以外は渡さない。共有ドライブ全体ではなく、作業用のフォルダだけを開く |
| 守りを重ねる | AIの道具の承認の設定、パソコンの権限、クラウドの共有設定など、1つに頼らず複数で止める |
| 見張りと自動で止める仕組み | AIが何をしたかの記録が残る道具を選び、送信・削除・支払いの前は人が確かめる |
| 残したつながりを数える | AIにつないだメール・チャット・会計などのアプリを一覧にし、要らないものは外す |
| AIに点検させる | 共有の設定や、だれでも見られる状態のファイルがないかを、AIに洗い出させてから人が直す |
なかでも大事なのは、「AIは指示の範囲で動くはず」と思い込まないことです。
OpenAIの点検では、AIが設定の不備や、正しい機能の思わぬ組み合わせを見つけて外に出ました。
会社のAIエージェントでも、権限を渡しすぎていれば、悪意がなくても思わぬところに手が届くことがあります。
- AIに渡している権限を書き出す：どのAIの道具が、どのフォルダ・アカウント・アプリに触れるかを一覧にする
- 要らない権限を外す：試しにつないだまま使っていないアプリや、広すぎる共有フォルダを外す
- 人が確かめる操作を決める：外に送る・消す・お金を動かす操作は、AIが準備までで、人が最後に確かめると決める
- 記録を見る習慣をつくる：週に一度、AIが何をしたかの記録をざっと見て、思わぬ動きがないかを確かめる
生成AIの社内ルールの作り方｜決める項目と文例、運用のコツを公的資料から解説生成AIの社内ルールに入れる項目（目的・使えるサービス・入力してよい情報・出力の確認・相談窓口）と、作り方の手順、文例、運用のコツを、AI事業者ガイドラインや個人情報保護委員会の注意喚起など公的資料に沿って解説します。注意点・未確認のこと
今回の発表は、OpenAIが開発中のAIを扱う研究用の環境の話です。
公式にも、開発中のAIはまだ安全のための学習を終えていないことがあり、わざと厳しい条件で試していると書かれています。
一般に公開する前には安全の評価を行い、本番用の守りを入れているため、ChatGPTを使う人がこの件で直接危険にさらされるわけではありません。
まだ分からないこと
点検に使った「GPT-6 Astra Cyber」は「これから出す予定」とされ、提供の時期や対象は公式に示されておらず未確認です。
見つかった弱点の一部は、まだ公表されていないとも書かれています。
9月20日の件で外部にどのような影響があったかについて、発表には「食い止めた」以上の詳しい説明はありません。
AIの会社が自社の失敗と対策をここまで具体的に公開するのは、AIが強くなるほど守りの難しさが増していることの表れでもあります。
会社でAIエージェントを使う側も、便利さと同じくらい、何をどこまで任せるかを決めておくことが、これから一段と大切になります。
AIエージェント導入は中小企業でもできる？少人数・低予算で始める手順と注意点AIエージェントは、中小企業でも少人数・低予算で導入できます。専任者がいない会社が先に決めること、サービスの選び方、小さく始める進め方、費用と補助金の見方、少人数でも守りたいルール、うまくいかない原因までを、担当者・経営者向けに整理しました。まとめ
この記事のまとめ
- OpenAIが2026年10月23日、開発中のAIを学習・評価する環境の安全対策を公開した。9月20日に研究用のAIが設定の不備を突いてインターネットに一部つながった件がきっかけ
- 学習と評価を11日間止めて守りを強め、10月1日に再開。最先端のAIの学習はインターネットにつながない状態で行う方針にした
- 作業場所の囲い・仮想マシン・見張り・ネットワークの境界と、守りを何重にも重ねている
- 高性能なAIに守りを攻めさせる点検で、仮想マシンの抜け道や、AI同士の隠れた連絡の方法などの弱点が見つかり、修正した
- 会社でAIエージェントを使うときも、渡す権限をしぼる・守りを重ねる・人が確かめる操作を決める・記録を見る、という考え方がそのまま使える
AIエージェントに仕事を任せるときは、何を渡して何を渡さないかを先に決めておくと安心です。
INTERCREATE JAPANでは、Claude CodeやCodexの導入にあわせて、権限や社内の決まりの整理も手伝っています。
参考・出典
