📅 この記事は2026年5月時点の情報をもとに書いています。AIやOSの情報は変化が早いため、最新情報は各公式サイトをご確認ください。
AI開発の最前線にいる一流企業でも、最後の砦は「人間のチェック」です。
最近、GoogleとAnthropicでそれぞれ「うっかり」が起きました。どちらも技術的な大失敗ではありません。でも、その規模と影響は世界レベルでした。ITインフラエンジニアとして21年働いてきた視点から、この2つの事例を見てみます。
Googleの「公開ボタンを間違えて押した」事件
Googleが開発中の次世代AIアプリが、スマートフォンのアプリストアに突然現れました。本来は5月中旬の大きな発表会でお披露目するはずだったもので、1時間も経たないうちに削除されました。
原因はシンプルです。担当者が「公開ボタンを間違えて押してしまった」とされています。
世界一のテック企業であっても、最後の「公開スイッチ」を握っているのは人間です。どれだけ精緻なシステムを作っても、その上で操作するのは人間である以上、「うっかり」はゼロにはなりません。
Anthropicの「1行の書き忘れ」事件
もう一つはより深刻な事例です。AIツールの心臓部ともいえるプログラムコードが、誰でも見られる状態で配信されてしまいました。
原因は外部からのサイバー攻撃ではなく、自社のCI/CDパイプライン（ソフトウェアを自動でビルド・公開する仕組み）における人為的なミスです。公開すべきでないファイルが含まれたまま配信されてしまいました。
インフラエンジニアとして身に覚えがある話です。自動化された仕組みの中にこそ、「まさかここが」という見落としが潜んでいます。デジタルの世界では、その1つのミスが51万行ものコードを世界に晒すことになります。
AIに任せること、手放さないこと——Claude CodeとGeminiを使い倒して気づいたことの記事と何が違うのか
「AIに任せること、手放さないこと」という記事では、実際にAIを使ってみた経験から「何を任せて何を握っておくか」を書きました。
この記事で言いたいのは少し違います。「任せる・手放さない」という話以前に、AIを使う人間そのものが「うっかり」をする存在だということです。
GoogleもAnthropicも、AIの開発者です。そのAIの専門家が「公開ボタンを間違える」「1行を書き忘れる」。これは笑い話ではなく、どんな組織でも起きることです。
「うっかり」をゼロにするより、「うっかりしたときの影響を小さくする」
インフラエンジニアとして21年間で学んだことがあります。「ミスをなくす」ことより「ミスをしたときの影響範囲を小さくする設計」の方が、現実的で効果があります。
本番環境への直接アクセスを制限する。公開前にダブルチェックの仕組みを入れる。ロールバックできる仕組みを用意する。これらはすべて「うっかり」を前提とした設計です。
AIが私たちの作業を助けてくれる時代になっても、この考え方は変わりません。むしろ、AIが代行できる範囲が広がるほど、「うっかりしたときの影響」も大きくなります。だからこそ、人間のチェックと、ミスを前提とした設計が今まで以上に重要になります。