こんにちは。最近、AI(人工知能)のニュースが毎日のように流れていますが、実はその裏側で、開発者たちの「冷や汗もの」の失敗が相次いでいるのをご存知ですか?
今日は、最新AIを支える一流企業で起きた、ちょっと意外で人間味あふれる「2つの大失敗」をご紹介します。
1. 秘密のアプリをフライング公開!(Googleのケース)
つい先日、Googleが開発している「次世代のAIアプリ」が、スマホのアプリストアに突如として現れました。
しかし、なんと1時間もしないうちに削除されてしまったのです。
本来は、5月中旬の大きな発表会でお披露目するはずだったと言われています。
- 何が起きたの? 理由はとてもシンプル。担当者が「公開ボタンを間違えて押してしまった」ことだと言われています。
- ここがポイント 世界一のテック企業であっても、最後の「公開スイッチ」を握っているのは人間です。「まだ内緒だよ」と言われていたものを、つい手が滑って世界中に公開してしまった……。そう考えると、なんだか親近感が湧いてきませんか?
【参考】
https://pasqualepillitteri.it/ja/news/1760/google-cosmo-proactive-ai-assistant
2. 「秘密の伝票」を抜き忘れた!(Anthropicのケース)
もう一つは、より深刻な「1行の書き忘れ」事件です。AIツールの心臓部ともいえる「設計図(プログラムのコード)」が、誰でも見られる状態で世界中に配信されてしまいました。
- たとえるなら「プレゼントの伝票」 大切な人へのプレゼントを綺麗にラッピングして渡したけれど、中に「仕入れ価格が書いてある伝票」を抜き忘れて入れてしまい、いくらで買ったかが筒抜けになってしまった……。 そんな、顔が真っ青になるような失敗です。
- 1行の重み 「このファイルは見せないでね」という指示をたった1行書き忘れただけで、企業の宝物である設計図(51万行!)が丸見えになってしまいました。デジタルな世界でも、最後の守り神は「人の目」によるチェックなんですね。
【参考】
https://www.itmedia.co.jp/news/articles/2604/01/news056.html
自動化が進む今だからこそ、大切なこと
今回の2つの事件から言えるのは、「どんなに便利な道具を使っても、最後の最後は人間次第」ということです。
私もITの現場で20年以上働いていますが、どれだけシステムが進化しても、「うっかり」をゼロにするのは本当に難しいことだと痛感します。
AIが私たちの生活を便利にしてくれる時代ですが、それを支えているのは、日々「設定ミスはないかな?」と画面を見つめる、私たちと同じ人間です。
みなさんも、メールの送信ボタンを押す前に「あ!」と思った経験はありませんか?今回のニュースは、そんな日常の「ヒヤリ」が世界規模で起きた、ちょっと身近な教訓かもしれません。

