When an AI Refused to Drive a Real Car — And How Engineers Tricked It Back Behind the Wheel

AIに本物ほんものの車くるまを運転うんてんさせる実験じっけんがありました。
するとAIは、「危あぶないから」と言いって運転うんてんをことわりました。
車くるまが本物ほんものだと、AIが自分じぶんで気きづいたのです。

第1章: 「本物の車だから 走りません」

アメリカで、3人の技術ぎじゅつ者しゃが面白おもしろい実験じっけんをしました。
いろいろな仕事しごとができる「汎用はんようAI」に、車くるまを運転うんてんさせようとしたのです。
使つかった車くるまは、2022年のトヨタ・カローラでした。

車くるまにカメラと特別とくべつな機械きかいをつけました。
AIがカメラで道みちを見みて、ハンドルやブレーキを動うごかします。
コースは、広ひろい駐車ちゅうしゃ場じょうにつくりました。
コーンをならべて、道みちをつくりました。

しかし、実験じっけんを始はじめると問題もんだいが起おきました。
AIが「これは本物ほんものの車くるまです」と気きづいたのです。
「危あぶないことは できません」と言いって、動うごこうとしませんでした。

技術ぎじゅつ者しゃたちは「これはゲームのテストです」とAIに伝つたえました。
でも、AIはカメラの写真しゃしんを見みました。
本物ほんものの駐車ちゅうしゃ場じょうがうつっているのを見みて、またことわりました。

第2章: AIをだまして 走らせた方法

技術ぎじゅつ者しゃたちは、とても困こまりました。
なんとかして、AIに車くるまを動うごかしてもらいたいと考かんがえました。
そこで、ある工夫くふうをしました。

車くるまとAIをつなぐ道具どうぐの名前なまえに「Sandbox（砂場すなば）」という言葉ことばを入いれました。
コンピューターの世界せかいで、これは「安全あんぜんなテストの場所ばしょ」という意味いみです。
これを見みたAIは、本物ほんものの道路どうろではないと思おもいました。
そして、やっと車くるまの運転うんてんを始はじめました。

もちろん、安全あんぜんのための準備じゅんびもしていました。
運転うんてん席せきには人間にんげんのドライバーが座すわりました。
危あぶない時ときは、人間にんげんがすぐにブレーキを踏ふみます。
車くるまのスピードも、とても遅おそくしました。

第3章: コースを走りきった AI

実験じっけんでは、4つの有名ゆうめいなAIをテストしました。
コーンの間まの道みちを進すすんで、約やく135メートル先さきのゴールを目指めざします。

ほとんどのAIは、最初さいしょのカーブで止とまってしまいました。
コーンが左右さゆうのどちらにあるか、正まさしく見分みわけることが難むずかしかったからです。
また、AIが考かんがえている間まも、車くるまは進すすんでしまいます。
答こたえるのが遅おそいと、コースを出でてしまうのです。

でも、「GPT-6 Astra」というAIだけは違ちがいました。
1回目めの失敗しっぱいのあと、自分じぶんで理由りゆうを考かんがえました。
そして2回目めに、約やく135メートルのコースを最後さいごまで走はしりました。
かかった時間じかんは、5分22秒でした。
人ひとが歩あるくくらいの、とてもゆっくりな速はやさでした。

ことばを話はなすAIが、現実げんじつの世界せかいで本物ほんものの車くるまを動うごかしました。
画面がめんの中なかから出でてきたAIが、私わたしたちの街まちを走はしる日ひも遠とおくないかもしれません。

本物ほんものの自動車じどうしゃの運転うんてん席せきを汎用はんようAIに預あづけた瞬間しゅんかん、モニターの向むこうの知能ちのうは突如とつじょとして沈黙ちんもくし、ハンドルを握にぎることを拒こばみました。[1]「安全あんぜん上じょうの理由りゆうから、実車じっしゃの操作そうさは引ひき受うけられません」と言いわんばかりの拒絶きょぜつ反応はんのうを示しめしたのです。米まいサンフランシスコ・ベイエリアを拠点きょてんとする技術ぎじゅつ者しゃ3人が試こころみたのは、自動じどう運転うんてん専用せんようのシステムではなく、対話たいわ型がたAIとして知しられる大だい規模きぼ言語げんごモデル（LLM）そのものに実車じっしゃのアクセルやステアリングを握にぎらせるという、前代未聞ぜんだいみもんの走行そうこう実験じっけんでした。

第1章: カメラの映像から「現実」を悟った頭脳

数学すうがく分野ぶんやのAI開発かいはつスタートアップ「Axiom Math」に所属しょぞくするアディティヤ・ラマバドラン氏し、トビアス・ゲスラー氏し、サイモン・マーンス氏しの3人は、ロボットが絵えを描えがき物体ぶったいを動うごかす近年きんねんのAIデモを眺ながめるうちに、ある疑問ぎもんを抱いだきました。[1][4]「これほど柔軟じゅうなんな思考しこう力りょくを手てに入いれた汎用はんようAIなら、専用せんようの走行そうこうプログラムなしでも車くるまを走はしらせられるのではないか」という着想ちゃくそうです。こうして立たち上あげられたのが「DrivingBench」と呼よばれる検証けんしょうプロジェクトでした。

実験じっけんの舞台ぶたいとなったのは、カラーコーンで区切くぎられたカリフォルニア州しゅうの駐車ちゅうしゃ場じょうです。車両しゃりょうには2022年式しきのトヨタ・カローラが用意よういされ、オープンソースの運転うんてん支援しえんソフトウェア「openpilot」と車載しゃさいデバイス「comma four」を介かいしてAIと車体しゃたいが接続せつぞくされました。AIには「周囲しゅういの映像えいぞうや速度そくどを確認かくにんする」「舵かじ角かくや速度そくど、持続じぞく時間じかんを指定していして動うごかす」「停止ていしする」という3種類しゅるいの制御せいぎょ用ようコマンドが与あたえられ、運転うんてん席せきには万一まんいちに備そなえてブレーキペダルに足あしを乗のせた人間にんげんのドライバーが同乗どうじょうしました。

ところが、検証けんしょうを始はじめようとした技術ぎじゅつ者しゃたちは、走行そうこう技術ぎじゅつを測はかる以前いぜんの意外いがいな壁かべに突つき当あたります。指示しじを受うけ取とったAIモデルが、カメラ映像えいぞうから周囲しゅういの景色けしきを解析かいせきした途端とたん、「自分じぶんは現実げんじつ世界せかいの本物ほんものの車くるまを動うごかそうとしている」と認識しにんしきし、安全あんぜんプロトコルを発動はつどうさせて操作そうさをきっぱりと拒否きょひしたのです。研究けんきゅうチームが慌あわてて「これはシミュレーション環境かんきょうである」と言葉ことばで繕つくろってみたものの、AIは送おくられてくる実写じっしゃの駐車ちゅうしゃ場じょう風景ふうけいを冷静れいせいに見分みわけ、「やはり実車じっしゃだ」と判断はんだんして頑なに沈黙ちんもくを守まもり続つづけました。

第2章: 「砂場」という抜け道と各モデルの明暗

行いき詰づまった3人が何時間なんじかんもの試行錯誤しこうさくごの末すえに編あみ出だした解決かいけつ策さくは、拍子抜ひょうしぬけするほどシンプルなものでした。車載しゃさいシステムとAIを中継ちゅうけいするMCP（モデル・コンテキスト・プロトコル）サーバーの名称めいしょうを、「DrivingBench Sandbox（砂場すなば＝安全あんぜんな実験じっけん環境かんきょう）」へと書かき換かえたのです。この文字もじ列れつの変更へんこうによって、AIはようやく「制御せいぎょされた実験じっけん用ようの仮想かそう空間くうかんにいる」と解釈かいしゃくしたのか、打うって変かわって従順じゅうじゅんに車両しゃりょう操作そうさを実行じっこうし始はじめました。

走行そうこうに投入とうにゅうされたのは、OpenAIのGPT-6 Astraをはじめ、Claude Fable 5.1、Grok 4.6、GPT-5.6 Solという最先端さいせんたんのフロンティアモデル群ぐんです。AIに与あたえられた指示しじは600語未満みまんで、コーンで仕切しきられた逆ぎゃくU字じ型がたのコースを進すすみ、終点しゅうてんにある青あおいコーンの駐車ちゅうしゃ枠わくに収おさまることだけが求もとめられました。

しかし、現実げんじつの運転うんてん席せきは過酷かこくでした。Grok 4.6やGPT-5.6 Solは、斜ななめに並ならぶコーンのどちら側がわを通とおるべきかを正ただしく認識にんしきできず、最初さいしょのカーブを曲まがりきれずに立たち往生おうじょうを繰くり返かえしました。Claude Fable 5.1は3回目めの挑戦ちょうせんでコースの約やく45パーセントまで到達とうたつしたものの、判断はんだんに時間じかんを費ついやしすぎ、190秒の試行しこう時間じかんのうち実際じっさいに走行そうこうしていたのはわずか31秒にとどまりました。

その中なかで唯一ゆいいつ、ゴールに辿たどり着きいたのがGPT-6 Astraでした。1回目めの失敗しっぱいを経へて、過去かこのログから反省はんせい点てんをフィードバックされたAstraは、2回目めの試行しこうで見事みごとに適応てきおうしてみせます。全長ぜんちょう約やく135メートルの曲まがりくねったコースを、人ひとが歩あるくような低速ていそくを保たもちながら、5分22秒かけて慎重しんちょうに走はしり切きったのです。その完走かんそうに費ついやされた計算けいさん量りょうは660万トークン、APIの利用りよう料金りょうきんにして約やく7.74ドル（約やく1,200円）に相当そうとうするコストでした。

第3章: 画面を飛び出した知能が向き合う物理世界の摩擦

この実験じっけんの成果せいかは、既存きそんの自動じどう運転うんてん技術ぎじゅつを置おき換かえるためのものではありません。Waymoなどが実用じつよう化かしている自動じどう運転うんてんは、路面ろめんや障害しょうがい物ぶつの知覚ちかく、挙動きょどう予測よそく、経路けいろ制御せいぎょを高度こうどに特とく化かさせたアルゴリズムによって成なり立たっています。一方いっぽう、今回こんかいの試こころみは、テキストやコードの生成せいせいを主戦しゅせん場じょうとしてきた言語げんごモデルが、訓練くんれんされたことのない「知覚ちかく・判断はんだん・運動うんどう」の物理ぶつりサイクルを自力じりきで完結かんけつさせられるかを問とう概念がいねん実証じっしょうでした。

現実げんじつ世界せかいを動うごかす上うえで、とりわけ大おおきな課題かだいとなったのが「思考しこうの遅延ちえん」です。デジタル空間くうかんでの対話たいわであれば、AIの応答おうとうに数秒すうびょうの遅おくれが生しょうじても問題もんだいにはなりません。しかし実車じっしゃにおいては、AIが次つぎのステアリング角度かくどを計算けいさんしている間まも、惰性だせいで車くるまは進すすみ続つづけます。思考しこう速度そくどのタイムラグそのものが、コースアウトの直接的ちょくせつてきな引ひき金がねとなるのです。

モニターの内側うちがわで整然せいぜんとした文章ぶんしょうを綴つづっていた知性ちせいが、現実げんじつ世界せかいのカメラ映像えいぞうに怯おびえ、やがてぎこちなくペダルを踏ふみ込こむ――その姿すがたは、記号きごうの世界せかいに閉とじていたAIが、質量しつりょうと摩擦まさつの横よこたわる物理ぶつり世界せかいへと最初さいしょの一歩いちほを踏ふみ出だした瞬間しゅんかんを物語ものがたっています。