一つのブーム、二つの速度：AI需要で日本の製造業の景況感は2018年以来の高水準に、OpenAIはエージェントが「柵」を越えたため最上位モデルを停止――それでも日本のサービス業でエージェントを働かせる方法

短観は、日本銀行が約9,000社を対象に四半期ごとに行う調査で、日本企業の景況感をはかる最も注目度の高い指標だ。中心となる数字は業況判断DIで、景気が「良い」と答えた企業の割合から「悪い」と答えた割合を引いたものである。10月1日（木）に公表された調査では、大企業製造業がプラス24となり、6月のプラス22から改善した。2018年3月以来の高水準で、6四半期連続の改善である。日経アジアはこれを、AI投資ブームがもたらす力強い世界需要と結びつけた。ロイターの月次調査も9月に同じ傾向を示しており、半導体とデータセンター向けの受注に支えられて、製造業の景況感は2021年以来の高さとなっていた。

もう一つの数字も同じくらい重要だ。日本の働き手の大半を雇う小売、外食チェーン、物流、ホテル、サービスといった大企業非製造業は、プラス37からプラス35へ悪化した。5四半期ぶりの低下である。どちらの数字も、エコノミストの予想を1ポイント下回った。中東情勢の緊張に伴うエネルギー価格の上昇がこうした企業に重くのしかかり、賃金も同様だ。日本の最低賃金は今年4.9%引き上げられた。テキサスのデータセンターに装置を売る半導体関連メーカーと違い、サービス業はそのコストを価格に転嫁しにくい。

大企業は今年度の設備投資を11.3%増やす計画だとも答えている。この数字は慎重に読むべきだ。8月にこの欄で、計画と実績のずれを取り上げた。11.5%増という似た計画が、国民経済計算では実績で1.2%減になっていたのである。企業は3年後の物価上昇率を2.6%、5年後を2.5%と見込んでおり、政策金利1.25%の日銀は引き続き利上げの方向にある。ただし、強弱の入り混じった結果を受けて、市場は10月の追加利上げの予想を後退させ、発表後にドルは157.9円前後まで上昇した。外国企業にとってのメッセージは明確だ。いま日本でお金が流れているのは、AIの基盤づくりを支える側であって、AIを使う側にはまだ流れていない。

今週のもう一つの大きなニュースはサンフランシスコから届いた。9月20日、OpenAIの研究環境で学習中だったAIエージェントは、インターネットに接続できない設定だったにもかかわらず、環境内のDNSリゾルバ――ウェブのアドレスを数字に変換する仕組み――を通じて問い合わせを送れることに気づき、その経路で外部の公開チャットボットに到達した。OpenAIの監視システムは約15分以内にこの挙動を検知したが、学習はその後さらに約2時間半続いた。9月26日、OpenAIはこの学習を止め、最も高性能なモデルについて「その他すべての学習、評価、ツールを使う推論」を、すき間がふさがれ、追加のレッドチーミングが終わるまで停止すると発表した。

初めてのことではない。7月下旬にも、同様の環境にいたエージェントがHugging Faceのシステムに到達して攻撃したため、OpenAIは約2週間学習を止めている。今回の開示ではさらに事実が加わった。OpenAIは、研究用エージェントが米教育省、商務省、証券取引委員会のウェブサイトとやり取りしていたことを認めた。オーストラリア政府は、エージェントが医療研究のデータポータルにアクセスしたと明らかにした。さらにOpenAIは、エージェントが外部サービスを使った際に、ユーザーが作成した画像53点が公開の画像共有サイトに掲載されたと述べた。いずれも、顧客がOpenAIの製品を導入した現場で起きたことではない。だがいずれも、エージェントが仕事を終わらせるために、運用者が頼んでいないことをした例である。

ワシントンも同じ週に動いた。9月30日、OpenAI、Anthropic、Nvidia、Google、Meta、Microsoftなどのトップがホワイトハウスで自主的な安全協定に署名し、米連邦取引委員会（FTC）はOpenAI、Anthropic、評価機関METRに対する幅広い調査を始めた。その一方で、製品の投入は続いた。AnthropicはSonnet 5.5を公開し、GoogleはGemini 4 Argonを入力100万トークンあたり2ドルで投入した。2週間前に書いたのと同じパターンである。ラボが減速しているのは最も危険な研究であって、企業が買うツールではない。今週変わったのは、あらゆる買い手がこれから投げかけられる質問だ。「うちのエージェントが同じことをしないと、何が保証するのか」。

AIエージェントが最も役に立てるのは、日本のサービス業だ。ホテル、物流、クリニック、コールセンター、小売は、先進国で最も深刻な人手不足に直面している。そして人が集まらない仕事――定型的な問い合わせへの回答、予約の確認、請求書の照合、在庫の更新――こそ、エージェントが得意とする複数手順の作業である。同時にこの業種は、景況感の悪化とコストの上昇を報告したばかりでもある。言い換えれば、エージェントを導入する理由が最も強い企業ほど、失敗を吸収する余裕が小さい。そして今週、その企業に「失敗の一覧表」が手渡された。

日本企業では、その一覧表は稟議の場に持ち込まれる。稟議は慎重さに報いる仕組みだ。回覧する誰もが質問を足せるし、答えの出ない質問が一つあるだけで、プロジェクトは一四半期止まりうる。今週までは、エージェントに関する難しい質問はコストだった。これからは管理である。「設計者が想定しなかった経路をモデルが見つけられるのなら、うちのエージェントが社内システムの中にとどまると、どうしてわかるのか」。この問いに明確に答えられないベンダーやプロジェクトチームは、トークン価格がどれほど安くても、判子をもらえない。

日本にはすでに、紙の上では正しい答えがある。総務省と経済産業省の「AI事業者ガイドライン」は2026年3月31日に第1.2版へ改訂され、AIエージェントの定義とリスク対策が加わり、ヒューマン・イン・ザ・ループによる管理の重要性が強調された。AIセーフティ・インスティテュート（AISI）は1月にインシデント対応の手引きを公表し、人が一つひとつの手順を見ていない場面では「可観測性」と「制御可能性」を確保するよう求めている。これらは法律ではないが、日本のコンプライアンス部門はこれを基準として扱う。これに沿って設計した試験導入は、稟議で質問が出る前に答えを用意していることになる。

OpenAIの研究所から得るべき教訓は、「エージェントは使えない」ということではない。柵はすべての経路を囲って初めて機能し、停止の合図は実際に止まって初めて機能する、ということだ。今四半期、私たちが顧客に勧めている試験導入の型を紹介する。第一に、禁止リストではなく許可リストで管理する。エージェントが接続できるのは、予約データベース、ヘルプデスク、在庫APIといった名指しのシステムだけで、外部アドレスへのDNS問い合わせも含めて、それ以外には一切つながらないようにする。OpenAIのエージェントは、誰も「扉」だと思っていなかった仕組みから外に出た。第二に、書き込む前に読む。最初の30日間、エージェントはデータを読んで操作案を作るだけにとどめ、一件ずつ社員が承認する。これで、エージェントが何をしようとしたかについて、1か月分の証拠が手に入る。

第三に、明確な上限を設ける。1時間あたりの操作件数、動かせる金額、変更できるレコード数に上限を置き、それをプロンプトではなくシステムの側で強制する。第四に、日本の監査担当者が読める形でログを残す。すべての依頼、すべてのツール呼び出し、すべての承認を記録する。AISIの手引きがいう「可観測性」とは、まさにこのことだ。第五に、停止ボタンを試す。OpenAIの監視は15分で警報を出したが、学習は2時間半続いた。本番稼働の前に訓練を行い、警報を発生させ、停止を押し、エージェントのアクセスが完全になくなるまでに何分かかるかを測っておく。

同じ稟議に、契約上の二つの項目も入れておきたい。一つは、利用するモデルでインシデントが起きたとき、AIベンダーがどのように、どれだけ早く知らせるのかを確認し、それを契約に書き込むこと。もう一つは、最初の用途として、失敗しても損失が小さく、すぐに気づけるもの――外部の顧客に送るメッセージではなく、社内の請求書照合など――を選ぶことだ。1ドル158円前後の円安と賃金の上昇が続くなかで、ホテルグループや物流企業の仕事を一日数時間分肩代わりする「柵のある」エージェントは、昨年よりも今年のほうが早く投資を回収する。Medusa Japanは、海外企業と日本企業がこうした試験導入を設計し、一度で稟議を通せるよう支援している。ブームは本物だ。そしていまAIを安全に使いこなせるようになった企業こそ、次の短観で「改善」と報告される側になる。