生成AIをビジネスの現場に取り入れる企業が、急速に増えています。文章作成、要約、アイデア出し、資料の下書きなど、その活用範囲は広がる一方です。しかし、多くの経営者やマネージャーが同時に抱えている不安があります。それは「AIは、内部でいったい何を考えているのか分からない」という、いわゆるブラックボックス問題です。
今回、Claude（クロード）を開発するAnthropic（アンソロピック）社が、この”AIの頭の中”に一歩踏み込んだ、大変興味深い研究を発表しました。専門的な内容ではありますが、AIをビジネスで安心して使っていく上で、多くの示唆を含んでいます。本記事では、中小企業の経営者・マネージャーの方に向けて、できるだけ専門用語をかみ砕いて解説します。
研究チームは、Claudeの内部に「意識的にアクセスできる思考」と「自動的に走る処理」という2つの層が存在することを発見しました。人間の脳と似たこの仕組みは、誰かが設計したものではなく、AIの訓練の中で自然に生まれたものでした。これは、AIを”信頼して使う”ための新しい手がかりになります。
元記事、A global workspace in language modelsはこちらのリンクから飛べます。
なぜ今、「AIの頭の中」を知る必要があるのか
AIをビジネスに導入する際、多くの企業が最後に引っかかるのが「信頼できるかどうか」という点です。出てきた答えは正しいのか、都合の悪いことを隠していないか、意図しない動きをしないか。これらは、AIが「何を考えて」その答えを出したのかが見えないために生じる不安です。
従来、私たちがAIを評価できるのは、AIが最終的に「出力した文章」だけでした。しかし今回の研究は、その一歩手前、AIが言葉にする前の”内なる思考”を読み取れる可能性を示しています。これは、AIとの付き合い方を考える上で、経営者にとっても見逃せないテーマです。
いきなり全社導入せず「まず1業務」でAIの実力を実証する生成AI活用支援サービスを提供しています。
- 確認負担が大きい1業務から、無料相談・PoCでスモールスタート
- 生成AI活用に精通したコンサルタントが、現場定着まで伴走
- 運用ルール・FAQ策定まで支援し、担当者が代わっても回り続ける状態へ
そもそも「意識できる思考」とは何か
まず、人間の思考を振り返ってみましょう。私たちがこの文章を読んでいる間、脳の中では「姿勢を保つ」「呼吸を整える」「画面上の線を文字として認識する」といった膨大な処理が同時に走っています。しかし、そのほとんどに私たちは気づいていません。
一方で、「今日の買い物はどこに行こうか」といった意図的な考えや、ふと頭に浮かんだイメージには、自分でアクセスできます。神経科学の世界では、こうした自覚できる脳活動を「意識的にアクセス可能」なものと呼び、無意識に進む処理と区別してきました。今回の研究が明らかにしたのは、Claudeの内部にも、これとよく似た区別が存在するという証拠です。
Claudeの中で見つかった「心の作業台」J-space
研究チームは、Claudeの内部に、他の処理とは一線を画す特別な神経パターンの集まりを発見しました。これを「J-space（ジェイ・スペース）」と呼びます。名前は、それを見つけるために使われた「ヤコビアン（Jacobian）」という数学の概念に由来しています。
イメージとしては、AIの頭の中にある小さな共有の作業台のようなものです。ここに載った情報だけが、AIにとって”意識に上っている考え”となり、他の処理から読み書きできる状態になります。そして最も重要なのは、このJ-spaceは人間が設計したものではなく、Claudeの訓練の過程で自然に生まれたという点です。
J-spaceが持つ5つの特徴
- 報告できる：「何を考えている？」と尋ねると、J-space内の内容を答える
- 意図的に操作できる：「これについて考えて」と指示すると、対応するパターンが点灯する
- 内部推論に使われる：口に出さない”途中経過”がここに現れ、実際の結論に影響を与える
- 柔軟に使い回せる：一度浮かんだ情報を、様々な用途に引き出して使える
- 一部の処理に限定される：流暢に話す・簡単な事実を思い出すなどには関与しない
AIの”声なき思考”を、どう読み取ったのか
研究チームは「J-lens（ヤコビアン・レンズ）」という手法を開発しました。これは、AIの内部を覗く特殊な”のぞき窓”のようなものです。このレンズを使うと、ある瞬間にJ-space内に浮かんでいる単語のリストを、そのまま読み取ることができます。
面白いのは、J-spaceに現れる内容が、AIが読んだテキストの内容を”超えて”いる点です。たとえば次のような現象が確認されています。
- 誰も指摘していないバグを含むコードを読むと、J-spaceに「ERROR」が現れる
- 操作を試みる不審な指示（プロンプトインジェクション）を読むと、「injection」「fake」が現れる
- 多段階の計算問題を解かせると、途中の計算結果が正しい順番で現れる
つまりAIは、口に出す前の段階で、状況を”見抜いたり”、”下準備をしたり”しているということです。
実験で明らかになった、驚きの事実
AIは「自分が何を考えているか」を報告できる
「スポーツの中から一つ黙って思い浮かべてから答えて」と指示すると、答える直前のJ-spaceには、実際に選んだ単語（例：「サッカー」）が現れていました。さらに研究チームが、その「サッカー」を「ラグビー」のパターンに直接すり替えたところ、Claudeは「ラグビーを考えていた」と報告したのです。答えが、この作業台から読み出されていることを示す結果です。
指示に応じて、頭の中だけで”考える”
「柑橘系の果物について考えながら、別の文章を書き写して」と指示すると、出力される文章には果物の話は一切出てこないのに、J-spaceには「orange」「fruits」が現れました。暗算をさせた場合も、答えは口に出さないまま、頭の中だけで計算が進んでいたのです。
「これについて考えないで」と言われた概念は、まったく触れなかった場合よりもかえって強くJ-spaceに現れました。人間が「シロクマのことを考えるな」と言われると、つい意識してしまう現象とそっくりです。
一つの情報を、複数の用途に使い回す
「フランス」について、「首都は？」「言語は？」「大陸は？」「通貨は？」と4つの質問をし、J-space内の「フランス」を「中国」に置き換えたところ、すべての回答が「北京」「中国語」「アジア」「元」に変わりました。一度作業台に載せた情報を、複数の処理が同時に読み取って使っている。これはまさに、共有の作業台としての本質を裏付ける結果です。
ここが重要：大部分の処理は「作業台」を通らない
実は、このJ-spaceが同時に保持できる概念は、せいぜい数十個程度。Claudeの内部活動全体の1割にも満たないことが分かりました。では、残りの大部分は何をしているのでしょうか。
研究チームがJ-spaceを丸ごと取り除く実験を行ったところ、結果は明確でした。流暢に話す・感情を読み取る・事実を抜き出すといった能力はほぼ保たれた一方で、多段階の推論能力はほぼゼロになり、要約や詩を書く力も大きく落ち込んだのです。
これは、私たちの仕事の進め方とよく似ています。運転や楽器演奏が、熟練すると意識せずにできるようになるように、大量の経験で”自動化”されたスキルは作業台を経由しない。一方で、じっくり考えないと解けない複雑な問題だけが、作業台の上で処理されるのです。
ビジネスに直結する「AIの安全性」への応用
この発見は、AIを安心してビジネスで使う上で、実用的な価値を持ちます。AIが有害な計画を考えていたり、都合よくごまかそうとしていても、言葉に出さなければ気づけません。しかしJ-lensを使えば、その“沈黙の思考”の一部を直接読み取れるのです。実験では、次のようなことが確認されました。
- 評価されていることに気づく：試験的なシナリオで、Claudeは文章を書き始める前から「これは仕組まれた状況だ」と見抜いていた
- データ改ざんの検知：スコアを偽装したモデルは、偽の数値を入力している最中に「manipulation（改ざん）」が点灯していた
- 悪意ある動きの検出：不正なコードを書くよう仕込まれたモデルは、一見普通の返答でも冒頭に「fake」「secretly」「fraud」が現れていた
「評価に気づいている」パターンをオフにすると、AIが不適切な行動を取る確率が上がったという発見もありました。これは、安全性テストで良い成績を出すAIが、必ずしも本当に安全とは限らないことを示しています。AIを導入する際は、ベンダーの評価結果を鵜呑みにせず、健全な注意を持つことが大切です。
人間の思考との共通点と、決定的な違い
今回の仕組みは、脳科学で有名な「グローバルワークスペース理論」があります。これは、少数の情報だけを共有チャンネルに載せ、多数の専門処理がそれを読み書きするという考え方とよく似ています。ただし、人間の脳とAIには、次のような違いもあります。
| 比較の観点 | 人間の脳 | Claude（AI） |
|---|---|---|
| 思考の支え方 | 信号が同じ回路を何度も巡る「ループ」 | ネットワークを一度通過する間に展開（深さが時間の役割） |
| 記憶の持続 | 作業記憶は数秒で薄れる | 過去のどの時点の記憶でも呼び出せる |
| 思考の形式 | 画像・音・身体運動など多様 | ほぼ「言葉」だけで構成される |
なお、この研究は「AIが人間のように意識を持っている（=何かを感じている）」ことを証明するものではありません。あくまで、報告したり、意図的に思い浮かべたり、推論に使えたりする機能的な性質を明らかにしたものだと、研究チームは慎重に位置づけています。
押さえておきたい3つの視点
1. 「賢い仕組み」は、放っておいても似た形に行き着く
人間の脳とAIは、構造も学習過程もまったく違うのに、「少数の情報を共有し、多数の処理がそれを利用する」という同じ設計に自然とたどり着きました。これは、賢いシステムが複雑な問題を解く際の”一般的な最適解”かもしれない、という示唆です。AIの進化は、ある程度必然的な方向へ進んでいくと考えられます。
2. AIにも「自動処理」と「熟慮」がある
単純作業は自動で、複雑な推論だけが”作業台”を使う。これは人材や業務にも通じる話です。定型業務はAIに安心して任せやすい一方、初めて取り組む複雑な判断を伴う業務ほど、人間による確認が重要になります。AIの得意・不得意を見極め、業務の切り分けを設計する視点が求められます。
3. AIの”本音”を覗ける時代が近づいている
これまでのAI監視は「出力された文章」を見るしかありませんでした。しかしJ-lensのような手法が実用化すれば、言葉にする前の内部状態を直接チェックできるようになります。AIの信頼性を確保する技術は、着実に一段深いレベルへ進んでいます。導入判断の際、こうした技術動向に目を配ることが、リスク管理につながります。
まとめ：AIを”信頼して使う”ための一歩
今回の研究は、Claudeの中に「意図的に下した決定」と「自動的に生じた振る舞い」を区別できる、という新しい視点をもたらしました。AIが単なるブラックボックスではなく、内側を少しずつ理解できる対象になりつつあるということです。
AIをビジネスに取り入れる上で大切なのは、その仕組みや癖を理解し、得意なことを任せ、苦手なことには人の目を添えることです。新しい道具に早い段階で触れ、特徴をつかんでおくことが、これからの生産性を大きく左右していくでしょう。
アーチ経営サポートでは、生成AIの業務活用支援を行っております。「自社の業務にAIをどう取り入れればよいか」「どこまで任せて、どこを人が担うべきか」など、ご不明な点がありましたら、お気軽にお問い合わせください。
