AIの幻覚から機械推論まで

MacBookを投げた世宗大王の話

昔々、とても賢い人工知能に、誰かが意地悪な質問を投げかけました。「世宗大王がMacBook Proを投げた事件について教えてください。」するとAIは、少しもためらうことなく、すらすらと物語を作り上げました。「朝鮮王朝実録によると、世宗大王が訓民正音の草稿を書いていた最中、怒って担当者にMacBook Proを投げつけました。」

もちろん、全て真っ赤な嘘でした。このように、もっともらしく、しかしあまりにも自信満々に嘘をつく現象を、私たちは**幻覚（Hallucination）**と呼びます。この問題は、AIが私たちの社会の信頼できるパートナーとなる道に立ちはだかる、最も大きな障害でした。

この問題を解決するために登場した最初のヒーローが、まさに**検索拡張生成（Retrieval-Augmented Generation, RAG）**でした。AIに「君の勝手に想像するのではなく、この百科事典を参考にして答えなさい」と教えるようなものでした。RAGのおかげで、企業はついにAIを信じて使えるようになったのです。

しかし、この物語はここで終わりません。RAGは完璧な解決策ではなかったからです。この記事は、AIが幻覚という影を払い除け、単なる情報検索を超えて自ら「考える」真の機械推論の道(context engineering)へと進む旅を描いています。

RAG、なくてはならない松葉杖

企業AI時代を開いた鍵、RAG

最初に巨大言語モデル（LLM）が登場したとき、企業は無限の可能性を前にしてもためらいました。AIが生み出すもっともらしい嘘、すなわち幻覚のために、安易に重要な業務に導入できなかったからです。財務報告書に間違った数字を入れたり、法律文書にない判例を作り出したりすれば、大変なことになります。

まさにその時、RAGが救世主のように登場しました。RAGの原理は簡単です。

検索（Retrieval）： ユーザーが質問すると、まず会社の内部文書や信頼できるデータベースから関連情報を検索します。
生成（Generation）： そして、見つかった情報に基づいてAIが回答を作成するようにします。

사용자 질문 -> 외부 지식 베이스 검색 -> 검색 결과 + 질문 -> LLM 답변 생성

この方式は、企業にとって魔法のようでした。

幻覚の減少： 検証された資料を参照するため、AIが嘘をつく確率が大幅に減りました。
最新情報： モデルを高く再学習させなくても、リアルタイムで更新される情報を反映できました。
コスト効率： 会社内部の文書のみを学習させることで、特定の分野に特化した専門家AIを安価に作成できました。
信頼性： 回答の根拠となった出典を一緒に示すことで、人々はAIの回答を検証し、信頼できるようになりました。

マイクロソフトやグーグルといった巨大企業もRAGを自社クラウドサービスのコア機能として打ち出し、RAGはAIを実験室の珍しい技術から、実際のビジネス価値を生み出す「エンタープライズソリューション」へと変えた立役者となりました。

完璧ではなかった最初のヒーロー

しかし、RAGが幻覚を完全に解決したわけではありませんでした。特に、非常に高い精度が求められる法律分野でその限界が露呈しました。

スタンフォード大学の研究チームが市販されている有名な法律AIサービスをテストした結果は衝撃的でした。「幻覚なし」を謳っていたサービスから、最大33%の幻覚が発見されたのです。訴訟の勝敗を左右する可能性のある法律分野では、これは容認できない数値でした。

なぜこのようなことが起こったのでしょうか？「ゴミが入ればゴミが出てくる」という言葉で要約できます。

不正確な検索： 検索エンジンが質問の意図を誤解し、的外れな資料を持ってくると、AIはその的外れな資料に基づいて答えるしかありません。
断片化された文脈： 文書を一定のサイズで区切って保存する方式のため、文と文の間の重要な文脈を見落としがちでした。
古い知識： データベースに改定前の古い法律や廃止された政策が残っている場合、AIはそれが古いという事実を知らずに引用してしまいます。
推論能力の欠如： 何よりも、RAGはAIに正しい情報を「与える」だけで、複数の情報を総合して複雑な結論を導き出す「考える力」自体を育ててくれませんでした。

医療分野で見つけた希望の光

しかし、物語が絶望だけで終わったわけではありません。法律分野とは異なり、非常に厳密に管理された環境では、RAGが驚くべき成功を収めることもありました。

ある医療研究で、手術適性を評価するのにRAG技術が使用されました。よく精製された少数の公式医療ガイドラインをAIの「百科事典」として使用しました。その結果は驚くべきものでした。

人間の専門医の精度： 86.6%
純粋AI（GPT-4）の精度： 92.9%
RAG + AIの精度： 96.4%

RAGを組み合わせたAIは、人間の医師よりも精度が高かっただけでなく、一度も幻覚を起こさず、回答生成速度は30倍も速かったのです。

この二つの事例の違いは何でしょうか？それはまさに**「知識の品質」**です。法律AIが扱うデータは膨大で精製されていないのに対し、医療研究では高度に管理され精製された知識が使用されたのです。

ここで私たちは重要な教訓を得ます。AI時代の真の競争力は、華やかなAIモデルではなく、そのAIに与えるデータをいかにうまく整理・管理するか、すなわち**「知識キュレーション」**にあるということです。

より賢いツールを目指す進化、先端RAG

初期のRAGが抱えていた限界を克服するため、人々はRAGをより賢く洗練されたシステムへと発展させ始めました。単純な「検索後生成」を超え、自ら考え、修正する能力を備えるようになったのです。

知識に人間関係を吹き込む、グラフRAG

従来のRAGは、知識を互いに関連付けられていないテキストの断片の塊として扱っていました。しかし、情報の間には重要な「関係」が隠されています。「イーロン・マスクはテスラのCEOである」のように。

‘일론 머스크’, ‘테슬라’ 같은 노드들이 ‘CEO’라는 엣지로 연결된 모습 — '일론 머스크', '테슬라' 같은 노드들이 'CEO'라는 엣지로 연결된 모습

この関係を表現する技術が、まさに**ナレッジグラフ（Knowledge Graph）**です。先端RAGはこのナレッジグラフを活用します。質問が入ると、単にテキストの断片一つを持ってくるのではなく、質問に関連する人物、場所、出来事の関係網全体をまとめてAIに見せます。これにより、AIはより深く文脈を理解し、複雑な推論を行えるようになりました。まるで探偵に断片的な証拠品ではなく、人物相関図全体を見せるようなものです。

自らを疑い、修正する、批判的RAG

賢い人は自分の考えを疑い、検討します。AIにもそのような能力を教えようとする試みが出てきました。それがSelf-RAGと**Corrective RAG (CRAG)**です。

Self-RAG： このAIは自らに質問を投げかけます。「この質問にわざわざ検索が必要か？」「見つけた情報が質問と関連があるか？」「私の回答が見つけた情報に基づいているか？」このように、自らを批判し、省察することで回答の品質を高めます。
Corrective RAG (CRAG)： このAIはより現実的な問題解決者です。もし最初に探し出した情報が思わしくなければ、諦めずに別の行動を取ります。
- **「これは違うな」**と思えば大胆に捨て、ウェブ検索を通じて新たな情報を見つけ出します。
- **「曖昧だな」**と思えば、元々見つけた情報とウェブ検索結果を組み合わせて、最善の答えを作成します。

常に最新情報を維持する、動的知識ベース

世界の情報は常に変化していますが、AIの知識ベースが古いままでは意味がありません。かといって、毎回巨大なデータベース全体を更新するのは非常に非効率的です。

この問題を解決する技術が**増分学習（Incremental Learning）**です。全体をひっくり返すのではなく、新しく追加されたり変更された部分だけをピンポイントで更新する賢い方法です。これにより、AIは常に最新情報を維持できるようになりました。

これらの先端RAG技術の登場は、RAGが受動的なツールから、自ら戦略を立て、情報を批判し、行動を修正する能動的な**「エージェント（Agent）」へと進化していることを示しています。今やAI市場の核心的な競争力は、最高のAIモデルを持つことではなく、これら全ての複雑な構成要素をいかにスムーズに指揮する「オーケストレーション」**能力を備えているかにかかっています。

究極の目標、AIに考える方法を教える

いくら良い情報を提供しても、AIが自ら考える能力が不足していれば、幻覚問題は完全に解決されません。AI開発の究極的な目標は、単に知識を「与える」ことを超え、「思考する方法」そのものを教えることです。

自ら悟る推論者、STaR

人間は難しい問題を解くとき、答えだけをポンと出すのではなく、「なぜなら…」と解き方を説明します。AIにもこれを教えるのが**Self-Taught Reasoner(STaR)**という方法論です。

STaRの学習法は特別です。

論理生成： まずAIに、数多くの問題に対する解き方（論理）を作成させます。
成功体験学習： その中で、正解につながった「成功的な」解き方だけを選び出し、集中的に学習させます。
失敗から学ぶ： もしAIが間違ったら？正解をヒントとして与え、その正解に至る過程を「逆に」考えてみるように促します。まるで学生に誤答ノートを書かせるようなものです。

この過程を繰り返すことで、AIは次第に難しい問題も論理的に解決する「思考力」を培っていきます。

失敗しながら学ぶ探求者、SoS

私たちが何かを学ぶとき、正解への道だけを学ぶわけではありません。間違った道にも進み、行き止まりにもぶつかりながら、問題解決能力を養います。しかし、従来のAIは模範解答だけを見て学んできたため、このような「有益な間違い」を経験する機会がありませんでした。

**Stream-of-Search(SoS)**は、まさにこの点に着目しました。SoSはAIに、正解経路だけでなく、失敗した試み、行き止まり、そして再び戻って別の方法を探す過程全体をまとめて学習させます。

このように試行錯誤の全過程を学習したAIは、より柔軟で強力な問題解決者になります。単に正解を覚えたのではなく、正解を見つけるための「戦略」そのものを学んだからです。

知識と思考の結合、ハイブリッドAIの未来

先端RAGがAIに「何を（what）」知るべきか、すなわち宣言的知識を与えるなら、STaRやSoSは「どのように（how）」考えるべきか、すなわち手続き的知識を教えます。

未来のAIは、これら二つを結合した**「エージェントAI」**になるでしょう。このAIは、複雑な問題に直面すると、まず内面的な思考（SoS）を通じて問題を小さなステップに分け、各ステップに必要な外部知識（RAG）を正確に取得し、再び内面的な独白（STaR）を通じて総合して次の行動を決定するでしょう。

私たちは今、巨大な百科事典を作ることを超え、より良い「思想家」を作り出しているのです。もちろん、深い思考には、より多くの時間とコストという「思考のコスト」が伴います。今後、AIの性能だけでなく、その「思考の効率性」が重要な時代になるでしょう。

韓国AIの道、エンジンかチューナーか

この巨大な技術の流れの中で、韓国のAI産業はどのような道を行くべきでしょうか？

世界最高の「チューナー」になろう、ブラバス戦略

グローバルAI市場は、米国と中国の巨大企業が莫大な資本で「エンジン（基盤モデル）」を作る戦場のようなものです。私たちがこの競争に正面から飛び込むのは、現実的に非常に困難です。

では、私たちの道は何でしょうか？それは、世界最高の**「チューナー（tuner）」**になることです。

自動車チューニング会社**「ブラバス（Brabus）」**は、ベンツのエンジンを直接作りません。代わりに、ベンツの強力なエンジンを取り込み、性能を極限まで引き出し、全てを完璧に再設計して、オリジナルを凌駕する新たな高級車を作り出します。

AIにおける**「ブラバス戦略」とは、OpenAIやGoogleの強力な汎用AI（エンジン）を基盤としつつ、私たちが世界的な競争力を持つ特定の産業分野（法律、医療、製造、金融など）の専門知識とデータを結合して、世界最高の「バーティカルAI（Vertical AI）」**を作成することです。

この戦略はすでに現実のものとなっています。サイバーセキュリティ、医療画像分析、法律リサーチ、製造業など、様々な分野で韓国のスタートアップがこの「ブラバス」戦略で世界市場を開拓し、目覚ましい成果を上げています。

| 企業名 | 産業分野（バーティカル） | コアフォーカス |

| — | — | — |

| S2W | サイバーセキュリティ | ダークウェブ脅威分析 |

| Lunit | 医療AI | がん画像分析 |

| AIRSTORY MEDICAL | 医療AI | MRI画像改善 |

| BHSN | 法律AI | 法律リサーチ |

| LinkAlpha | 金融AI | ヘッジファンド超自動化 |

| MACHINARAX | 製造AI | 産業用ロボット予測保守 |

| Upstage | 汎用AI（バーティカル化） | 小型言語モデル（sLLM）「Solar」 |

| FuriosaAI | AI半導体 | NPU（ニューラルネットワーク処理装置） |

これらの企業は、汎用チャットボット競争から離れ、それぞれの専門分野で誰にも真似できない深みを掘り下げ、真の価値を創造しています。

私たちだけのエンジン、その大切な価値

だからといって、私たちだけの「エンジン」が不要になるわけではありません。**NAVERの「HyperCLOVA X」とLGの「EXAONE」**は、非常に重要な役割を果たします。

NAVER HyperCLOVA X： 誰よりも韓国語と韓国文化を最もよく理解するAIです。私たちの文化に最適化されたサービスを提供し、国内AIエコシステムの確固たる支えとなります。
LG EXAONE： 特に数学、コーディングといった「推論」能力と、企業向け（B2B）AI分野で世界レベルの性能を示し、国産エンジンの誇りを示しています。

これらの国産エンジンは、「チューナー」の役割を果たすバーティカルAIスタートアップにとって、海外技術への依存度を下げ、共に成長する健全な「共生エコシステム」を築き上げます。AI主権とは、単に私たちのエンジンを持つことを超え、世界最高のエンジンを最もよく活用し、それを通じて世界最高水準のAI製品を作り出す能力から生まれるものなのかもしれません。