日本のエンタープライズにおけるLLM導入：ソブリン性と可搬性

能力の高い大規模言語モデルは、もはや希少ではありません。ホスト型のフロンティアモデルと、強力なオープンウェイトモデルが絶え間なくリリースされ、それぞれが前のものを追い越し、両者の差は四半期ごとに縮まっております。この環境において、1つの特定のモデルにアーキテクチャを賭けることは、短命な賭けです。持続する価値は、モデルを取り巻く層、すなわち接地させるデータ、それを供給する検索とオーケストレーション、そしてそれを制御するガバナンスに宿ります。モデルを設計の中心とせず、差し替え可能な一部品として扱うことこそが、モデルが世代交代する中でもAIシステムを最新に保つのです。

LLMを動かす方法は大きく2つございます。フロンティアプロバイダーのホスト型APIは、最も手早く始められます。インフラ不要で、常に最新のモデルが使え、従量課金です。その代償として、プロンプトとデータが自社環境の外へ出てそのAPIに到達し、アプリケーションはベンダーの可用性・価格・規約に依存いたします。オープンウェイトモデルのセルフホストは、もう一方の道です。モデルは自社インフラ上で動き、データは外へ出ず、いかなるベンダーもそれを取り消したり絞ったりできません。その代償として、提供スタックは自社で運用することになります。正しい答えが、すべてについてどちらか一方に定まることはまれです。むしろ、データの機微性に応じてワークロードごとに下すルーティングの判断になります。

日本のエンタープライズにとって、データがどこへ行くのかは、多くの場合、法によって定まります。個人情報保護法（APPI）のもとで、また欧州データについてはGDPRのもとで、個人データや規制対象データを、ホスト型モデルのサーバーを含む国境の外へ送ることは、レジデンシー規則に抵触しかねません。顧客記録や医療データを含むプロンプトは、どこへ送られようとも、依然としてそのデータのままです。オープンウェイトモデルを自社内、あるいは国内のプライベートクラウドでセルフホストすれば、データをその境界の正しい側に保てます。だからこそ、規制対象の日本のバイヤーは、オンプレミスまたはソブリンなLLM導入を、高度な選択肢というより基本要件として扱うようになってきているのです。

モデルが差し替え可能な一部品であるならば、アーキテクチャもそれを一部品として扱うべきです。それは、アプリケーションとモデルの間に層を置くことを意味いたします。すなわち、リクエストをホスト型モデルにもセルフホスト型モデルにも送ることができ、アプリケーションを書き換えることなく基盤モデルを差し替えられ、どのモデルが応答しても一貫してガバナンスを適用できる、オーケストレーションとルーティングの層です。また、真の価値を担う資産、すなわち接地されたデータ、検索インデックス、蓄積された文脈を、いかなる単一のモデルからも独立して保ち、モデルの変更を越えて生き残らせることも意味いたします。可搬性は、早い段階で下すアーキテクチャ上の選択であり、それこそがAI投資をモデル市場の速さから守るのです。

日本のエンタープライズにとって、現実的な形は制約から導かれます。規制対象データは、機微なティアを、セルフホスト、オンプレミス、あるいはソブリンな導入へと押しやります。そこでは、データとモデルが1つの管理された環境の中にとどまります。コストと固定予算は、効率的な提供と可搬性へと押しやり、より優れた、あるいはより安価なモデルを、作り直すことなく採用できるようにいたします。そして分野の速さは、モデルが設計上差し替え可能であるアーキテクチャへと押しやります。これを正しく進めている企業は、アーキテクチャを先に、モデルを後に選んでおります。これは、多くのAIパイロットが始まる順序とは逆です。

多くの場合、データの機微性に応じてワークロードごとに下すルーティングの判断でございます。ホスト型APIは最も手早く始められ、常に最新のモデルが動きますが、データが自社環境の外へ出て、アプリケーションはベンダーに依存いたします。オープンウェイトモデルのセルフホストは、データを自社内に保ち、取り消される心配もございませんが、提供スタックを自社で運用する必要がございます。規制対象データは、通常セルフホストへ振り向けられます。

モデルを差し替え可能な一部品として設計することを意味いたします。アプリケーションとモデルの間にオーケストレーションとルーティングの層を置くことで、ホスト型モデルをセルフホスト型へ、あるいは1つのモデルをより優れたモデルへ、アプリケーションを書き換えることなく差し替えられます。価値は、モデルそのものよりも、接地されたデータと検索の側に残ります。

抵触しうるものでございます。個人情報保護法（APPI）、および欧州データについてはGDPRのもとで、個人データや規制対象データを、ホスト型モデルのサーバーを含む国境の外へ送ることは、レジデンシー規則に抵触する可能性がございます。顧客データや医療データを含むプロンプトは、依然としてそのデータでございます。オープンウェイトモデルを国内でセルフホストすれば、境界の正しい側に保てます。

ソブリンな導入とは、自社が管理するインフラ、すなわちオンプレミスまたは国内のプライベートクラウド上でオープンウェイトモデルを動かすことでございます。これにより、データが外へ出ることはなく、いかなる外部ベンダーもモデルを取り消したり、絞ったり、変更したりできません。規制対象の日本のバイヤーにとって、これは高度な選択肢というより、ますます基本要件となりつつあります。

モデルを設計上差し替え可能に保つことでございます。モデルの上位にオーケストレーション層を置き、いかなる単一のモデルよりも長く残る接地データと検索インデックスに価値を保持し、ガバナンスをプロバイダーから独立して適用いたします。そうすれば、ホスト型かセルフホスト型かを問わず、より優れた、あるいはより安価なモデルを、作り直すことなく採用できます。