日本におけるAIのデータレジデンシー：APPIがLLMに意味すること

従来のシステムは、予測可能で監査可能な流れでデータを動かしておりました。AIシステムは、それを一度に複数の新しい形で動かします。ユーザーのプロンプトは個人データを含みうるものであり、モデルが動く場所へ送られます。ドキュメントから生成される埋め込みは、そのデータから導出され、その機微性を帯びます。デバッグのために保持されるログとトレースは、その両方を記録いたします。そして、モデルのファインチューニングに用いられるあらゆるデータは、システムの一部となります。これらのそれぞれが、誰もそうと決めないまま個人データが国外へ出ていく経路であり、まさにAPPIが規律する対象です。

APPIは、日本の個人に関する個人情報を保護し、同意や承認された移転の仕組みといった適法な根拠なしに、そのデータを国境を越えて移転することを制限いたします。個人データを、他国のサーバー上でホストされるモデルへ送ることは、当人がそう認識しているか否かにかかわらず、この規則のもとでの越境移転にあたります。GDPRは、欧州の個人データに対して並行する制約を課しております。実務上の帰結は同じです。個人データや規制対象データは、既定ではホスト型の海外モデルへ送ることができず、それでも送ることは違反であり、グレーゾーンではありません。

コンプライアンスは、データが実際にどこへ行くのかを把握することにかかっており、見落としやすい場所が3つございます。プロンプトは明白なものです。ユーザーやアプリケーションがモデルの前に置くものはすべて、それが動く場所へ送られます。埋め込みは巧妙なものです。個人ドキュメントから生成されるベクトルは導出された個人データであり、それをマネージド型ベクトルサービスへ持ち出すことは、ドキュメントそのものを送るのと同じだけ確実に、そのデータを動かします。ログとトレースは忘れられがちなものです。プロンプトと応答を捕捉するデバッグ記録は、第三者のシステムに個人データを密かに残しうるものです。レジデンシーのレビューは、この3つすべてを対象とせねばなりません。

要件を満たす確実な方法は、レジデンシーを、ポリシー文書上の約束にとどめず、アーキテクチャの性質とすることです。各ワークロードを、それが扱うデータによって分類いたします。個人データや規制対象データを含むものは、セルフホストのモデルと国内のベクトルストアへ振り分け、プロンプト、埋め込み、ログが境界の内側にとどまるようにいたします。個人データを含まない作業は、ホスト型モデルを自由に使えるようにいたします。システムの入口に置いた分類器とルーターが、すべてのリクエストでこれを強制し、監査証跡がそれを証明いたします。レジデンシーは、機能ごとの判断であることをやめ、システムが行う保証となります。

短い問いの一式が、レジデンシーの抜けの多くを捉えます。個人データを含むプロンプトはどこへ行き、海外のサーバーに到達しうるか。個人ドキュメントの埋め込みはどこに保存され、そのストアは国内にあるか。ログとトレースはどこに存在し、個人データを捕捉しているか。いずれかのモデルのファインチューニングや適応に、どのデータが、どこで使われたか。そして、個人データを国内のインフラへ自動的に振り分ける分類器が、監査証跡とともに存在するか。この5つすべてに答えられるAIシステムは、APPIの正しい側にございます。答えられないシステムは、気づいていないかもしれないレジデンシーのエクスポージャーを抱えております。

はい。プロンプトが日本の個人に関する個人情報を含む場合に適用されます。それを海外のサーバー上でホストされるモデルへ送ることは、APPIのもとでの越境移転にあたり、同意や承認された仕組みといった適法な根拠を要します。そのデータを国内のセルフホストモデルへ振り向ければ、移転そのものを回避できます。

実務上は、導出された個人データとして扱うべきでございます。個人ドキュメントから生成された埋め込みは、そのドキュメントの機微性を帯びるため、海外のマネージド型ベクトルサービスへ持ち出すことは、ドキュメントを送るのと同じように個人データを国境の外へ動かします。個人データの埋め込みは、国内のストアに保持してください。

レジデンシーをアーキテクチャの性質にすることでございます。各ワークロードをデータの機微性で分類し、個人データを含むものはセルフホストのモデルと国内のベクトルストアへ振り向けて、プロンプト・埋め込み・ログを境界の内側にとどめ、分類器・ルーター・監査証跡で強制いたします。個人データを含まない作業は、引き続きホスト型モデルを利用できます。

はい、そしてしばしば見落とされます。デバッグ用のログとトレースは、個人データを含むプロンプトや応答を捕捉し、海外の第三者システムに残しうるものでございます。レジデンシーのレビューは、モデルが動く場所に加えて、ログがどこに存在し個人データを捕捉しているかも対象とせねばなりません。

はい。個人情報の越境移転が生じない、個人データを含まないデータやすでに公開されたデータについては準拠します。また、同意や承認された移転の仕組みといった有効な適法根拠があれば、個人データについても準拠しえます。ただし、規制対象データにおける安全な既定は、国内のセルフホストモデルに保持することでございます。