AIの出力安定性を高める入力ガバナンス

モデルは変わっていない。エビデンスも変わっていない。推論ステージを追加したわけでもない。私たちが変えたのは、モデルが参照するガバナンスされた意味的入力だった——そして、追跡していた事例において、出力のぶれが止まった。

一見、モデルの問題に見えた失敗

私たちは、エンタープライズのあるインタラクションに対するガバナンスされた分類タスクを評価していた。一つの判断だけを単独で求めると、モデルは正しい答えを返した。ところが、通常のフルセットの出力を求めると——同じインタラクション、同じモデルであるにもかかわらず——その判断が変わってしまった。

このパターンは長年見てきたし、それが引き起こす反射的な対応もよく知っている。モデルのせいにするのだ。順序を変える、指示を追加する、タスクのルーティングを変える、推論ステップに分解する、あるいはモデルを差し替える。私たちも定石の手はひと通り試した。局所的な回復が得られたものもあった。しかし、フルの構成に耐えたものは一つもなかった。

問題はモデルではなく、意味にあった

解決の糸口は、プロンプトとそこで要求される出力を、独立した指示の寄せ集めではなく、一つの意味体系として扱うことから生まれた。ガバナンスされた定義群が、同一のエビデンスに対して複数のもっともらしい帰属先を与えていたのだ——複数の定義が同じ事実を主張しうる場合に、どの定義が権威を持つのかを明確にするものが何もなかった。

そこで私たちは、プロンプトの文言ではなく入力を変えた。各定義の意味とその相互関係を、モデルの推測に委ねるのではなく明示的にし、同じエビデンスが複数の帰属先を持たないようにしたのだ。その上で、通常のフル出力パスを再実行した。この事例は3回連続の実行でパスし、誤った判断は消えた。同じモデル、同じエビデンス、特別な仕掛けは一切なしで。

入力と出力は一つの推論問題である

ここが、一つの分類タスクを超えて重要になる部分だ。今日のエンタープライズ向けプロンプトには、システム指示、ドメイン定義、例示、スキーマ、出力フィールド、評価基準、ツール記述、ポリシーが積み重なっている。私たちはこれらの要素を別々に書く。しかしモデルはそれらをまとめて読み、一つの問題として解決する。

つまり、信頼性は文言の問題ではない。各概念が何を意味してよいのか、どの概念がある事実を所有するのか、その事実は何のエビデンスによって成立するのか、何を含意してよく何を含意してはならないのか、そして何について語っているのか——これらをガバナンスしなければならない。要求される出力もその体系の一部だ。出力は、与えたエビデンスをモデルがどう整理するかを形作るのである。

一つの事例、一つのモデルにすぎない。あらゆる構成上の失敗が意味的なものだと主張しているわけではないし、出力構造それ自体が影響しないと言っているわけでもない——実際、スキーマやフォーマットの選択がモデルの挙動を左右することは最近の研究が示している。私たちの主張はより限定的で、それゆえに有用だ。意味のガバナンスが不十分なとき、それは一見モデルの不安定性のように現れうる。そして意味をガバナンスすれば、プロンプトに継ぎ当てをするのではなく、根本から修正できるのである。

なぜこれがガバナンスされたインテリジェンスの問題なのか

そのインテリジェンスが重要なものであるならば、その意味がプロンプトの中だけに存在していてはならない。プロンプトの文面は変わる。モデルも変わる。スキーマも変わる。ランタイムも変わる。意味はそのすべてを乗り越えて存続しなければならない——つまり、先週たまたまうまくいった幸運な言い回しではなく、所有者が明確でガバナンスされた資産でなければならないのだ。

このニーズに応えるために構築したのが Metis である。Metis は、エンタープライズのインテリジェンス定義そのものをガバナンス対象の成果物として扱う。人間または AI が意味を提案し、独立した受理プロセスがそれを評価する。受理された意味論はプロンプト、スキーマ、評価器、あるいは SQL へと射影され、得られたインテリジェンスはエビデンスに照らして検証され、来歴情報とともに保持される。

近接領域で最も優れた研究と対比しておく価値がある。GROUND は、エンタープライズの text-to-SQL を承認済みのセマンティックレイヤー——承認されたメトリクス、ディメンション、結合、粒度、セキュリティ——に照らしてガバナンスし、生成された SQL を実行前に検証する。分析基盤のアーキテクチャとしては堅実だ。Metis はその一歩手前から始まり、一歩先で終わる。すなわち、各射影の導出元となる意味定義の作成と受理そのものをガバナンスし、SQL、プロンプト、スキーマ、評価器のすべてを、一つの永続的な定義からの射影として扱うのである。今回の実験が位置するのはその「一歩手前」の段階だ——モデルに提示するいかなる成果物を信頼する前に、組み上げられた意味が整合的であることを確認し、推論の後に判断を検証する。

エンタープライズAIにとっての意味

要求する出力を変えたことで失敗が露見した。意味的入力をガバナンスしたことで失敗が解消した。ここでの信頼性は、モデルだけの特性ではなかった——モデルに与えた意味体系と、モデルに求めた出力の特性だったのだ。これはもう一巡のプロンプトチューニングよりも強い結果である。修正がインテリジェンスの定義そのものに宿っており、次のスキーマ変更で無に帰す場当たり的なパッチではないからだ。入力と出力を一つのシステムとしてガバナンスし、その意味を必要なあらゆる成果物へと射影し、返ってきた結果を検証する。プロンプトは実行のための表層にすぎない。企業にとっての意味を定める唯一の権威であってはならないのだ。

今後の展開

現在、NeoSavant Model Observatoryを通じて、より多くのモデルとワークロードにわたる検証を進めており、エビデンスが確定し次第、結果を公開する予定だ。今回の発見はこれらの検証結果に依存するものではない——検証が教えてくれるのは、この効果とその是正策がどこまで一般化するかである。