Керування вхідними даними для підвищення стабільності результатів AI

Модель не змінилася. Докази не змінилися. Ми не додали ще один етап інференсу. Ми змінили керований семантичний вхід, з яким працювала модель, — і в тому випадку, який ми досліджували, результат перестав змінюватися.

Збій виглядав як проблема моделі

Ми оцінювали керовану класифікацію корпоративної взаємодії. Коли модель запитували про одне окреме судження, вона повертала правильну відповідь. Коли ж запитували звичайний повний набір результатів — та сама взаємодія, та сама модель — це судження змінювалося.

Ми спостерігаємо цю закономірність роками і знаємо рефлекс, який вона викликає: звинуватити модель. Змінити порядок, додати інструкцію, спрямувати завдання інакше, розбити його на кроки міркування або замінити модель. Ми випробували очевидні ходи. Кілька з них дали локальні покращення. Жодне не витримало повної композиції.

Проблема була в значенні, а не в моделі

Рішення прийшло, коли ми почали розглядати промпт і запитувані результати як єдину семантичну систему, а не як набір незалежних інструкцій. Керовані визначення давали тим самим доказам більш ніж одне правдоподібне місце — ніщо не вказувало, яке визначення є авторитетним, коли на той самий факт могли претендувати кілька.

Тож ми змінили вхідні дані, а не формулювання промпта: зробили значення кожного визначення та його зв'язки явними замість того, щоб залишати їх на здогад моделі, так що ті самі докази більше не мали кількох місць призначення. Потім ми повторно запустили звичайний шлях із повним набором результатів. Випадок пройшов три послідовні прогони, а хибне судження зникло. Та сама модель, ті самі докази, жодних спеціальних механізмів.

Входи та виходи — це єдина задача інференсу

Це та частина, яка має значення поза межами однієї класифікації. Корпоративні промпти сьогодні поєднують системні інструкції, доменні визначення, приклади, схеми, поля виводу, рубрики, описи інструментів і політики. Ми пишемо ці частини окремо. Модель читає їх разом і розв'язує їх як одну задачу.

Тож надійність — це не питання формулювань. Потрібно керувати тим, що кожному поняттю дозволено означати, яке поняття володіє фактом, які докази його встановлюють, що воно може і чого не може мати на увазі, і про що воно взагалі. Запитувані результати — частина цієї системи: вони формують те, як модель організовує надані їй докази.

Один випадок, одна модель. Ми не стверджуємо, що кожен збій композиції має семантичну природу, чи що структура виводу ніколи не має самостійного значення — нещодавні дослідження показують, що вибір схеми та формату впливає на моделі в будь-якому разі. Наше твердження вужче й корисніше: коли значенням керують погано, це може проявлятися як щось схоже на нестабільність моделі, а керування значенням усуває проблему в корені, замість латання промпта.

Чому це проблема керованого інтелекту

Якщо інтелект має значення, його зміст не може жити лише всередині промпта. Текст промпта змінюється. Моделі змінюються. Схеми змінюються. Середовища виконання змінюються. Значення має пережити все це — а отже, воно має бути власним, керованим активом, а не вдалим формулюванням, яке випадково спрацювало минулого тижня.

Саме для цієї потреби ми створили Metis. Metis розглядає саме визначення корпоративного інтелекту як керований артефакт: людина або AI може запропонувати значення, незалежний шлях прийняття його оцінює, прийнята семантика проєктується в промпти, схеми, оцінювачі або SQL, а отриманий інтелект верифікується за доказами і зберігається з походженням.

Варто порівняти з найсильнішою суміжною роботою. GROUND керує корпоративним перетворенням тексту в SQL відповідно до затвердженого семантичного шару — затверджені метрики, виміри, з'єднання, гранулярність, безпека — і валідує згенерований SQL перед виконанням. Це надійна аналітична архітектура. Metis починає на крок раніше і завершує на крок пізніше: він керує створенням і прийняттям семантичного визначення, з якого виводяться проєкції, і розглядає SQL, промпти, схеми та оцінювачі як проєкції одного довговічного визначення. Цей експеримент належить саме до того раннього кроку — перевірки, що зібране значення є когерентним, перш ніж довіряти будь-якому артефакту, зверненому до моделі, а потім верифікації судження після інференсу.

Що це означає для корпоративного AI

Зміна запитуваного результату виявила збій. Керування семантичним входом усунуло його. Надійність тут була не лише властивістю моделі — вона була властивістю семантичної системи, яку ми їй передали, і результатів, які ми просили її створити. Це сильніший результат, ніж черговий раунд налаштування промптів, бо виправлення живе у визначенні інтелекту, а не в разовій латці, яку наступна зміна схеми зведе нанівець. Керуйте входами та виходами як єдиною системою, проєктуйте це значення в будь-які потрібні артефакти і перевіряйте те, що повертається. Промпт — це поверхня виконання. Він не повинен бути єдиним авторитетом щодо того, що означає ваше підприємство.

Що далі

Ми перевіряємо цей результат на ширшому колі моделей і робочих навантажень через NeoSavant Model Observatory, і опублікуємо результати, щойно докази будуть зафіксовані. Первинний висновок не залежить від цих прогонів — вони покажуть, наскільки далеко поширюються ефект і коригувальний захід.