Наскільки ваша компанія AI-driven? Не те питання.

Спитайте команду керівників, наскільки їхня компанія AI-driven, — і отримаєте число від семи до дев'яти. Попросіть ту саму команду назвати останнє рішення, яке справді змінила відповідь AI, — і в кімнаті на мить стане тихо. Ця мить каже більше, ніж число.

Ця тиша — не лицемірство. Це звичайний розрив між тим, що організація каже, що вирішує і що робить: три окремі продукти, як сформулював шведський теоретик організацій Нільс Брунссон, і компанії під тиском треба тримати їх окремо. «Ми AI-driven» належить до першого продукту. Нас цікавлять два інші.

Чотири питання, які щось вимірюють

Забудьте шкалу від нуля до десяти. Спитайте це.

Де входить AI? Візьміть останнє рішення, у якому ви брали участь і де AI відіграв якусь роль. Він допоміг поставити питання — чи написав обґрунтування вибору, який уже був зроблений? Постановка питання стоїть вище за течією від рішення. Написання обґрунтування — нижче. Той самий інструмент, протилежний сенс. Наше очікування, опубліковане, щоб за нього можна було спитати: у більшості компаній чесна відповідь — нижче за течією.

Коли він з вами згоден, ви його перевіряєте? А тепер: коли суперечить? Якщо ці дві відповіді різні, ви знайшли найважливіший факт про AI у вашій компанії. Перевіряти незгоду ретельніше за згоду — по-людськи; мотивоване мислення задокументували за десятиліття до мовних моделей. Але інструмент, який аудитують лише тоді, коли він незручний, — це не інструмент. Це свідок, якого викликають, коли він потрібен.

Хто може сказати «я просто так бачу»? У кожній компанії комусь дозволено вирішувати без чисел, і за ним ідуть. Тільки засновнику, будь-якому топменеджеру, визнаним експертам, майже нікому. Ця відповідь — мапа влади, і вона передбачає долю AI-висновку краще за будь-яку метрику впровадження. Якщо AI можна перекрити відчуттям із правильного крісла, то AI дорадчий саме там, де це не має значення, і декоративний там, де має.

Де AI ухвалює остаточне рішення, і ніхто не дивиться? Ціноутворення, таргетинг, маршрутизація звернень, антифрод — відповіді зазвичай операційні, часті, оборотні. Стратегія, наймання, продуктові ставки — ніколи. Цей розподіл не випадковий. Компанії делегують там, де помилка дешева, і зберігають ритуал людського підпису там, де помилка дорога. Звідси незручне уточнення: у дорогих випадках людина судить AI — чи AI дає людині прикриття?

Костюм, який шиють просто зараз

У соціологів організацій є назва для структур, які запозичують, бо вони виглядають як те, що має серйозна компанія: раціоналізовані міфи. Total quality management був одним із них. «Data-driven» — наступним. Схема така: структуру беруть заради легітимності, тихо від'єднують від реальної роботи, і всі домовляються не розглядати шов.

AI приходить у момент, коли шов ховати найдешевше. Генеративна модель виробляє артефакти мислення — аналіз, підсумок, добре аргументовану записку — майже задарма. Вистава раціональності стає багатшою. Чи стає кращим рішення — окреме питання, яке вистава якраз і покликана не ставити.

Тож вимір, який варто робити, — не «скільки AI», а де, хто перевіряє, хто перекриває і на що списують. «Модель так порадила» вже з'являється в постмортемах як місце, куди йде зникати відповідальність.

Що ми з цим робимо

Перше дослідження Інституту реконструює реальні бізнес-рішення з обох боків — з людиною, яка ухвалила рішення, і з людиною, яка готувала докази, — і кодує саме ці чотири речі: етап, на якому увійшов AI; чи залежала перевірка від згоди; хто був звільнений від доказів; що сталося, коли відповідь суперечила перевазі. Ми беремо будь-яку компанію, готову взяти участь. І самі шукаємо ті, що публічно кажуть «AI-driven», бо вони — природний тест розриву між словами і діями.

Цифр у нас ще немає. У цьому і сенс дослідження. Що в нас є — чотирихвилинна діагностика, яка ставить вам питання вище про одне реальне рішення і повертає його вам як дзеркало, прикладене до патерну всіх, хто відповів до вас.

Institute for Human Reasoning — дослідницька й освітня організація про те, як люди мислять, оцінюють evidence і лишаються авторами важливих рішень у світі технологій.