Human-review гейт 2-4 тижні, який потрібен будь-якому AI-агенту

Human-review гейт 2-4 тижні, який потрібен будь-якому AI-агенту

08.05.202613 переглядів7 хв читання

Коротко

  • Human-review гейт — фіксоване вікно, у якому кожна дія агента проходить через людину перед тим, як піти назовні.
  • 2-4 тижні — емпірично корисний діапазон; коротше — не побачите long-tail помилок, довше — рев'юер засинає.
  • Сенс не у "безпеці-театрі", а у калібруванні: ви міряєте, чи агент готовий, не лише чи він працює.

Подивившись, як десяток SMB-засновників переключали AI-агента з "draft mode" в "auto mode" зарано, висновок простий: будь-який вартий запуску агент заслуговує на 2-4-тижневий human-review гейт, а ті, хто його пропускають, опиняються в апологетичних листах.

Що таке human-review гейт?

Це період між "агент технічно працює" і "агент діє самостійно". У вікні гейту кожен output агента проходить approve / edit / reject іменованою людиною, і всі чотири результати логуються з причиною.

Definition: Human-review гейт — time-boxed вікно, де 100% outputs агента проходять через людину перед тим, як досягнути клієнтів, систем чи зовнішніх сторін.

У гейту три задачі: (1) ловити очевидні провали, (2) виявляти неочевидні (the "технічно спрацювало, але неправильно"), (3) генерувати дані для рішення, чи знімати гейт.

Чому саме 2-4 тижні?

Менше 2 тижнів — недостатньо варіацій. Більшість воркфлоу мають long tail edge-кейсів, що з'являються ~1 раз на 200-400 взаємодій: незвичний клієнт, malformed input, лист другою мовою, дивний п'ятничний сценарій. Потрібен обсяг.

Більше 4 тижнів — ламається дві речі:

  1. Увага рев'юера деградує. Edit rate падає не тому, що агент покращився, а тому що рев'юер штампує.
  2. Команда починає сприймати гейт як постійний стан, і вже ніколи його не знімає.

Хороший гейт vs поганий

Поганий: "Сара буде раз на день поглядати на outputs пару тижнів." Без метрик, без причин відхилення, без критеріїв виходу.

Хороший: Кожен output логується, рев'ю в межах X годин, мітка APPROVED / EDITED / REJECTED + код причини, написане правило, при якому edit-rate знімається гейт.

Гейт — це система вимірювання, не зміна "приглядання".

Шаблон визначення гейту

Agent: [назва + воркфлоу]
Gate window: [старт - кінець, 14-28 днів]
Reviewer: [іменована людина + бекап]
Review SLA: [output рев'юється у межах X годин]
Outcome codes: APPROVED / EDITED-MINOR / EDITED-MAJOR / REJECTED
Rejection categories: [factual / tone / scope / hallucinated tool / other]
Exit criteria:
  - Edit-rate (major) < X% за останні 7 днів
  - 0 REJECTED останні 7 днів у [критичній категорії]
  - Рев'юер підписує письмово
Failure criteria (продовжує гейт +14 днів):
  - Edit-rate росте
  - Будь-який rejected з впливом на клієнта
  - Рев'юер заявляє падіння довіри

Якщо команда не може це заповнити — агент не готовий ні до гейту, ні до прода.

Tool tip (AIAdvisoryBoard.me): Гейт працює тільки якщо ви насправді знаєте, як виглядає воркфлоу до того, як агент туди заходить. Запустіть 7-денний Plan → Fact → Gap по воркфлоу спершу: Plan — що команда думає, агент має робити; Fact — реальний обсяг та exception-rate; Gap — те, чим агент дійсно володітиме. Без Fact'у "exit criteria" — здогадки; з ним 2-4-тижневий гейт стає калібруванням відомої цілі. Як працює діагностика — https://aiadvisoryboard.me/?lang=en.

Що насправді міряти у гейті?

П'ять чисел, щотижня:

  1. Volume: скільки outputs пройшло чергу.
  2. Approval rate: % approved без правок.
  3. Major-edit rate: % з суттєвими правками щоб бути safe-to-send.
  4. Rejection rate: % повністю відхилених, по категорії.
  5. Reviewer time: хвилин на айтем, тренд.

Перший небезпечний сигнал — не високий rejection. Це високий major-edit rate, який команда трактує як approval — AI Tax замаскований.

Де SMB зазвичай провалюють гейт

Три патерни, що стабільно повторюються:

  1. Немає бекап-рев'юера. Сара у відпустці, черга росте, гейт "неформально" знімається.
  2. Approval-only роутинг. Агент бачить лише легкі кейси (важкі команда відфільтровує руками), edit-rate красивий і брехливий.
  3. Немає письмових exit-критеріїв. Гейт закінчується "бо так у календарі", а не за метриками. Саме так і вийшло у відомому walk-back Klarna — агент отримав автономію раніше, ніж його ескалація стала безпечною.

Кейс 2025 року, вартий уваги: Klarna відмовилась від повністю автономного AI-агента в customer-service після падіння CSAT і частково повернула людей. Урок не "AI-агенти не працюють". Урок — зняти гейт зарано дорого і важче відкатати, ніж попередити.

Як це поєднується з ескалацією?

Дослідницький факт варто пам'ятати: Stanford-дослідження по 51 деплою показало, що escalation-routing дає ~71% приросту продуктивності проти ~30% у approval-routing. Простіше: агенти, які знають коли передати людині, суттєво обходять агентів, що намагаються все робити самі і питати схвалення постфактум. Human-review гейт — спосіб дізнатись, чи логіка ескалації реально працює, до того як ви довірите агенту прод.

Manager scan (2-minute digest example)

  • Plan: "Будемо рев'ювати outputs 2 тижні і ввімкнемо auto."
  • Fact: Тиждень 1: 380 айтемів, edit-rate (major) 22%, 4 reject — всі у тому ж edge-кейсі (мульти-тред email з аттачами).
  • Gap: Auto на 3-му тижні небезпечний. Або фіксити мульти-тред роутинг, або +14 днів гейту. Не обидва наполовину.
  • Plan: "Анна буде рев'юером."
  • Fact: Анна також веде закриття Q2. Рев'ює айтеми у середньому з 18-годинною затримкою.
  • Gap: SLA зламано; або бекап-рев'юер, або менший scope агента. Зараз гейт театральний.
  • Plan: "Edit-rate <10% — знімаємо гейт."
  • Fact: Edit-rate 8%, але "edits" — тихе переписування тону, рев'юер робить роботу, не агент.
  • Gap: Додати tone-check rejection категорію і переміряти. Метрика брехала.

Tool tip #2 — коли продовжувати, коли знімати

Tool tip (AIAdvisoryBoard.me): Рішення зняти гейт — Plan → Fact → Gap call, а не календарне. Plan — exit criteria, що ви написали день 1. Fact — останні 7 днів метрик, включно з часом рев'юера, не лише edit-rate. Gap — те, що дані кажуть про worst-case поведінку агента, не про середню. Якщо worst case — "minor tone edit", знімайте. Якщо worst case — "не те число пішло клієнту", продовжуйте, без сорому. Команди, що будують міцних агентів — ті, що знімають гейт за доказами, а не за дедлайном. Daily-management OS — https://aiadvisoryboard.me/?lang=en.

Micro-case (що змінюється за 7-14 днів)

Логістика на 140 людей ставить inbound-quote агента на 21-денний human-review гейт. Дні 1-7: 410 айтемів, edit-rate (major) 28%, дві чисті категорії reject — pricing edge cases і польськомовний тред, з яким агент не впорався. Дні 8-14: фікси промпта і роутингу опускають edit-rate до 14%, час рев'юера на айтем з 90 до 45 секунд. Дні 15-21: edit-rate стабільний 11%, рев'юер підписує, агент іде в auto на рутинний зріз з обов'язковою ескалацією на польську та на quote >€10K. Висновок власника: гейт не сповільнив — він підказав, які саме 9% воркфлоу досі потребують людей, замість здогадок.

Note on this case: This example is illustrative — based on typical patterns we observe with companies of 30-500 employees, not a single named client. Specific numbers are rounded approximations of common ranges, not guarantees.

FAQ

1 тиждень гейту достатньо? Майже ніколи. Бачите типові кейси, але не long tail. Якщо воркфлоу справді простий (наприклад, внутрішнє тегування), 1 тиждень з жорстким чек-листом працює. Клієнт-facing — ні.

Хто має бути рев'юером? Той, хто вже робить ту роботу, що робить агент — не менеджер, що пробігається. Менеджерський перегляд — другий шар; первинний — у руках доменника.

Що якщо команда замала на 2-4 тижні? Тоді scope агента завеликий. Половиньте. Тримайте гейт на меншому зрізі, який одна людина рев'ює без вигорання.

Чи треба гейт після першого агента? Так — кожен новий агент має власний гейт, навіть якщо ви випустили вже трьох. Довіра переноситься між людьми, не між воркфлоу.

Як це поєднується з регуляцією EU AI Act? EU AI Act передбачає штрафи до €35M або 7% глобального обороту за серйозні порушення, а багато з них — про відсутність human-oversight. Документований гейт — добрий доказ governance. Запишіть.

Що зробити цього тижня

Оберіть AI-агента, до запуску якого найближче. Напишіть визначення гейту (шаблон вище — 30 хвилин). Заблокуйте календар рев'юера. Поставте exit-критерії числами, не прикметниками. 2-4 тижні гейту — найдешевша страховка, яку ви купите цього року.

Якщо хочете систему, що автоматично щодня показує Plan → Fact → Gap по компанії — подивіться, як працює 7-денна діагностика: https://aiadvisoryboard.me/?lang=en

Часті питання

AI-рішення

Готові трансформувати робочий процес команди?

AI Advisory Board допомагає командам автоматизувати щоденні стендапи, запобігати вигоранню та приймати рішення на основі даних. Приєднуйтесь до сотень команд, які вже економлять 2+ години на тиждень.

Економія 2+ годин на тиждень
Покращення морального стану команди
Аналітика на основі даних
Newsletter

Отримуйте щотижневі поради з управління командою

Приєднуйтесь до 2,000+ лідерів, які отримують наші найкращі поради щодо продуктивності та запобігання вигоранню.

Без спаму. Відписатися можна будь-коли.