Block, США. Фінансові технології, Square, Cash App та Afterpay. Після реорганізації 2026 року актуальна чисельність співробітників не підтверджена у використаному джерелі.: Компанія: Block, США
Блок — американська фінтех-компанія (Square, Cash App, Afterpay), яка впроваджує систему безпеки на базі OpenAI Daybreak для автоматизації виявлення вразливостей, налаштування детекції та реагування на інциденти. Людина все ще перевіряє кожен результат, а команда безпеки зосереджується на стратегічних завданнях. У результаті тривалість деяких операцій скоротилася з тижнів на години, а аналітики отримали назад сотні годин роботи на квартал.
Контекст
- Компанія
- Block, США. Фінансові технології, Square, Cash App та Afterpay. Після реорганізації 2026 року актуальна чисельність співробітників не підтверджена у використаному джерелі.
- Країна
- США
Команда безпеки великої фінтех-компанії з великою кількістю телеметрії та алертів. Ручна перевірка помилкових спрацьовувань та відтворення змін у детекції займало тижні та рідко виконувалося через трудомісткість. Потрібно було прискорити реагування на вразливості та розвантажити аналітиків, щоб вони могли займатися стратегічною роботою.
Обмеження
Потрібна людська перевірка кожного результату перед впровадженням змін у коді; необхідно маршрутизувати завдання між різними моделями залежно від завдання; збереження контексту організації та попередніх рішень, якого немає у агентів; потреба в інтеграції з логами ідентичності та телеметрією безпеки.
Що зробили
Було побудовано безпеку на базі OpenAI Daybreak з власним безпечним оточенням (security harness), яке маршрутизує завдання до потрібної моделі, має точки перехоплення для людини та перевірку результатів агентами один одного. Людина залишається у циклі: підтверджує експлуатабельність вразливості, керує розгортанням змін у коді та перевіряє кожен результат. Для налаштування детекції пропоновану зміну відтворюють проти сімомісячної телеметрії за менше ніж годину. Система оцінюється проти внутрішніх бенчмарків та реальної ефективності, при потребі роботу перенаправляють на людський перегляд. Команда постійно навчається обирати різні моделі для різних завдань замість використання лише найновішої.
Що могло провалитись
Один рутинний алерт на ноутбуці спочатку виглядав як незначне порушення політики, але під час перегляду колегою модель знайшла великий набір проблем, що свідчить про ризик недооцінки окремих інцидентів без глибокого аналізу. Агенти технічно здатні, але не мають контексту організації та обґрунтування попередніх рішень, тому без людини неможливо приймати стратегічні рішення. У прикладі з червоною командою модель за два години побудула повний шлях атаки, що зазвичай займає кілька днів для людини, що показує швидкість, з якою можуть використовуватися вразливості, якщо контроль не працює.
Що з цього переноситься
Підхід працює, коли AI використовується як масштабований супутник для рутинних завдань безпеки, але людина залишається у циклі для перевірки, підтвердження експлуатабельності та розгортання змін; він не підходить, якщо очікується повна автономність без людського контексту та стратегічного нагляду.
Джерела
- 1openai.com ↗
openai.com