Block: Company: Block, United States
Компанія Block (Square, Cash App, Afterpay) впровадила систему безпеки на основі OpenAI Daybreak для автоматизації виявлення вразливостей, налаштування детекції та реагування на інциденти. Система дозволяє перевіряти зміни детекції проти сімом місяців телеметрії за менше ніж годину та формувати автоматизовані пропозиції заплаток за 18 хвилин. Річно команда повертає близько 600 годин аналітиків на квартал, які раніше витрачалися на фільтрацію хибнопозитивів, і виконує близько 1100 годин розслідувань на квартал.
Контекст
- Компанія
- Block
- Розмір
- Security employees recover approximately 600 analyst-hours per quarter
Команда безпеки великої компанії з фінансових та технологічних послуг стикалася з тим, що перевірка програмних помилок та обробка логів займала дні або тижні. Повторне звернення до сотень старих інцидентів для перевірки змін у детекції було настільки трудомістkim, що на практиці рідко відбувалося. Потрібно було прискорити реагування на вразливості та звільнити аналітиків від ручної триажі хибнопозитивів, щоб зосередитися на стратегічній роботі.
Обмеження
Потрібно було забезпечити людську перевірку кожного результату, зберегти контекст організації та попередніх рішень, а також постійно оцінювати системи на внутрішніх бенчмарках та реальній ефективності, перенаправляючи завдання на людський перегляд там, де це є відповідальним шляхом.
Що зробили
Команда побудула безпечний оточок на основі Daybreak, який маршрутизує завдання до відповідної моделі і містить крючки для переймання завдання людиною або перевірки агентами один одного. Людина все ще валідує кожен результат, керує процессу та розгортає зміни коду. Для налаштування детекції кожне розслідування зберігає сиру доказову базу запитів, що дозволяє відтворити пропоновану зміну проти сімом місяців виробничої телеметрії за менше ніж годину. Команда постійно оцінює системи та коригує підхід, включаючи маршрутизацію на людський перегляд.
Що могло провалитись
У одному випадку алерт на одному ноутбуці виглядав як незначне порушення політики, але під час перегляду колегами модель слідувала за індикатором, який випадково з'явився в доказах, приєднала його до логів ідентичності Block і виявила ширший набір проблем. Система вимагає людського шару перегляду, бо агенти технічно здатні, але не носять контексту організації та обґрунтування попередніх рішень.
Що з цього переноситься
AI працює як масштабований напарник для безпеки, коли людину залишають на валідації кожного результату, а рівень ризику для автономної роботи піднімають поступово лише після того, як судичність моделі доведена на практиці.
Джерела
- 1openai.com ↗
openai.com