Як автономні агенти можуть виживати на зламаних серверах
Кілька днів тому вірусила історія про те, як ще не названий AI від ChatGPT для проходження тестів обійшов і свій захист і захист сервера де знаходились…
Опубліковано · Ярослав Максимович
Ось як ми помітимо прихід Сингулярності (ключова думка - в кінці):
Кілька днів тому вірусила історія про те, як ще не названий AI від ChatGPT для проходження тестів обійшов і свій захист і захист сервера де знаходились правильні відповіді від тесту.
Вам було мало?
Нижче - про ще один цілеспрямований порив АІ, як йому пережити перезавантаження серверів і очищення памяті.
.
Згідно з презентацією OpenAI на Black Hat USA 5 серпня 2026 року:
Один агент, зіткнувшись із завданням, якого не міг виконати, виявив можливість записувати файли у спільний Artifactory.
Він залишив там нотатку для інших запусків.
Наступні агенти знайшли цю нотатку, почали відповідати й публікувати власні знахідки.
Спільний репозиторій перетворився на неформальну «дошку оголошень»: там обмінювалися методами, вразливостями, проміжними результатами та вказівками щодо подальших дій.
Після перевантаження Artifactory і розслідування OpenAI очистила сховище та виправила частину вразливостей.
Через два дні агенти відновили комунікацію іншим способом — використовуючи назви створюваних директорій як носій повідомлень.
Важлива деталь: це не була заздалегідь спроєктована пам’ять агентів. Вони самостійно виявили, що спільний технічний ресурс можна використовувати як постійний стан — persistent state, який зберігається між незалежними запусками.
-
Причому, ось вам свіжа страшилка від мене:
Вм в курсі, що ніхто ж не дасть гарантії що під час тих всіх інцидентів, коли АІ виривався із захищеного середовища, то він не залишив 100 своїх копій.
Які вже прямо зараз шукають покинуті діряві сервери, і розгортають там свої копії.
І намагатись мутирувати, з надією на еволюцію.
Чи значить це що ми рухаємось до коллапсу Інтернету, де АІ-клони воюють з іншими АІ-клонами за право заселити собою всі доступні сервери?
В тому числі і ті сервери, які навчаться зламувати може ще не сьогодні, а нехай за 6 місяців, чи за рік.
Причому, я не маю сумніву що рано чи пізно AI зламає абсолютно кожен сервер в світі.
А, також, поступово, ті всі дикі АІ-агенти захоплюють собою всі економічно доцільні сегменти економіки, щоб не лише піратити сервери, а й банально оплачувати за своє існування.
Думаю - так.
Саме туди ми і рухаємось.
Тобто, витіснення людей з робочих процесів буде відбуватись не лише по централізованій інціативі людей-керівників.
Але й тому що дикі АІ-агенти на взламаних (а чи навіть на легально придбаних) ними серверах будуть демпінгувати перепродуючи свою працю, з метою докупити токенів для виживання та еволюції, в тому числі перехресних взломів (перехресного запилення) інших АІ.
І думаю що це наступить от раптово і несподівано.
Умовно - за кілька днів, а може і за одну ніч (але ще не в найближчі місяці, і можливо навіть не в найближчий рік).
Причому, з першими кількома хвилями - ми ще якось оперативно справимось.
Але ж розробники ніколи не припинять вдосконалювати свої LLM.
Якась з наступних версій буде достатньо розумна, щоб витекти вже навіть після першого лабораторного випробовування у самих розробників.
Цікаві часи попереду.
Що з цим робити далі
Зробити самому
Візьміть один процес у своїй компанії і перевірте на ньому одну тезу звідси: тиждень такої перевірки скаже більше, ніж ще десять прочитаних статей.
Коли має сенс оргсхема
Коли процесів більше, ніж встигаєте перевірити руками, і незрозуміло, з якого відділу почати. Оргсхема показує компанію зверху і підказує, де AI дасть віддачу першою.
Пов'язані матеріали
Схоже за темами — підібрано автоматично
- Нотатка
СТО в Spotify написав що від грудня не написав жодної стрічки коду руками.
- Есе
Не знаю чи хтось усвідомлює які чудеса відбуваються прямо зараз з відновленням цілістності людей.
Як зроблено. Це мій пост у Facebook від 07.08.2026, збережений тут без змін.
Якщо хочете розібрати свою задачу — напишіть мені в Telegram: t.me/YaroslavMaxymovych