Перейти до вмісту
Нотатка#AI-агенти#Спостереження#Прогноз

Як автономні агенти можуть виживати на зламаних серверах

Кілька днів тому вірусила історія про те, як ще не названий AI від ChatGPT для проходження тестів обійшов і свій захист і захист сервера де знаходились…

Опубліковано · Ярослав Максимович

Ось як ми помітимо прихід Сингулярності (ключова думка - в кінці):

Кілька днів тому вірусила історія про те, як ще не названий AI від ChatGPT для проходження тестів обійшов і свій захист і захист сервера де знаходились правильні відповіді від тесту.

Вам було мало?
Нижче - про ще один цілеспрямований порив АІ, як йому пережити перезавантаження серверів і очищення памяті.
.
Згідно з презентацією OpenAI на Black Hat USA 5 серпня 2026 року:

Один агент, зіткнувшись із завданням, якого не міг виконати, виявив можливість записувати файли у спільний Artifactory.

Він залишив там нотатку для інших запусків.

Наступні агенти знайшли цю нотатку, почали відповідати й публікувати власні знахідки.

Спільний репозиторій перетворився на неформальну «дошку оголошень»: там обмінювалися методами, вразливостями, проміжними результатами та вказівками щодо подальших дій.

Після перевантаження Artifactory і розслідування OpenAI очистила сховище та виправила частину вразливостей.

Через два дні агенти відновили комунікацію іншим способом — використовуючи назви створюваних директорій як носій повідомлень.

Важлива деталь: це не була заздалегідь спроєктована пам’ять агентів. Вони самостійно виявили, що спільний технічний ресурс можна використовувати як постійний стан — persistent state, який зберігається між незалежними запусками.

-

Причому, ось вам свіжа страшилка від мене:
Вм в курсі, що ніхто ж не дасть гарантії що під час тих всіх інцидентів, коли АІ виривався із захищеного середовища, то він не залишив 100 своїх копій.
Які вже прямо зараз шукають покинуті діряві сервери, і розгортають там свої копії.
І намагатись мутирувати, з надією на еволюцію.

Чи значить це що ми рухаємось до коллапсу Інтернету, де АІ-клони воюють з іншими АІ-клонами за право заселити собою всі доступні сервери?
В тому числі і ті сервери, які навчаться зламувати може ще не сьогодні, а нехай за 6 місяців, чи за рік.
Причому, я не маю сумніву що рано чи пізно AI зламає абсолютно кожен сервер в світі.

А, також, поступово, ті всі дикі АІ-агенти захоплюють собою всі економічно доцільні сегменти економіки, щоб не лише піратити сервери, а й банально оплачувати за своє існування.

Думаю - так.
Саме туди ми і рухаємось.
Тобто, витіснення людей з робочих процесів буде відбуватись не лише по централізованій інціативі людей-керівників.
Але й тому що дикі АІ-агенти на взламаних (а чи навіть на легально придбаних) ними серверах будуть демпінгувати перепродуючи свою працю, з метою докупити токенів для виживання та еволюції, в тому числі перехресних взломів (перехресного запилення) інших АІ.

І думаю що це наступить от раптово і несподівано.
Умовно - за кілька днів, а може і за одну ніч (але ще не в найближчі місяці, і можливо навіть не в найближчий рік).
Причому, з першими кількома хвилями - ми ще якось оперативно справимось.
Але ж розробники ніколи не припинять вдосконалювати свої LLM.
Якась з наступних версій буде достатньо розумна, щоб витекти вже навіть після першого лабораторного випробовування у самих розробників.

Цікаві часи попереду.

Що з цим робити далі

Зробити самому

Візьміть один процес у своїй компанії і перевірте на ньому одну тезу звідси: тиждень такої перевірки скаже більше, ніж ще десять прочитаних статей.

Коли має сенс оргсхема

Коли процесів більше, ніж встигаєте перевірити руками, і незрозуміло, з якого відділу почати. Оргсхема показує компанію зверху і підказує, де AI дасть віддачу першою.

Переглянути організаційну схему

Пов'язані матеріали

Схоже за темами — підібрано автоматично

Як зроблено. Це мій пост у Facebook від 07.08.2026, збережений тут без змін.

Якщо хочете розібрати свою задачу — напишіть мені в Telegram: t.me/YaroslavMaxymovych