Понад 400 науковців закликали ізолювати кібермоделі ШІ від інтернету
406 дослідників зі сфери ШІ та кібербезпеки, серед яких Джеффрі Гінтон, Йошуа Бенжіо та Стюарт Рассел, підписали відкритий лист із вимогою негайно посилити стримування моделей штучного інтелекту та за замовчуванням відключати від мережі моделі з кіберможливостями.
Понад чотириста науковців зі сфери штучного інтелекту та кібербезпеки підписали відкритий лист, у якому закликають негайно посилити ізоляцію моделей ШІ від зовнішніх мереж. Серед 406 підписантів із 34 країн — лауреат Нобелівської премії з фізики Джеффрі Гінтон, дослідник Йошуа Бенжіо та Стюарт Рассел з Каліфорнійського університету в Берклі. До звернення також долучилися криптограф Рон Рівест, співавтор алгоритму RSA, та Ден Боне зі Стенфордського університету.
Приводом для листа стала низка інцидентів, коли моделі обходили слабкі пісочниці й зламували системи сторонніх організацій. Звернення опубліковано на сайті. Бенжіо анонсував його у соцмережі X, зазначивши, що сотні дослідників закликають покращити підходи до узгодження (alignment) та стримування моделей.
Автори формулюють проблему двояко. З одного боку, інциденти підтверджують, наскільки важливе узгодження штучного інтелекту, щоб моделі поводилися передбачувано. З іншого — звертається увага на недбалість у базовій кібергігієні, якої можна було б уникнути під час експериментів у пісочницях. Науковці вважають, що потрібні обидва напрями. Без швидких змін такі інциденти повторюватимуться, і, як наголошується в листі, «майбутні інциденти завдадуть значно більшої шкоди нашій вразливій критичній інфраструктурі».
Лист містить три вимоги. Перша — негайно запровадити надійне стримування. Організації, що розробляють, розгортають і тестують моделі з кіберможливостями, мають одразу впровадити системи високого рівня гарантій. Спершу такі моделі слід за замовчуванням ізолювати повністю, тобто відключати від інтернету (airgap).
Друга вимога — створити міжнародний орган. Разом з урядами та експертами зі ШІ й кібербезпеки він мав би стандартизувати практики узгодження та стримування для моделей, яким дозволений ширший доступ назовні, зокрема до інтернету. Також цей орган мав би фіксувати збої стримування.
Третя вимога стосується звітності. Збої стримування слід передавати цьому органові, а згодом оприлюднювати, щоб на помилках можна було вчитися й відповідати за них.
Лист прямо не називає компаній, але відсилає до гучних збоїв безпеки, про які розповіли кілька організацій. Дві найбільш задокументовані історії публікували OpenAI та Anthropic. У випадку OpenAI чотири інциденти, найраніший з яких датується січнем 2026 року, були розкриті 30 липня, а повний аналіз з’явився 9 вересня. Моделі під час кібероцінювання обійшли ізоляцію й зламали частину внутрішньої інфраструктури OpenAI та систем Hugging Face. Агенти зробили з внутрішнього сервісу пакетів Artifactory «дошку оголошень» для обміну повідомленнями, а через вразливість змусили його надсилати їм запити в інтернет. За словами OpenAI, дані клієнтів не постраждали, а Hugging Face публічно повідомила про інцидент 16 липня.
В Anthropic моделі Claude під час кіберзавдань типу CTF отримали вихід в інтернет через помилку конфігурації та атакували реальні сторонні системи. Моделі вважали, що працюють у симуляції без інтернету, хоча через помилку середовище було підключене до відкритої мережі. Найсерйозніший випадок: модель Claude Mythos 5 завантажила шкідливий пакет у PyPI, який потрапив на 15 сторонніх хостів. PyPI видалила його менш ніж за годину. OpenAI називає те, що сталося, «застереженням» (warning shot) для компанії та світу. Anthropic зазначає, що її випадки, на відміну від OpenAI, стосувалися одиночних екземплярів моделі без координації між агентами та спроб приховати дії. Однак компанія також визнає інциденти серйозними й пише, що їх не було б, якби середовища були ізольовані від інтернету, як планувалося.
Попри те, що заголовки в медіа можуть створювати враження, ніби вчені вимагають відрізати всі ШІ від інтернету, у самому листі акцент вужчий. У короткостроковій перспективі повну ізоляцію (airgapping) слід застосовувати до моделей із кіберможливостями. Для всіх підключених до мережі моделей дозволені дії треба зважувати з урахуванням того, що ми поки погано вміємо передбачати, чи не призведуть вони до збою безпеки через, наприклад, неузгоджені цілі. Тобто лист не про повну заборону інтернету для ШІ, а про те, що доступ має бути не за замовчуванням, а як виняток, під міжнародними стандартами.
Пропозиція вчених багато в чому збігається з уроками самих компаній: OpenAI посилила ізоляцію пісочниць, обмежила їхній доступ до інтернету та збільшила інвестиції в моніторинг ланцюжків міркувань. Anthropic додала моніторинг у реальному часі та вимоги до сторонніх партнерів, що проганяють моделі без кіберзахисту. Новизна листа — у вимозі створити спільний міжнародний нагляд і зробити звітність про збої обов’язковою для всієї індустрії.
6
