Пентагон розробляє ШІ-агентів для автономних кібератак
Кіберкомандування армії США працює над системою, яка дозволить ШІ-агентам самостійно проникати в мережі противника, знаходити цілі та знищувати їх. Експерти застерігають про ризик ураження нецільових систем.
Кіберкомандування армії США розробляє систему, яка дозволить штучному інтелекту самостійно проникати в комп’ютерні мережі противника, виявляти цілі та виводити їх з ладу. Про це стало відомо з матеріалу, присвяченого планам Пентагону. Військові прагнуть, щоб ШІ-агенти виконували такі завдання майже без участі людини.
За задумом, агент повинен не лише знаходити вразливості та цілі, а й після успішного зламу самостійно видаляти себе, щоб не залишати слідів. Це безпрецедентний рівень автономності для військових кібероперацій, який виводить питання контролю над ШІ на новий рівень.
Однак експерти з кібербезпеки висловлюють занепокоєння: автономні агенти можуть атакувати й ті системи, які не були визначені як цілі. Побоювання стосуються як помилок ідентифікації, так і непередбачуваної поведінки алгоритмів у складних мережевих середовищах.
Наразі не повідомляється, на якій стадії перебуває розробка та чи проводилися випробування системи. Відомо лише, що Кіберкомандування армії США є замовником ініціативи. Офіційні коментарі Пентагону щодо конкретних термінів чи бюджету проєкту відсутні.
Ця розробка є частиною ширшої тенденції до автоматизації військових кібероперацій. Провідні держави дедалі активніше інвестують у технології штучного інтелекту для оборонних і наступальних кіберзавдань, що загострює дискусію про міжнародні правила використання автономних систем.
Фахівці наголошують, що ключовим викликом залишається забезпечення підзвітності. Якщо агент діятиме без людини, визначити відповідальність за помилковий удар буде надзвичайно складно. Саме тому питання запобіжників і протоколів зупинки набуває критичного значення.
Подальші кроки Пентагону та реакція міжнародних партнерів на плани щодо автономних кіберагентів поки що не оприлюднені. Очікується, що дискусія про баланс між ефективністю та безпекою таких систем триватиме в міру просування розробки.
6
