Оксфордські дослідники порівняли сучасний штучний інтелект зі здичавілими козами
Дослідники Оксфордського університету пропонують розглядати складні цифрові системи як здичавілі, а не як катастрофічну загрозу, і закликають до уважнішого нагляду.
Оксфордські дослідники пропонують описувати сучасні системи штучного інтелекту терміном «здичавіння». Так називають складні системи, які спочатку були повністю прирученими, але згодом вийшли з-під людського контролю. Науковці наголошують, що такі процеси не слід плутати з апокаліптичними сценаріями, які останнім часом активно обговорюють у галузі.
Порівняння має давню історію. Учені пояснюють його на прикладі звичайних домашніх кіз, які після потрапляння на ізольовані острови швидко дичавіли і повністю знищували місцеву рослинність. Саме так, за їхньою логікою, може поводитися будь-яка система, що дуже складно передбачити. Проблема полягає в тому, що спроби жорсткіше контролювати глибоко невизначені системи часто лише посилюють приховані ризики, адже стабілізація таких процесів є радше випадковою, ніж автоматичною.
Щоб показати, як нові технології змінюють суспільство, дослідники звертаються до історії. Винахід друкарського верстата Йоганном Гутенбергом у середині п’ятнадцятого століття first задумувався як спосіб швидше створювати дорогі рукописні книги латинською мовою. Згодом друк перетворився на інструмент масового поширення дешевих памфлетів, що дозволило Мартіну Лютеру ефективно розповсюджувати свої тези. Це спричинило масштабні політичні заворушення та релігійні реформи, які тогочасна еліта не могла ані передбачити, ані зупинити. Переклад Біблії врешті був офіційно обмежений державними інституціями лише після багатьох десятиліть соціального хаосу.
Схожу динаміку, за словами дослідників, можна побачити і в 1840-х роках, коли з’явився електричний телеграф. Він розвивався паралельно з розширенням залізничних мереж і прокладанням мідних кабелів уздовж колій. За двадцять років телеграфні лінії перетнули Атлантичний океан, що прискорило розвиток міжнародного капіталізму та появу глобальних фінансових інструментів. Це призвело до циклів масштабних ринкових спекуляцій і регулярних економічних криз, показавши, як нова технологія може дестабілізувати систему, в яку інтегрується.
Нинішня ситуація, за оцінками автора підходу, має ще одну особливість: тиск на розробників і державні органи дуже сильний. Станом на 2026 рік над створенням штучного інтелекту працюють понад дванадцять корпорацій, ринкова вартість кожної з яких перевищує один трильйон доларів. Політичні заклики до тимчасового призупинення розробки нових потужних моделей зазвичай наштовхуються на аргументи про глобальну гонку технологій і конкуренцію з китайськими розробниками. Такий аргумент, за спостереженнями дослідників, використовують усі сторони, що ускладнює запровадження раціонального нагляду.
Окремо науковці звертають увагу на заяви керівників великих технологічних компаній про потенційну здатність їхніх продуктів знищити людську цивілізацію. Незалежні аналітики трактують такі заяви як спосіб привернути увагу і залучити капітал. Професор комп’ютерних наук Кал Ньюпорт наголошує, що подібна маркетингова стратегія лише заважає суспільству вчасно помітити реальну загрозу, якщо вона справді з’явиться. Водночас майбутнє технологій, на думку фахівців, не є лінійним: можливі й сценарії фінансового краху галузі через комерційну неспроможність передових моделей або масового спротиву будівництву великих дата-центрів.
Для управління такими системами оксфордські вчені пропонують підхід, який поєднує методики, що здаються нетиповими для техніки, зокрема елементи дзен і візуальної естетики. Їхня мета — допомогти фахівцям позбутися психологічної прив’язаності до застарілих моделей менеджменту. Такий підхід передбачає помічати несподівані патерни поведінки та фіксувати тривожні сигнали ще до того, як вони з’являться у формі стандартних метрик. Це дозволить державним інституціям заздалегідь розглядати складні сценарії, залучати незалежних спостерігачів до експериментів і зберігати можливість повністю скасувати будь-які внесені зміни.
Джерело: techtoday.in.ua
40



