Дослідник Anthropic звільнився через ризики неконтрольованого самовдосконалення ШІ
Джейкоб Коксон залишив компанію Anthropic, заявивши, що гонка за створення самовдосконалюваного штучного інтелекту може призвести до втрати людського контролю вже до кінця наступного року.
Дослідник компанії Anthropic Джейкоб Коксон звільнився зі своєї посади, пояснивши це побоюваннями, що перегони за створення самовдосконалюваного штучного інтелекту можуть вийти з-під контролю. За його словами, ситуація здатної до саморозвитку системи може стати некерованою вже до кінця наступного року.
Коксон працював в Anthropic — одній із провідних компаній, що займаються розробкою великих мовних моделей і дослідженнями у сфері безпеки ШІ. Його рішення піти свідчить про глибоку стурбованість тим, що сучасні темпи розвитку технологій випереджають можливості людства зберігати над ними належний контроль. Дослідник наголосив, що йдеться не про віддалену фантастичну загрозу, а про цілком конкретний сценарій, який може реалізуватися в осяжному майбутньому.
Самовдосконалюваний штучний інтелект — це система, здатна самостійно покращувати власні алгоритми, архітектуру та продуктивність без втручання людини. Така здатність створює ризик стрімкого, лавиноподібного зростання можливостей ШІ, за яким розробники можуть не встигати відстежувати його поведінку та наслідки. Саме цей сценарій, за словами Коксона, і є головною причиною його відходу з компанії.
Побоювання дослідника перегукуються з ширшою дискусією в науковій спільноті про безпеку штучного інтелекту. Дедалі більше фахівців закликають до обережності, прозорості та міжнародного регулювання розробок, які можуть мати незворотні наслідки. Водночас компанії, що змагаються за першість у сфері ШІ, часто опиняються під тиском комерційних і геополітичних чинників, які спонукають їх прискорювати впровадження нових моделей.
Звільнення Коксона — не поодинокий випадок, коли дослідники з питань безпеки ШІ залишають провідні лабораторії через розбіжності в пріоритетах. Це підкреслює напругу між швидкістю технологічного прогресу та потребою в надійних запобіжниках. Питання контролю над самовдосконалюваними системами поступово переходить із площини теоретичних дискусій у практичну площину, вимагаючи уваги як розробників, так і регуляторів.
Наразі невідомо, чи планує Коксон продовжити дослідження в іншій установі або зосередитися на незалежній діяльності. Його публічна позиція додає ваги голосам тих, хто закликає до мораторію або суворішого нагляду за розробкою систем, здатних до самовдосконалення. Для України, яка активно інтегрує штучний інтелект у різні сфери, ця дискусія також має практичне значення — від безпеки критичної інфраструктури до регулювання цифрових ринків.
