Ендрю Нг назвав прогнози про вимирання людства через ШІ «науковою фантастикою»

В інтерв'ю Bloomberg TV Нг заявив ведучому Еду Ладлоу в програмі «Bloomberg Tech», що останні два тижні перебував у «вкрай здивованому» стані через черговий виток тривожних попереджень від дослідників і керівників ШІ-компаній. Він припустив, що ця хвиля піару піднялася з тих самих причин, що й раніше: індустрія вже посилювала катастрофічні сценарії частково для впливу на регулювання та отримання розголосу.

Нг, який свого часу навчав CEO Anthropic Даріо Амодеї та CEO OpenAI Сема Альтмана, визнає реальні ризики штучного інтелекту, зокрема пов'язані з кібербезпекою. Водночас він наполягає, що фокус на гіпотетичних сценаріях вимирання відволікає ресурси від практичної роботи над безпекою систем — тестування та вдосконалення захисних механізмів. Раніше, у грудні 2023 року на форумі Сенату США, він оцінював імовірність вимирання людства через ШІ приблизно в одну на десять мільйонів протягом наступного століття.

Поштовхом до нового витка дискусій стала заява колишнього дослідника Anthropic та OpenAI Джейкоба Коксона, який попередив, що ШІ-компанії «женуться до створення суперінтелекту» і можуть «убити всіх нас до кінця десятиліття». Після цього Амодеї та Альтман публічно закликали до посилення заходів безпеки та сповільнення темпів розробки передових моделей.

Скептично до алармістської риторики висловився й інвестор Стів Айсман, відомий передбаченням фінансової кризи 2008 року. В ефірі CNBC він заявив, що ШІ-компанії можуть мати комерційні мотиви за своїми попередженнями про безпеку: «Я вважаю все це нісенітницею. Ці компанії дуже нервують. Вони розуміють, що навколо їхнього бізнесу немає жодних захисних бар'єрів (moats), і намагаються сфабрикувати кризу, яка призведе до регулювання». На його думку, таке регулювання зрештою може лише посилити позиції найбільших гравців і закріпити їхню монополію. «Чесно кажучи, я вважаю всю цю історію про "Термінатора" маячнею», — додав Айсман.

Схожі позиції демонструють і інші представники індустрії. CEO Nvidia Дженсен Хуанг заявляє, що «безпека — це інженерна проблема, а не юридична», і компанії можуть рухатися швидко, зупиняючись лише тоді, коли системи справді небезпечні. CEO Meta Марк Цукерберг вважає, що конкуренція та юридична відповідальність самі створюють достатньо стимулів для безпечної розробки без скоординованого сповільнення галузі. Президент США Дональд Трамп назвав побоювання щодо ШІ «містифікацією» (hoax) і виступив проти заходів, які можуть загальмувати американську гонку ШІ проти Китаю.

Таким чином, дискусія про темпи розвитку штучного інтелекту цього тижня стала однією з центральних тем у технологічній індустрії. З одного боку — заклики частини дослідників і керівників лабораторій до обережності й сповільнення; з іншого — бізнес і політики, які наполягають, що надмірна обережність загальмує прогрес і послабить конкурентні позиції США. Позиція Нг вписується у другий табір: він не заперечує наявність реальних ризиків, але вважає, що акцент на гіпотетичних сценаріях вимирання відволікає від практичної роботи над безпекою систем, яка триває вже зараз.