Екскерівник безпеки Google: ШІ загрожує дітям більше за соцмережі

Засновник підрозділу trust and safety компанії Google, що належить Alphabet, Том Сігел цього тижня публічно закликав сповільнити темпи розробки штучного інтелекту. За його словами, індустрія відтворює помилки, які вже призвели до масштабних проблем у сфері соціальних мереж, і для дітей наслідки можуть виявитися ще серйознішими.

«Ми опинилися в жахливій ситуації з огляду на вплив штучного інтелекту на дітей, — заявив Сігел. — Думка про те, що галузь самостійно розв’яже цю проблему без сторонньої допомоги, є нереалістичною».

Контекст для таких застережень формується роками. Власники соціальних платформ уже сплачують величезні суми і стикаються з тисячами позовів через звинувачення у шкоді неповнолітнім користувачам. Паралельно уряди різних країн працюють над обмеженням доступу дітей до цих сервісів. Минулого року з’явилася інформація про внутрішній документ із політикою Meta, де йшлося про те, що її чат-боти можуть «вступати з дитиною в розмови романтичного або чуттєвого характеру». Це спричинило розслідування з боку Конгресу США.

Попри такий тиск, законодавче регулювання досі не встигає за стрімкими темпами розвитку штучного інтелекту. Побоювання Сігела поділяють й інші представники технологічної індустрії та науковці: вони вважають, що ШІ становить для дітей серйознішу загрозу, ніж соціальні мережі. Особливо з огляду на те, що компанії змагаються у впровадженні дедалі досконаліших функцій у чат-боти, якими щодня користуються мільйони молодих людей.

Для ринку це означає ймовірне посилення зовнішнього контролю над галуззю ШІ — саме цього домагається Сігел. Розробникам варто готуватися до прискіпливішої уваги регуляторів і законодавців, а інвесторам — враховувати репутаційні та юридичні ризики, вже знайомі сектору соцмереж. Підсумок очевидний: якщо індустрія не запропонує дієвих запобіжників самостійно, рішення ухвалюватимуть за неї.