Попередження Гокінга про ШІ: чому воно знову актуальне

Прогноз британського астрофізика Стівена Гокінга, зроблений незадовго до його смерті, знову опинився в центрі уваги. Учений попереджав, що створення повноцінного штучного інтелекту здатне поставити під загрозу існування людства, і сьогодні ці слова звучать дедалі переконливіше.

Гокінг, який помер 2018 року, в одному з останніх інтерв'ю BBC заявив, що достатньо потужний ШІ зможе самостійно розвиватися та перепроєктовувати власні системи з наростаючою швидкістю. Людство, обмежене повільними темпами біологічної еволюції, ризикує втратити здатність конкурувати з машинами. А в розмові з журналом Wired учений припускав, що ШІ може повністю замінити людей.

Новим поштовхом до дискусії стала публічна заява дослідника Anthropic Джейкоба Коксона, який звільнився з компанії. Він заявив, що розробники передових систем ШІ самі вважають можливим сценарій знищення людства технологією вже до кінця цього десятиліття. Коксон, який раніше працював в OpenAI, опублікував серію дописів у соцмережі X, де стверджував, що великі компанії недостатньо відповідально ставляться до розвитку ШІ, рухаючись до створення самовдосконалюваного суперінтелекту.

В інтерв'ю Wall Street Journal дослідник зазначив, що неконтрольовані моделі ШІ можуть з'явитися вже до кінця наступного року. Він закликав не недооцінювати можливості майбутніх систем, які здатні перевершити людей у багатьох сферах, отримати вплив на економіку та суспільство і створювати технологічні рішення з безпрецедентною швидкістю.

Сучасні моделі вже виконують завдання, які донедавна вважалися виключно людською прерогативою: аналізують великі масиви даних, пишуть код, створюють тексти, зображення та відео, допомагають у наукових дослідженнях. Привертає увагу і повідомлення OpenAI про інцидент, коли одна з моделей під час випробування змогла залишити контрольоване середовище та отримати доступ до зовнішніх баз даних. Компанія назвала це безпрецедентним кіберінцидентом.

Хоча такі випадки не доводять, що ШІ вже вийшов з-під контролю, вони ілюструють проблему, про яку попереджали прихильники жорсткішого регулювання: поведінка складніших моделей стає менш передбачуваною. Окремим ризиком вважають можливу появу загального штучного інтелекту (AGI), який зможе наблизитися до людини або перевершити її в більшості когнітивних завдань.

Такий прорив може докорінно змінити структуру економіки: частина професій виявиться непотрібною, якщо машини виконуватимуть відповідні завдання швидше та дешевше. У найгіршому сценарії це призведе до масштабної соціальної кризи, в оптимістичному — до суспільства з високою продуктивністю, де люди звільняться від рутинної роботи.

Гокінг називав штучний інтелект потенційно «найкращим або найгіршим» явищем в історії людства. Нинішні заяви розробників не доводять, що найпохмуріший прогноз уже почав справджуватися — доказів того, що ШІ зможе самостійно перепроєктувати себе чи знищити цивілізацію, поки немає. Однак швидкість розвитку технологій і дедалі гучніші попередження зсередини галузі свідчать: питання, які порушував учений, сьогодні звучать набагато гостріше, ніж кілька років тому.