Штучний інтелект може досягти рівня людського до 2030 року та "знищити людство", прогнозує Google

Штучний інтелект людського рівня (AI), який зазвичай називають Загальним штучним інтелектом (AGI), може з’явитися вже у 2030 році та "назавжди знищити людство", – йдеться у новому дослідницькому документі Google DeepMind.

"Враховуючи величезний потенційний вплив AGI, ми очікуємо, що він також може становити потенційний ризик серйозної шкоди", – наголошується в дослідженні, додаючи, що екзистенційні ризики, які "назавжди знищують людство", є яскравими прикладами серйозної шкоди.

"Питання того, чи є певна шкода серйозною, не належить до компетенції Google DeepMind. Це питання повинно вирішувати суспільство, що визначає свою колективну толерантність до ризику і розуміння шкоди."

В документі, співавтором якого є співзасновник DeepMind Шейн Легг, конкретно не вказується, як саме AGI може призвести до вимирання людства. Замість цього він зосереджується на превентивних заходах, які Google та інші компанії, що займаються штучним інтелектом, повинні вжити для зменшення загрози AGI.

У дослідженні ризики передового штучного інтелекту поділяються на чотири основні категорії: зловживання, розбіжність цілей, помилки та структурні ризики. У ньому також висвітлюється стратегія DeepMind щодо пом’якшення ризиків, яка зосереджена на запобіганні зловживанням, коли люди можуть використовувати штучний інтелект для завдання шкоди іншим.

Генеральний директор DeepMind попереджає

У лютому Деміс Хассабіс, генеральний директор DeepMind, заявив, що AGI, який буде таким же розумним або розумнішим за людей, почне з’являтися протягом наступних п’яти-десяти років. Він також виступив за створення схожої на ООН організації для нагляду за розвитком AGI.

"Я б виступав за свого роду CERN для AGI, і під цим я маю на увазі свого роду міжнародну дослідницьку співпрацю високого рівня на передових рубежах розвитку AGI, щоб спробувати зробити його якомога безпечнішим", – сказав пан Хассабіс.

"Вам також доведеться створити інститут, схожий на МАГАТЕ, для моніторингу небезпечних проєктів та їх регулювання. І, зрештою, потрібен буде наддержавний орган, до якого входили б багато країн, щоб визначати, як саме використовувати та впроваджувати ці системи. Це може бути щось на кшталт технічної ООН, організація, яка б виконувала таку роль." – додав він.

Що таке AGI?

AGI виводить штучний інтелект на новий рівень. У той час як AI є вузькоспеціалізованим, AGI має на меті володіти інтелектом, який можна застосовувати до широкого спектру завдань, подібно до людського інтелекту. По суті, AGI був би машиною зі здатністю розуміти, навчатися та застосовувати знання в різних галузях, подібно до людини.

Авторка: Дар’я Бровченко

Джерело