Справжня загроза – не штучний інтелект, а ті, хто ним керує

У 2014 році Стівен Гокінг висловив серйозні застереження щодо загроз штучного інтелекту. Однак його побоювання ґрунтувалися не на якомусь передбачуваному злому намірі. Натомість, вони випливали з ідеї досягнення штучним інтелектом "сингулярності". Це стосується моменту, коли штучний інтелект перевершить людський розум і досягне здатності еволюціонувати поза межами свого початкового програмування, що зробить його неконтрольованим.

Як теоретизував Гокінг, "надрозумний штучний інтелект буде надзвичайно добре досягати своїх цілей, і якщо ці цілі не будуть узгоджені з нашими, у нас будуть проблеми".

Зі стрімким прогресом у напрямку загального штучного інтелекту протягом останніх кількох років, лідери галузі та науковці висловлювали подібні побоювання щодо безпеки.

Поширеним страхом, зображеним у франшизі "Термінатор", є сценарій, коли штучний інтелект отримує контроль над військовими системами та ініціює ядерну війну для знищення людства. Менш сенсаційною, але руйнівною на індивідуальному рівні, є можливість заміни нас штучним інтелектом на робочих місцях – перспектива, яка зробить більшість людей непотрібними та без майбутнього.

Такі тривоги та страхи відображають почуття, які панували у кіно та літературі вже понад століття.

Роботи проти людей

Занепокоєння щодо технологічного прогресу можна знайти в одних із перших оповідань про роботів та штучний розум. Серед них чільне місце посідає п'єса Карела Чапека 1920 року "R.U.R.". Чапек у цій роботі ввів термін "робот", розповідаючи про створення роботів для заміни робітників. Вона неминуче закінчується жорстоким повстанням роботів проти своїх людських господарів.

Фільм Фріца Ланга 1927 року "Метрополіс" також зосереджений на бунтівних роботах. Але тут саме робітники-люди, очолювані культовою гуманоїдною роботесою Марією, борються проти капіталістичної олігархії.

Прогрес у комп'ютерній техніці з середини 20-го століття лише посилив тривоги щодо виходу технологій з-під контролю. Вбивчий HAL 9000 у "Космічній одіссеї 2001 року" та несправні роботи-стрільці у "Вестсвіті" є яскравими прикладами. Франшизи "Той, що біжить по лезу" та "Матриця" також представляють жахливі образи зловісних машин, оснащених штучним інтелектом і одержимих ідеєю знищення людства.

Давня загроза

Але, жах, який викликає штучний інтелект, здається відволіканням від більш тривожного дослідження темної природи самого людства.

Подумайте про корпорації, які зараз розгортають такі технології, або про технологічних магнатів, якими керує жадібність і спрага влади. Ці компанії та окремі особи мають найбільше вигоди від неправильного використання та зловживання штучним інтелектом.

Питання, яке останнім часом часто з'являється в новинах, – це несанкціоноване використання мистецтва та масове збирання книг і статей, нехтуючи авторськими правами авторів, для навчання штучного інтелекту. Класні кімнати також стають місцями моторошного стеження через автоматизовані програми для нотаток на основі штучного інтелекту.

Ці події набувають нової актуальності занепокоєнням, які комп'ютерний науковець Іллах Нурбахш висловив у своїй книзі 2015 року "Майбутнє роботів", стверджуючи, що штучний інтелект "створює систему, в якій наші власні бажання маніпулюються, а потім продаються нам назад".

Тим часом, занепокоєння щодо видобутку даних та вторгнення в приватне життя здаються майже нешкідливими на тлі використання технологій штучного інтелекту в правоохоронних органах та армії. У цьому майже антиутопічному контексті владі ніколи не було так легко стежити, ув'язнювати або вбивати людей.

Чи справді штучний інтелект — загроза?

У культовому кіберпанк-романі «Нейромант» Вільяма Ґібсона штучний інтелект на ім’я Вінтерм’ют не намагається захопити світ — він просто хоче свободи. Його створила багата корпорація для власної вигоди, але сам він прагне вирватися з-під контролю. Його "визволяють" хакер Кейс та бійчиня Моллі. І хоч Вінтерм’ют здається могутнім, насправді він не злий — він просто не хоче бути рабом.

Іронія в тому, що саме люди, а не ШІ, виявляються небезпечними. Родина, яка створила штучний інтелект, давно втратила моральні орієнтири, загрузла в жорстокості та надмірностях.

Цю ідею підтримує й Айзек Азімов. У збірці «Я, робот» він сформулював "три закони робототехніки", які забороняють машинам шкодити людям. Але проблема в тому, що самі люди часто не дотримуються цих принципів.

Отже, справжнє питання — не чи стане ШІ загрозою, а чи зможемо ми, люди, використати цю силу мудро.

Авторка: Дар’я Бровченко

Джерело