"Батько ШІ”: Професор Хінтон попереджає про можливу загрозу для людства від штучного інтелекту в найближчі 30 років

Британсько-канадський вчений, якого називають "Батьком ШІ", зменшив ймовірність того, що штучний інтелект (ШІ) може знищити людство впродовж наступних 30 років, попереджаючи, що ця технологія може одного дня "взяти контроль". Професор Джеффрі Хінтон заявив, що ми повинні бути "дуже обережними" та "дуже обдуманими" щодо розвитку ШІ, який, за його словами, є "потенційно дуже небезпечним". Раніше він оцінював ймовірність того, що ця технологія призведе до зникнення людства, на рівні 10%, але тепер прогнозує, що ця ймовірність становить "10-20%", через швидкий розвиток ШІ.

У своєму інтерв'ю на радіо BBC Radio в програмі "Today", професор Хінтон сказав:

"Ми ніколи раніше не мали справи з чимось розумнішим за нас".

"І скільки ви знаєте прикладів, коли більш інтелектуальна сутність контролюється менш інтелектуальною? Таких прикладів дуже мало.Є приклад матері і дитини. Еволюція доклала багато зусиль, щоб дитина могла впливати на матір, але це, здається, єдиний приклад, який я знаю” 

Професор Хінтон, який цього року отримав Нобелівську премію з фізики, попередив, що розвиток ШІ відбувається "набагато швидше", ніж він очікував, і на це не вистачає часу для проведення необхідних досліджень. Хоча його робота заклала основи для машинного навчання -технології, що дозволяє комп'ютерам імітувати людський інтелект, його останні зусилля зосереджені на пропагуванні безпечного розвитку ШІ. Торік він зробив сенсаційну заяву, подавши у відставку з Google, заявивши, що "погані актори" можуть використати технологію на шкоду іншим. Розмірковуючи про те, куди, на його думку, має привести розвиток ШІ, він сказав:

"Я не думав, що ми будемо на цьому етапі зараз. Я думав, що коли-небудь в майбутньому ми досягнемо цього".

"Зараз більшість експертів вважає, що протягом наступних 20 років ми розробимо ШІ, що буде розумнішим за людей", - зазначив він. "Це дуже лячна думка".

Професор додав:

"Уявіть собі ситуацію, де ми будемо як трирічні діти, а ШІ - це дорослі".

Професор Хінтон вважає, що вплив ШІ на світ буде подібним до впливу промислової революції.

"Під час промислової революції людська сила втратила свою актуальність, оскільки машини були сильнішими, і якщо потрібно було викопати рів, це робили машини"

— пояснив він.

"Тепер ми маємо технології, що замінюють людський інтелект, і просто звичайний людський інтелект більше не буде на передовій. Це будуть машини".

Відповідаючи на запитання, яким він бачить життя через 10-20 років, Хінтон зазначив: "Це дуже залежатиме від того, що політичні системи зроблять з цією технологією".

"Моя тривога полягає в тому, що зараз ми перебуваємо в ситуації, коли нам потрібно дуже обережно і обдумано підходити до розвитку потенційно небезпечної технології", — сказав він.

"Це матиме багато чудових ефектів в охороні здоров'я, і майже в кожній галузі зробить речі більш ефективними, але ми повинні бути дуже обережними в розвитку цієї технології". "Ми потребуємо регулювання, щоб не дозволити людям використовувати її для поганих цілей, і наразі у нас немає таких політичних систем", — додав він. Професор Хінтон висловив побоювання, що ШІ може бути шкідливим для суспільства, якщо багато людей втратять роботу, а вся вигода дістанеться багатим людям.

"Якщо між багатими та бідними буде велика прірва, це дуже погано для суспільства",

— зазначив він.

"Ці системи розумніші за нас. Тому під час промислової революції машини не могли захопити контроль просто тому, що були сильнішими. Ми залишалися при владі, оскільки мали інтелект". "Зараз існує загроза, що ці системи можуть взяти контроль. Це велика різниця",

 — додав Хінтон. Професор Хінтон є одним із трьох провідних піонерів ШІ, поряд з Яном Лекуном та Йошуа Бенгіо, які отримали премію Тюрінга за свої досягнення в цій галузі.

Автор: Дар'я Бровченко