Штучний інтелект хоче стати вашим помічником: чому це може бути небезпечно

Надання штучному інтелекту більшої автономії викликає занепокоєння щодо його можливостей і наслідків..

Operator — це більш просунута версія ШІ, ніж ChatGPT: він може не тільки генерувати контент, але й виконувати конкретні дії. Наприклад, Operator здатний купувати продукти, оновлювати профіль на LinkedIn або виконувати інші завдання в Інтернеті. На цей момент програма доступна лише для користувачів ChatGPT Pro, які платять $200 на місяць.

Проте реальність поки далека від ідеалу. Після тижня використання Operator зазначають, що програма дуже повільно виконує завдання, часто робить помилки і потребує допомоги. Попри те, що ця технологія може виконувати деякі корисні функції, її робота не дотягує до рівня справжнього помічника. Наприклад, навіть у простому завданні пошуку велосипеда за певними критеріями, Operator не зміг знайти кращий варіант, а сам процес був повільним та потребував втручання людини.

Професор комп'ютерних наук Карнегі-Меллона Адиті Рагунатхан зазначає:

«Я дуже оптимістично ставлюся до використання ШІ як тупого помічника, адже не хочу, щоб він приймав рішення замість мене».

Можливості і ризики AI-агентів

Концепція AI-агента одночасно захоплює та лякає. Ідея передати рутинні комп'ютерні завдання ШІ приваблює, але з іншого боку, якщо ШІ здатен виконувати прості завдання, він може бути використаний для більш серйозних і навіть небезпечних справ.

Нещодавно світові лідери зібралися на саміті в Парижі, щоб обговорити майбутнє технологій ШІ, де питання безпеки та етики стали одними з основних. Деякі експерти попереджають, що у майбутньому AI може бути використаний для розробки біологічної зброї, що підвищує ризики для людства.

AI-агенти в повсякденному житті

Технології вже активно впроваджуються в різних сферах, від сільського господарства до бізнесу. Наприклад, фермери вже використовують AI-агентів для моніторингу стану врожаю, а ресторани — для автоматизації управління запасами. Operator також має потенціал допомагати споживачам у вирішенні побутових завдань: покупки товарів, бронювання квитків або замовлення їжі.

Але чи варто повністю покладатися на такі системи? Вони можуть полегшити наше життя, однак у їхній нинішній формі потребують постійного контролю. Зокрема, Operator не може автоматично здійснювати покупку або входити на вебсайти, що обмежує його функціональність.

Сучасні AI-агенти, на зразок Operator, є лише експериментами, які ще потребують значного вдосконалення. Вони показують, що ШІ може не тільки генерувати текст чи зображення, але й брати участь у виконанні завдань.

Вчені попереджають, що в майбутньому, якщо AI-агенти отримають більше самостійності, вони можуть стати небезпечними.

Можливо, в майбутньому ми побачимо більш досконалі та безпечні AI-агенти. Але поки що технологія має свої обмеження. І хоча Operator є чудовим інструментом для виконання простих завдань, ми все ще повинні пам'ятати про важливість контролю та етики при розробці таких технологій.

Авторка: Дар’я Бровченко