Темний бік ШІ: Створення біологічної зброї та загроза безпеці

Колишній генеральний директор Google Ерик Шмідт висловив занепокоєння щодо можливості використання штучного інтелекту для створення біологічної зброї або в інших небезпечних сценаріях, подібних до ситуацій, пов’язаних з терористами.

Шмідт розповів BBC: "Мої справжні побоювання не такі, як у більшості людей, які обговорюють ШІ. Я говорю про екстремальні ризики".

Технічний мільярдер, який працював на високих посадах в Google з 2001 по 2017 роки, зазначив, що такі країни, як Північна Корея, Іран чи Росія, можуть використати цю технологію для створення біологічної зброї.

Він закликав до введення урядового контролю за приватними технологічними компаніями, які розробляють моделі штучного інтелекту, однак попередив, що надмірне регулювання може пригальмувати інновації.

Шмідт підтримав обмеження експорту потужних мікросхем, які живлять найсучасніші системи ШІ. Він погодився з рішенням президента США( на той час Джо Байдена ) обмежити експорт цих мікросхем до всього 18 країн, щоб уповільнити розвиток ШІ у потенційних суперників.

"Подумайте про Північну Корею, Іран або навіть Росію, у яких є злісні цілі", — сказав Шмідт.

"Ця технологія достатньо швидка для того, щоб її використали зловмисники, і завдали реальної шкоди", — пояснив він в інтерв'ю.

Шмідт також підкреслив, що в руках зловмисників, системи ШІ можуть бути використані для створення зброї, здатної здійснити "біологічну атаку з боку злих людей".

"Я завжди переживаю за сценарій 'Осами Бін Ладена', де якась зла людина, яка контролює частину нашого сучасного життя, використає це для шкоди невинним людям", — додав він.

Шмідт пропонує знайти баланс між урядовим контролем за розвитком ШІ та уникненням надмірного регулювання цієї сфери.

"ШІ і майбутнє в основному будуть створені приватними компаніями", — зазначив він.

"Важливо, щоб уряди розуміли, що ми робимо, і тримали нас під контролем."

Заборона смартфонів для дітей

Шмідт, який був головою Google під час придбання компанії Android, що зараз є найбільш поширеною мобільною операційною системою в світі, підтримує ініціативи щодо заборони використання смартфонів у школах.

"Я був одним із тих, хто не розумів, і я беру на себе відповідальність за те, що світ не працює ідеально так, як ми, технічні люди, думаємо", — сказав він.

"Ситуація з дітьми є особливо тривожною для мене", — додав Шмідт. Він вважає, що смартфони можуть бути безпечними для дітей, якщо їх правильно контролювати, але підкреслив, що всі повинні погодитися на те, що дітей слід захищати від негативу онлайн-світу.

Шмідт також підтримав пропозиції про заборону користування соціальними мережами для дітей молодше 16 років.

"Навіщо ми маємо проводити такий великий, неконтрольований експеримент з найважливішими людьми в світі — наступним поколінням?" — додав він.

Уряд Австралії в 2024 році ухвалив закон, що забороняє користування соціальними мережами для осіб до 16 років, заявивши, що це важливо для захисту дітей від шкоди.

Нещодавнє дослідження в медичному журналі The Lancet показало, що заборона на використання мобільних телефонів у школах не покращує поведінку учнів або їхні оцінки, але виявилося, що більше часу, проведеного за смартфонами і соціальними мережами, корелює з гіршими результатами.

Авторка: Дар’я Бровченко