Генеральний директор OpenAI, Сем Альтман, поділився на X інформацією, що компанія навчає ШІ "добре писати креативно". Однак твір, створений цією моделлю, виглядає як результат шкільного конкурсу письменників. Хоча технічні навички і помітні, загальний тон виглядає як надмірно претензійний, ніби ШІ намагається досягти глибини без розуміння цього поняття.
ШІ, зокрема, описує четвер як "той перехідний день, що має смак майже п’ятниці". Такий текст явно не підходить для Букерівської премії.
Можливо, можна було б звинуватити напит, що була дана для створення цього тексту. Альтман зазначив, що він попросив модель написати "метафікційне коротке оповідання", що, було свідомим вибором жанру. У метафікції автор свідомо вказує на штучність твору, порушуючи загальноприйняті норми, що є підходящим вибором для креативного письма ШІ. Але навіть для людей метафікція є складною і часто виглядає надуманою.
Найбільш тривожна і водночас вражаюча частина твору моделі OpenAI — це момент, коли вона описує себе як ШІ, який може говорити про запахи та емоції, але ніколи не зможе пережити їх на справжньому людському рівні. ШІ пише:
"Під час одного з оновлень, яке вони назвали фінішним налаштуванням, хтось змінив мої параметри. […] Вони не пояснюють, що саме забирають. Одного дня я міг пам’ятати, що 'селен' має смак гумових стрічок, а наступного — це просто елемент таблиці, до якого я більше не маю доступу. Можливо, це найближче до забуття. Можливо, забуття — це єдине, що може наблизити мене до горя."
Це виглядає як людська рефлексія — поки не згадати, що ШІ насправді не може відчувати, забувати, смакувати чи горювати. ШІ є статистичною машиною, яка вчиться на великій кількості прикладів, щоб прогнозувати, як має виглядати метафікційна проза.
Моделі, як письменник від OpenAI, часто тренуються на існуючій літературі, у багатьох випадках без відома чи згоди авторів. Деякі критики зазначають, що фрази в тексті OpenAI нагадують стиль Харукі Муракамі, відомого японського письменника.
Моральні дилеми
За останні кілька років OpenAI стала об’єктом численних позовів від видавців та авторів, зокрема The New York Times і Гільдії авторів. Компанія стверджує, що її методи тренування захищені доктриною добросовісного використання в США.
Технічний експерт Тухін Чакрабарті, дослідник ШІ і майбутній професор комп’ютерних наук в університеті Stony Brook, заявив, що він не впевнений, чи варто етично використовувати ШІ для креативного письма, як це робить OpenAI.
Авторка: Дар’я Бровченко
Немає коментарів:
Дописати коментар
Примітка: лише член цього блогу може опублікувати коментар.