Новий генератор зображень ChatGPT: створення фальшивих чеків стало ще легшим

Цього місяця ChatGPT представив новий генератор зображень у складі моделі 4o, який набагато краще генерує текст всередині зображень.

Люди вже використовують його для створення фальшивих чеків з ресторанів, що потенційно додає ще один інструмент до вже досить широкого арсеналу AI-глибоких підробок, які використовуються шахраями.

Відомий користувач соцмереж і венчурний капіталіст Діді Дас опублікував у X фотографію фальшивого чеку з (реального) стейкхаусу Сан-Франциско, який, за його словами, був створений за допомогою 4o.

Інші користувачі змогли відтворити подібні результати, зокрема один із забрудненнями від їжі чи напоїв, щоб виглядати ще більш автентично:

Найбільш реалістичний приклад, знайдений TechCrunch, насправді був із Франції, де користувач LinkedIn опублікував зім’ятий фальшивий чек для місцевої мережі ресторанів, створений за допомогою AI. TechCrunch також протестував 4o і зміг створити фальшивий чек для ресторану Applebee's у Сан-Франциско Але ця спроба мала кілька очевидних ознак того, що це підробка. По-перше, у загальній сумі використовується кома замість крапки. По-друге, математика не сходиться. Моделі штучного інтелекту все ще мають проблеми з виконанням базових математичних операцій, тому це не дивно.

Однак для шахрая не буде важко швидко виправити кілька цифр за допомогою програмного забезпечення для редагування зображень або, можливо, більш точних запитів.

Це чітко демонструє, що можливість швидко генерувати фальшиві чеки створює великі можливості для шахрайства. Легко уявити, як такі технології можуть використовуватися зловмисниками для «відшкодування» абсолютно фальшивих витрат.

Представниця OpenAI Тая Крістіансон повідомила TechCrunch, що всі зображення включають метадані, що вказують на те, що вони були створені ChatGPT. Крістіансон додала, що OpenAI «вживає заходів», коли користувачі порушують її політику використання, і що компанія «завжди вчиться» на реальних відгуках і досвіді.

TechCrunch потім запитав, чому ChatGPT дозволяє людям створювати фальшиві чеки, і чи відповідає це політикам використання OpenAI (які забороняють шахрайство).

Крістіансон відповіла, що мета OpenAI — надати користувачам якомога більше творчої свободи, і що фальшиві AI-чеки можуть використовуватися не тільки для шахрайства, але й для «навчання людей фінансовій грамотності» чи створення оригінального мистецтва та реклами продуктів.

Авторка: Дар’я Бровченко

Джерело