В останні місяці в Китаї почастішали випадки шахрайства з поверненням в інтернет-магазинах, пов’язаних з використанням зображень, що згенерували нейромережі. Покупці прикладають підроблені фото та відео, на яких нібито зафіксовано пошкоджений товар, і вимагають повернення коштів. Для підтвердження таких скарг продавці найчастіше не просять повернути товар, особливо якщо він швидко псується або коштує недорого, що створює сприятливі умови для обману.
На китайській платформі RedNote з’явилося багато скарг від співробітників служб підтримки та онлайн-продавців, які помітили підозрілу активність. На фото, що супроводжують претензії, трапляються неприродні ушкодження, невідповідність деталей та помилки у зображеннях, що видають роботу генеративних алгоритмів. На одному знімку упаковка з китайським маркуванням містить символи, які не мають сенсу, на іншому тріщини на чашці виглядають так, ніби вони намальовані на папері.
Особливо часто такі методи застосовуються до товарів, що не підлягають поверненню: овочам і фруктам, дешевій косметиці, а також предметам, що легко б’ються. Наприклад, один із продавців крабів на платформі Douyin отримав від клієнта відео, на якому морепродукти нібито вже загинули під час доставлення. Однак, як з’ясувалося пізніше, ролик було згенеровано. Невідповідність статі крабів та анатомічних особливостей, а також дивна поза нібито мертвих тварин викликали підозри. Інцидент спричинив поліцейську перевірку, і в результаті покупця було затримано за фальсифікацію доказів.
Таке шахрайство стало помітною проблемою і за межами Китаю. За даними американської компанії Forter, лише за останній рік кількість претензій із використанням підроблених зображень збільшилася більш ніж на 15 відсотків. Причому такі дії застосовуються як окремими користувачами, а й організованими групами. В одному з випадків, за словами голови Forter Міхаеля Рейтблата, за допомогою штучного інтелекту зловмисники подали заявок на повернення на суму понад мільйон доларів, одночасно використовуючи підставні облікові записи та заміну IP-адрес.
Деякі продавці намагаються боротися із проблемою за допомогою тих самих технологій. Один із китайських магазинів, який торгує іграшками, демонстрував, як завантаження підозрілих знімків у чат-бот допомагає виявити фальсифікації. Але навіть якщо штучний інтелект підтверджує підробку, платформи не завжди стають на бік продавців. Це, на думку представників галузі, може призвести до посилення правил повернення, що вдарить насамперед чесних покупців.
Все це лише посилює колишні побоювання, коли покупців обурювали згенеровані зображення самих товарів — при доставленні вони отримували те, що нагадувало те, що було на фото в картці товару. Тепер, коли ШІ-сервіси доступні кожному, і шахрайство з боку покупця також можливе — ситуація лише погіршиться.
Поточні заходи захисту, такі як водяні знаки або ручна перевірка, не справляються. Для стабільної роботи систем онлайн-торгівлі необхідні нові механізми перевірки, допрацьовані правила повернення та жорсткіші вимоги до цифрових доказів.
Більше цікавого:
- Не вірте всьому що чуєте, або як діпфейк-аудіо стало ще одним інструментом для шахраїв
- Кіберрабство в Азії: як 6 країн розкривають таємну імперію шахраїв
- Як не стати жертвою шахраїв в App Store або Play Маркет
Джерело: Wired