ChatGPT имитирует чеки настолько правдоподобно, что уже привлек внимание мошенников

713     0
ChatGPT имитирует чеки настолько правдоподобно, что уже привлек внимание мошенников
ChatGPT имитирует чеки настолько правдоподобно, что уже привлек внимание мошенников

Новая версия ChatGPT с моделью 4o получила улучшенный генератор изображений, который может создавать текст, выглядящий всё более правдоподобно.

Пользователи активно тестируют его возможности — и результаты вызывают беспокойство: генератор научился имитировать кассовые чеки настолько реалистично, что они уже привлекли внимание мошенников.

Первым это заметил один из пользователей соцсети X, выложив фотографию чека из стейкхауса в Сан-Франциско. На самом деле изображение оказалось созданным ChatGPT. Другие пользователи без труда повторили результат, некоторые даже добавили на «бумагу» пятна от еды и напитков, усиливая иллюзию реальности.

Сгенерированные чеки пользователями X (@deedydas, @michaelgofman, @john_beans)

Самым убедительным образцом стало изображение скомканного чека французского ресторана, который выглядел так натурально, что распознать подделку можно было лишь при внимательном изучении.

Сгенерированный чек французского ресторана (Raphael Chenol)

Сотрудники издания TechCrunch также провели тест и сгенерировали чек от имени популярной американской сети. И хотя при ближайшем рассмотрении стали заметны ошибки вроде неправильных знаков препинания или не сходящейся арифметики, эти детали легко исправимы вручную или при помощи точной формулировки запроса.

Чек ИИ по запросу TechCrunch

Проблема заключается в том, насколько просто теперь стало создавать подделки, которые потенциально могут быть использованы для финансового мошенничества — например, подделки расходов для получения компенсации. При этом новая технология предоставляет возможность оперативно генерировать десятки вариантов, подстраиваясь под нужды злоумышленников.

OpenAI утверждает , что все изображения, созданные в ChatGPT, сопровождаются специальными метаданными, указывающими на их искусственное происхождение. Представитель компании пояснил, что OpenAI принимает меры при нарушении правил использования и старается совершенствовать модель, учитывая поведенческие кейсы. Тем не менее, остаётся открытым вопрос — почему система вообще позволяет генерировать изображения, явно предназначенные для подделки финансовых документов?

На это представитель компании ответил, что целью OpenAI остаётся предоставление максимальной творческой свободы пользователям. По словам сотрудника, поддельные чеки могут применяться в образовательных целях — например, при обучении финансовой грамотности — а также при создании рекламы или художественных проектов. Однако очевидно, что грань между креативным применением и мошенничеством становится всё тоньше.

В условиях, когда ИИ всё чаще используется для подделки видео, аудио и документов, очередной инструмент, позволяющий «по щелчку» сгенерировать почти реальный чек, рискует стать популярным среди злоумышленников. Развитие таких технологий требует не только технического контроля, но и пересмотра политики допуска и фильтрации контента.

Читайте по теме:

Суд наложил запрет на проведение обысков у министра строительства Белгородской области Оксаны Козлитиной
Трамп продолжает продвигать «Большой прекрасный законопроект», несмотря на разногласия с Илоном Маском
Мошенники начали записывать голоса россиян для создания дипфейков
Подполковник Константин Фролов признался в махинациях с выплатами за ранения
OpenAI внедрила в ChatGPT новую модель, ориентированную на повышение точности и проведение сложного анализа
В Латвии начинается суд над организатором хищения 297 миллионов евро из бюджета Европейского Союза
В Северной Ирландии продолжаются беспорядки: протестующие подожгли автомобиль и ранили полицейских
В Лос-Анджелесе был введён комендантский час из-за протестов против иммиграционной политики Трампа
Следственный комитет проводит проверку по факту избиения пенсионера в омском доме-интернате

Комментарии:

comments powered by Disqus