ChatGPT теперь настолько хорош в подделке чеков, что OpenAI считает это положительным моментом

Поддельные чеки теперь легко генерировать с помощью ChatGPT. Они достаточно убедительны, и дополнительная корректировка делает их очень реалистичными. OpenAI утверждает, что метаданные и политики использования защитят нас. Генеративная модель искусственного интеллекта, похоже, решает одну из наиболее очевидных проблем с изображениями, создаваемыми ИИ: текст.

И хотя это хорошая новость для всех, кто устал видеть изображения с абсолютной бессмыслицей, у этого могут быть и непредвиденные последствия – ChatGPT теперь довольно хорош в создании поддельных чеков. Подделки не будут полностью убедительными, если вы знаете, на что обратить внимание: они немного слишком чистые, немного слишком «CGI» и иногда ошибаются в суммах (как в нашем примере выше). Но их также легко пропустить – и с небольшой доработкой можно сделать их более реалистичными, добавив складки и пятна от еды. Покажется, что самый эффективный способ сделать это – попросить ChatGPT воспроизвести существующий чек, который затем можно изменить, чтобы показать желаемые цены. OpenAI говорит, что не слишком обеспокоен этим, но это, по-видимому, стало эффективным новым инструментом для мошенников и нарушителей порядка.

Почему OpenAI пока одобрило подделки

Вы можете использовать 4o для создания поддельных чеков. Существует слишком много реальных процессов проверки, которые полагаются на «реальные изображения» в качестве доказательства. Эта эпоха закончилась.

Мы связались с OpenAI, и представитель компании сказал нам, что они следят за тенденциями, такими как чеки, созданные с помощью ИИ. "Мы отслеживаем генерацию изображений на нашей платформе и вне ее, используем внутренние инструменты для проверки того, что они были созданы нашими продуктами, и предпринимаем действия при выявлении нарушений наших политик использования", – сказали нам. «Мы постоянно учимся на основе реального опыта и отзывов и будем продолжать совершенствовать наши политики, чтобы найти баланс между творческой свободой и предотвращением злоупотреблений. Все изображения включают метаданные C2PA промышленного стандарта, указывающие, что они были созданы с помощью ИИ OpenAI», – добавил представитель OpenAI Taya Christianson.

Однако Taya Christianson также немного дальше сказала TechCrunch, что у поддельных чеков есть положительный потенциал: «обучение людей финансовой грамотности» в немошеннических ситуациях. Я также могу представить себе использование этого для иллюстрирования статей или для создания реквизита для реальной или виртуальной постановки.

Но поддельные чеки также могут использоваться для мошенничества, и чем убедительнее изображения, тем больше мошенничества они, вероятно, облегчат. Эти «сделанные ChatGPT» метаданные – хорошая защита, но экспорт изображения без метаданных – дело одного клика. Не уверен, что эти меры безопасности хоть как-то остановят использование поддельных изображений для мошенничества, так же, как политики "будь добрым" в социальных сетях не помешали людям быть плохими в интернете.

Но я должен признать, что было бы очень забавно, если бы сотрудники OpenAI сами начали использовать эту технологию для увеличения своих расходов.