В этом месяце CHATGPT представила новый генератор изображений как часть своей модели 4O, которая намного лучше генерирует текст внутри изображений.
Люди уже используют его для генерации поддельных ресторанов, возможно, добавив еще один инструмент к и без того, что инструментария Deepfakes, используемые мошенниками, используемых мошенниками.
Плодолюбивый плакат в социальных сетях и VC Deedy Das опубликовали на фотографии фальшивой квитанции о (реальном) стейк -хаусе Сан -Франциско, который, по его словам, был создан с 4o.
Другие смогли воспроизвести аналогичные результаты, в том числе с пятностями еды или напитков, чтобы сделать его еще более аутентичным:
Наиболее реальным примером TechCrunch на самом деле был из Франции, где пользователь LinkedIn опубликовал квитанцию, сгенерированную сгенерированной ИИ для местной сети ресторанов:
TechCrunch протестировал 4o, а также смог генерировать поддельную квитанцию для Applebee's в Сан -Франциско:
Но у нашей попытки было несколько мертвых раздачи, которые она была подделана. С одной стороны, общее количество использует запятую вместо периода. С другой стороны, математика не складывается. LLM все еще пытаются сделать базовую математику, так что это не особенно удивительно.
Но мошеннику было бы не сложно быстро исправить несколько чисел с помощью программного обеспечения для редактирования фотографий или, возможно, более точных подсказок.
Понятно, что облегчение создания поддельных квитанций дает огромные возможности для мошенничества. Было бы не сложно представить себе, что такая технология используется плохими актерами, чтобы получить «возмещение» за полностью фальшивые расходы.
Представитель Openai Тайя Кристиансон сказала TechCrunch, что все его изображения включают метаданные, указывающие на их создание Catgpt. Кристиансон добавил, что Openai «принимает меры», когда пользователи нарушают свои политики использования, и что это «всегда обучение» от реального использования и обратной связи.
Затем TechCrunch спросил, почему CHATGPT позволяет людям генерировать поддельные квитанции в первую очередь, и является ли это линейным образом с политикой использования OpenAI (которые запрещают мошенничество.)
Кристиансон ответил, что «цель Openai-дать пользователям как можно больше творческой свободы», и что фальшивые квитанции с искусственным интеллектом можно использовать в нездоровых ситуациях, таких как «обучение людей финансовой грамотности», а также создание оригинальной рекламы искусства и продуктов.
