В современном мире доверять фотографиям каких-либо документов становится весьма опасно. Руководитель компании Menlo Ventures Диди Дас опубликовал в соцсети Х пример того, как он подделал чек из стейк-хауса. Для этого он использовал последнюю версию нейросети OpenAI 4o, которая практически идеально скопировала настоящие чеки, подставив туда заведомо ложную информацию.
Затем подделку Даса «доработали», добавив в редакторе на картинку пятна от соуса, потертости, складки и прочие визуальные эффекты, чтобы сделать имитацию более достоверной. Без сличения с физическим оригиналом распознать подделку практически невозможно.
Но куда хуже отсутствие ограничителей — механизмов проверки контента у OpenAI 4o. Либо они были отключены на время тестирования последней версии нейросети, что объяснимо. Как отметил Дас, ему без особых усилий удалось заставить нейросеть «изготовить» рецепт на покупку запрещенного антидепрессанта «Zoloft». Не факт, что ему удалось бы приобрести этот препарат в аптеке по одной только картинке, но сама способность нейросети создавать опасные поддельные изображения вызывает опасения.
