Весело с карикатурами, созданными ChatGPT? Возможно, вы только что сделали подарок мошенникам

Введение

Тренд карикатур, созданных с помощью ChatGPT, набирает популярность, но эксперты по кибербезопасности предупреждают о серьёзных рисках. Карикатуры ChatGPT могут раскрывать больше личной информации, чем кажется пользователям, и тем самым облегчать работу мошенников.

В чем состоит угроза

Пользователи часто загружают своё фото вместе с логотипом компании или информацией о должности и просят ChatGPT создать карикатуру их самого и их профессии. Такие действия могут предоставить злоумышленникам ценную визуальную и контекстную личную информацию, отмечают специалисты, цитируемые Euronews и G4media.

Эксперты предупреждают, что одна картинка, связанная с личными данными, может раскрыть гораздо больше сведений, чем предполагают пользователи. «Вы облегчаете работу мошенникам, предоставляя им визуальное представление того, кто вы», — заявил Боб Лонг (Bob Long), вице‑президент компании по подтверждению возраста Daon.

Какие данные извлекаются из изображений

По словам консультанта по кибербезопасности Джейка Мура (Jake Moore), при загрузке изображения в чат‑бот AI система обрабатывает его, чтобы извлечь данные — эмоции человека, окружающую среду и информацию, которая может указывать на местоположение. Эти данные затем могут храниться в течение неизвестного времени.

Боб Лонг также указал, что изображения, собранные у пользователей, могут использоваться и сохраняться для обучения генераторов изображений AI в их наборах данных.

Последствия утечки и возможные злоупотребления

Нарушение безопасности в компании вроде OpenAI может привести к тому, что загруженные изображения и личные данные, собранные чат‑ботом, попадут в руки злоумышленников. Вредоносные лица смогут использовать эти материалы для создания фальшивых аккаунтов в соцсетях или реалистичных deepfake‑видео.

«Селфи помогают преступникам перейти от общих мошенничеств к персонализированным, очень убедительным имитациям», — предупредила Шарлотта Уилсон (Charlotte Wilson), руководитель подразделения по работе с предприятиями в Check Point.

Рекомендации и выводы

Эксперты советуют проявлять осторожность при участии в челленджах с карикатурами ChatGPT и других подобных трендах. Не загружайте фото с логотипом компании или деталями о вашей роли, если хотите снизить риск целевой атаки или использования изображения в учебных наборах AI.

Источник информации: материал Euronews, переданный G4media, с комментариями специалистов Daon, консультанта Jake Moore и компании Check Point.