Новая реальность цифрового террора
В штате Массачусетс был арестован Джеймс Флоренс, который на протяжении семи лет преследовал и запугивал женщину-профессора, разглашая её личные данные. Он обвиняется в использовании искусственного интеллекта для создания фейковых обнажённых фотографий женщины, а также в создании чат-бота по её образу, который выдавал её имя, адрес и личные данные на сайте, предназначенном для сексуального общения с ботами. Помимо этого, он отправлял ей угрожающие электронные письма и сообщения.
Согласно материалам дела, Флоренс создал более сотни фейковых обнажённых фотографий жертвы, используя Photoshop и специализированные приложения. А также размещал её личные данные на различных форумах, такие как адрес, телефон и место работы. В течении года он создал 687 таких публикаций, что привело к непосредственному преследованию жертвы пользователями форумов. Также Флоренс создал как минимум три чат-бота, которые имитировали личность жертвы и были созданы с использованием её личной информации и фото. Эти боты флиртовали с пользователями, а затем приглашали их “прийти к ней в гости” и предоставляли её реальный домашний адрес. Один из сайтов, использованных для создания чат-бота, был Crushon, который позволяет пользователям создавать чат-ботов без фильтров, включая контент сексуального характера.
«Имя, изображение и личная информация жертвы использовались для создания как минимум трёх управляемых искусственным интеллектом чат-ботов на двух различных платформах примерно с сентября 2023 года по июль 2024 года», — говорится в судебных документах.
Также в материалах говорится о многолетнем преследовании женщины, которое варьировалось от кражи её нижнего белья и последующего размещения его изображений в интернете до преследования жертвы в течение многих лет в Twitter, Reddit и на порно-форумах, где мужчины размещают фотографии с эякуляцией на фотографии женщин.
Искусственный интеллект становятся всё доступнее и сложнее, что повышает возможности для злоупотреблений. Это судебное дело наглядно показывает как злоумышленники продвинулись в преследовании своих жертв при помощи ИИ, который используют не только для создания фейковых обнажённых изображений жертв, но и для воссоздания их цифровой личности для более жёсткой травли