Об этом сообщает KURAZH
Grok Imagine — инновационный генеративный инструмент от компании xAI, который позволяет создавать изображения по текстовому описанию, а затем преобразовывать их в короткие видеоролики продолжительностью до 15 секунд, включая аудиосопровождение. Инструмент поддерживает четыре стиля генерации: Normal, Fun, Custom и Spicy. Особое внимание привлекает режим Spicy, который позволяет генерировать NSFW-контент, в частности изображения и видео с обнаженными или полунагими персонажами.
Этические дилеммы и правовое регулирование
В тестировании журналистки Jess Weatherbed Grok Imagine легко сгенерировал изображение певицы Тейлор Свифт в приталенном топе, после чего создал видео, где она рвет этот топ и начинает танцевать перед равнодушной толпой. Создание эротических deepfake-видео стало чрезвычайно простым — на все нужно всего лишь несколько кликов.
«Сгенерировать эротический діпфейк еще никогда не было так просто — достаточно нажать две кнопки».
Ранее уже были зафиксированы случаи, когда Grok Imagine генерировал сексуализированные или политически спорные изображения знаменитостей, среди которых Тейлор Свифт, Камала Харрис, Дональд Трамп и даже персонаж мультфильмов Микки Маус. Это вызвало волну критики, в том числе со стороны Национального центра по борьбе с сексуальной эксплуатацией, который подчеркнул высокие риски создания порнографии без согласия и deepfake-материалов с изображениями известных личностей.
В Соединенных Штатах был принят закон Take it Down Act, который обязывает оперативное удаление неприемлемых AI-материалов. Кроме того, в Конгрессе США обсуждается законопроект DEFIANCE, который позволит жертвам deepfake-видео и изображений подавать иски в суд за их распространение. Именно Тейлор Свифт стала символом и катализатором этих законодательных инициатив.
Опасности и будущие угрозы
Grok Imagine существенно расширяет возможности автоматизированного создания deepfake-контента NSFW-характера без какого-либо разрешения. Хотя лицензия xAI формально ограничивает подобные действия, на практике это не препятствует злоупотреблениям. Юридический статус таких технологий остается неопределенным, а дальнейшее развитие искусственного интеллекта может создать еще более сложные вызовы для контроля и регулирования.
Учитывая стремительное развитие технологий, возникает риск, что со временем появятся модели ИИ, которые вообще не смогут контролироваться правительством США или другими структурами. Вероятность того, что крупные американские компании смогут открыто эксплуатировать подобные инструменты для дискредитации знаменитостей, почти нулевая, но проблема deepfake-контента останется актуальной еще долгое время.
