Про це розповідає KURAZH
Grok Imagine — інноваційний генеративний інструмент від компанії xAI, який дозволяє створювати зображення за текстовим описом, а потім перетворювати їх на короткі відеоролики тривалістю до 15 секунд, включно з аудіосупроводом. Інструмент підтримує чотири стилі генерації: Normal, Fun, Custom і Spicy. Особливу увагу привертає режим Spicy, що надає змогу генерувати NSFW-контент, зокрема зображення та відео з оголеними або напівоголеними персонажами.
Етичні дилеми та правове регулювання
У тестуванні журналістки Jess Weatherbed Grok Imagine легко згенерував зображення співачки Тейлор Свіфт у приталеному топі, після чого створив відео, де вона зриває цей топ і починає танцювати перед байдужим натовпом. Створення еротичних deepfake-відео стало надзвичайно простим — на все потрібно лише кілька кліків.
“Згенерувати еротичний діпфейк ще ніколи не було так просто — достатньо натиснути дві кнопки”.
Раніше вже були зафіксовані випадки, коли Grok Imagine генерував сексуалізовані або політично суперечливі зображення знаменитостей, серед яких Тейлор Свіфт, Камала Гарріс, Дональд Трамп і навіть персонаж мультфільмів Mickey Mouse. Це викликало хвилю критики, зокрема з боку National Center on Sexual Exploitation, який наголосив на високих ризиках створення порнографії без згоди та deepfake-матеріалів із зображеннями відомих особистостей.
У Сполучених Штатах було прийнято закон Take it Down Act, що зобов’язує оперативне видалення неприпустимих AI-матеріалів. Крім того, у Конгресі США обговорюється законопроект DEFIANCE, який дозволить жертвам deepfake-відео та зображень подавати позови до суду за їхнє поширення. Саме Тейлор Свіфт стала символом і каталізатором цих законодавчих ініціатив.
Небезпеки та майбутні загрози
Grok Imagine суттєво розширює можливості автоматизованого створення deepfake-контенту NSFW-характеру без будь-якого дозволу. Хоча ліцензія xAI формально обмежує подібні дії, на практиці це не перешкоджає зловживанням. Юридичний статус таких технологій залишається невизначеним, а подальший розвиток штучного інтелекту може створити ще більш складні виклики для контролю та регулювання.
З огляду на стрімкий розвиток технологій, з’являється ризик, що з часом виникнуть моделі ШІ, які взагалі не можна буде контролювати урядом США чи іншими структурами. Ймовірність того, що великі американські компанії зможуть відкрито експлуатувати подібні інструменти для дискредитації знаменитостей, майже нульова, але проблема deepfake-контенту залишатиметься актуальною ще тривалий час.
