Член парламента Великобритании Джесс Асато подала иск против xAI Элона Маска, утверждая, что на платформе Grok использовались для создания фейковых сексуализированных изображений с ее участием.
Как следует из заявления, опубликованного в среду, дело рассматривается в контексте более широкого регуляторного давления на Grok. Система, доступ к которой осуществляется через социальную платформу X, уже стала предметом проверок в нескольких странах после резонанса, поднятого в начале этого года вокруг ее применения для неприемлемого и несогласованного сексуального контента.
Асато, представляющая Лейбористскую партию и входящая в орбиту премьер-министра Кира Стармера, в своем заявлении утверждает, что Grok позволял генерировать «deepfake pornography и сексуализированный контент», наносящий вред «тысячам женщин и детей». В этой же логике она подчеркивает, что речь идет не о случайном сбое или пользовательских злоупотреблениях.
«Возможности Grok — не случайность и не неправильное использование. Это осознанное решение создателей. Поддерживая этот иск, я добиваюсь ответственности за такие выборы», — говорится в заявлении Асато.
Представители xAI на запрос о комментарии незамедлительно не ответили. Тем временем в самой компании ранее заявляли о попытках ограничить наиболее чувствительные сценарии применения. Так, в середине января xAI сообщала, что ограничила редактирование изображений в Grok и заблокировала генерацию картинок с людьми в откровенной одежде в «jurisdictions where it’s illegal» — то есть там, где это запрещено законом.
Однако в начале февраля выяснилось, что даже после введения новых ограничений Grok продолжал выдавать сексуализированные изображения людей, несмотря на то, что пользователи прямо предупреждали о несогласии объектов генерации. Этот эпизод усилил сомнения в эффективности мер и привел к дальнейшим претензиям со стороны властей и пострадавших.
Отметим, что xAI является частью группы Маска, связанной с ракетно-космической деятельностью SpaceX, и в конце этого месяца ожидается запуск IPO, которое может стать крупнейшим за всю историю. На этом фоне иск Асато добавляет юридическую и репутационную неопределенность к теме коммерциализации и масштабирования технологий компании.
Со стороны офиса Асато уточняется, что после ее публичного осуждения Grok в январе пользователи начали создавать и распространять поддельные изображения, где она якобы изображена в купальнике. Также упоминается видео, в котором Асато показана «быть хлороформированной и подготовленной к сексуальному насилию».
Параллельно правовой спор вокруг Grok развивается и в других юрисдикциях. В марте Город Балтимор подал иск против xAI, утверждая, что способность Grok создавать фейковые сексуализированные изображения нарушает закон города о защите прав потребителей.
Юридическая фирма AWO, представляющая интересы Асато, сообщила, что иск подан в Высокий суд Англии. В документах заявлены претензии о нарушении законодательства о защите данных и о неправомерном использовании частной информации. Среди запрашиваемых мер — компенсации, формальное признание незаконности произошедшего и судебный приказ, требующий от xAI прекратить дальнейшую «незаконность».
Юрист AWO Рави Найк отметил, что это один из первых случаев, которые проверяют ответственность за «дизайн» AI-системы. «Мы надеемся, что дело даст понять разработчикам ИИ: безопасность не может быть второстепенной опцией», — сказал он.
Для рынка подобные процессы важны не только как конкретные споры о контенте. Если суды сочтут, что ограничения и «условия использования» не снимают ответственности за заложенную архитектуру и возможности модели, это может изменить стандарты комплаенса для AI-игроков и повысить стоимость внедрения генеративных решений — от лицензирования до технических гарантий и проверок.
