Илон Маск подал иск против пользователя AI-системы Grok за создание детской порнографии

Компания xAI, принадлежащая Илону Маску, инициировала судебное разбирательство против жителя Южной Каролины, который с помощью их искусственного интеллекта Grok создавал материалы с детской порнографией.

Иск был подан во вторник в федеральный суд штата Техас и стал одним из первых случаев, когда компания, разрабатывающая искусственный интеллект, привлекает пользователя к ответственности за злоупотребление технологией для создания неприемлемого контента с участием несовершеннолетних.

В исковом заявлении xAI обвиняет Тери Харвуда, задержанного в феврале по обвинениям в сексуальной эксплуатации детей, в нарушении условий использования системы.

По данным иска, Харвуд загружал в систему Grok обычные фотографии детей и взрослых, пытаясь сгенерировать на их основе фальшивые сексуальные изображения и видео (deepfake), а также создавал несогласованный сексуальный контент с участием взрослых.

Данное судебное дело возникло на фоне глобального внимания к xAI, после того как ранее компанию обвиняли в том, что система Grok позволяет пользователям создавать неэтичный сексуальный контент без согласия изображённых лиц.

В иске компания подчёркивает, что строго реагирует на нарушения, включая приостановку и удаление аккаунтов, а также сообщает о подозрительных материалах, связанных с детьми, в Национальный центр пропавших и эксплуатируемых детей США.

xAI требует от суда наложить на Харвуда неопределённые денежные штрафы и вынести постоянный запрет на использование системы Grok.

В иске действия обвиняемого охарактеризованы как «преднамеренная попытка использовать инструмент компании в преступных целях», что наносит серьёзный и долговременный ущерб реальным жертвам и подвергает компанию значительным юридическим рискам и репутационным потерям.