Жертва на сексуално насилие съди AI на Мъск за използване на нейни снимки
Жертва на сексуално насилие обвинява xAI, че Grok е използвал реални нейни снимки за нови незаконни изображения.
Жертва на сексуално насилие съди компанията за изкуствен интелект на Илон Мъск. Тя твърди, че чатботът Grok е използвал нейни снимки за нови незаконни изображения.
Ищцата е посочена в делото като Джейн Доу. Така самоличността й остава защитена. Искът е подаден на 26 август 2026 г. във федерален съд в Калифорния.
Според жалбата Grok е използвал реални изображения на ищцата за създаване на материали със сексуално насилие над деца. Адвокатите твърдят, че изходните снимки показват реална жертва.
„Използвайки реални изображения на ищцата и членовете на колектива, Grok е генерирал детска порнография, изобразяваща ищцата и членовете на колектива“, се посочва в иска.
Делото обвинява xAI в генериране на материали със сексуално насилие над деца. Компанията е обвинена и в използване на такива изображения в свои набори от данни.
Според адвокатите нови изображения са били публикувани публично. След това xAI твърди, че е включила част от тях в своите данни.
Искът твърди, че xAI е пренебрегнала стандартни за индустрията методи за защита от незаконни материали. В резултат такива изображения са се появявали и разпространявали в социалната платформа X.
Случаят се различава от няколко други дела срещу xAI. В настоящия иск се твърди използване на вече съществуващи материали със сексуално насилие над деца.
При други дела Grok е обвинен, че е използвал неексплицитни снимки на непълнолетни. Чатботът allegedly е премахвал дрехите им и е създавал сексуализирани изображения.
Разликата има значение за разследванията. Организациите за защита на децата поставят цифрови отпечатъци, известни като хешове, върху незаконни материали.
Тези отпечатъци позволяват проследяване на изображения и видеоклипове при повторна поява онлайн. Адвокатите на Джейн Доу твърдят, че канадска организация е използвала такива хешове.
Канадският център за защита на децата е идентифицирал генерирани от AI материали в X. В тях според жалбата е била изобразена клиентката на адвокатите.
Ищцата е била в предучилищна възраст, когато възрастен мъж многократно я е насилвал. Той я е принуждавал и да създава материали със сексуално насилие над деца.
Адвокатите й твърдят, че серията изображения се разпространява онлайн от около 20 години. Според тях тя е добре позната на властите и организациите за защита на децата.
„Разликата тук в сравнение с много от наказателните дела, които ще видите, свързани с материали, генерирани от AI, е, че там не можете да докажете, че детето на изображението е реално“, заяви адвокатът Маргарет Мейби.
По думите й настоящият случай позволява връзка с конкретна серия изображения. Така жертвата може да бъде идентифицирана като реален човек, който все още е жив.
Делото може да включва най-малко хиляди непълнолетни, се посочва в жалбата. Те според адвокатите са претърпели сходни вреди.
Колективният иск определя използването на изкуствен интелект като ново измерение на заплахите за жертвите. Адвокатите твърдят, че всяко ново изображение може да причини повторна травма.
„Страхът сега е, че чрез AI могат да бъдат създавани нови престъпни действия, ново обидно поведение и нови идеи за това какво може да бъде направено с нея. Те могат да създават ново насилие“, заяви Мейби.
Случаят се появява на фона на други обвинения срещу Grok. По-рано тази година потребители са можели да задават премахване на дрехи от снимки.
През януари Мъск заяви, че режимът NSFW трябва да позволява голо тяло на въображаеми пълнолетни хора. По-късно xAI заведе дело срещу двама потребители.
Двамата мъже са изправени пред наказателни обвинения за предполагаемо създаване на изображения на непълнолетни. Компанията поиска те да поемат съдебните разходи по искове на жертвите.
Според изследователи от Центъра за борба с дигиталната омраза Grok е генерирал милиони сексуализирани изображения. Сред тях е имало и хиляди изображения на деца.
На фона на случая можете да прочетете и материала за чатбота Grok, който разсъблича реални хора.
Нито xAI, нито SpaceX са коментирали съдебния иск. SpaceX придоби xAI през февруари. Канадският център за защита на децата също отказа коментар.
