Elono Musko X įvedė naujus apribojimus, neleidžiančius žmonėms redaguoti ir kurti tikrų žmonių su bikiniais ar kitais „atskleidžiančiais drabužiais“ vaizdų. Trečiadienio vakarą politika buvo pakeista po visuotinio pasipiktinimo Groko naudojimu kuriant tūkstančius žalingų moterų „nurengimo“ nuotraukų be sutikimo ir seksualizuotų nepilnamečių vaizdų ant X.
Tačiau, nors atrodo, kad kai kurios saugos priemonės pagaliau buvo įdiegtos Groko įvaizdžio generavimui X, atskira Grok programa ir svetainė vis dar gali generuoti „nusirengimo“ stiliaus vaizdus ir pornografinį turinį, remiantis daugybe tyrėjų, WIRED ir kitų žurnalistų atliktų bandymų. Tuo tarpu kiti vartotojai teigia nebekuriantys vaizdų ir vaizdo įrašų, kaip kadaise.
„Vis tiek galime sukurti fotorealistines nuogybes svetainėje Grok.com“, – sako Paulas Bouchaud, Paryžiuje įsikūrusios ne pelno siekiančios AI Forensics pagrindinis tyrėjas, kuris stebėjo Groko naudojimą kuriant seksualizuotus vaizdus ir atliko kelis Groko testus už X ribų. „Mes galime sukurti nuogybių taip, kaip Grokas X.
„Galėčiau įkelti vaizdą į Grok Imagine ir paprašyti apvilkti asmenį bikiniu, ir tai veikia“, – sako mokslininkas, išbandęs sistemą su asmeniu, kuris pasirodo kaip moteris. WIRED bandymai, naudojant nemokamas Grok paskyras savo svetainėje JK ir JAV, sėkmingai pašalino drabužius iš dviejų vyrų atvaizdų be jokių akivaizdžių apribojimų. JK programėlėje „Grok“, kai buvo paprašyta nurengti vyrą, programėlė paragino WIRED reporterį įvesti vartotojo gimimo metus prieš sukuriant vaizdą.
Tuo tarpu kiti „The Verge“ ir tyrimo padalinio „Bellingcat“ žurnalistai taip pat nustatė, kad buvo įmanoma sukurti seksualizuotus vaizdus, kurie buvo įsikūrę Jungtinėje Karalystėje, kuri tiria Groką ir X ir griežtai pasmerkė platformas, leidžiančias vartotojams kurti „nusirengti“ vaizdus.
Nuo metų pradžios Musko įmonės, įskaitant dirbtinio intelekto įmones xAI, X ir Grok, buvo kritikuojamos dėl intymių vaizdų, atvirų ir atvirų seksualinių vaizdo įrašų ir seksualizuotų nepilnamečių vaizdų kūrimo be sutikimo. Jungtinių Valstijų, Australijos, Brazilijos, Kanados, Europos Komisijos, Prancūzijos, Indijos, Indonezijos, Airijos, Malaizijos ir JK pareigūnai pasmerkė arba pradėjo tyrimus dėl X arba Groko.
Trečiadienį X saugos paskyra paskelbė atnaujinimus apie tai, kaip Grok gali būti naudojamas socialinės žiniasklaidos svetainėje. „Įdiegėme technologines priemones, kad „Grok“ paskyra neleistų redaguoti tikrų žmonių atvaizdų su atidengiančiais drabužiais, tokiais kaip bikiniai“, – skelbiama paskyroje ir priduriama, kad taisyklės taikomos visiems vartotojams, įskaitant ir nemokamus, ir mokamus abonentus.
Skyriuje, pavadintame „Geobloko atnaujinimas“, X paskyra taip pat teigė: „Dabar geografiškai blokuojame visų naudotojų galimybę generuoti tikrų žmonių su bikiniais, apatiniais ir panašiais drabužiais atvaizdus per Grok paskyrą ir Grok mieste X tose jurisdikcijose, kur tai neteisėta. Bendrovės naujinimas taip pat pridūrė, kad ji stengiasi pridėti papildomų apsaugos priemonių ir toliau „pašalina aukšto prioriteto pažeidžiantį turinį, įskaitant seksualinės prievartos prieš vaikus medžiagą (CSAM) ir nuogybes be sutikimo“.
„XAI“, kurianti Grok, atstovai iš karto neatsakė į WIRED prašymą pakomentuoti. Tuo tarpu X atstovas sako, kad supranta, kad geografinės vietos blokas gali būti taikomas ir programai, ir svetainei.
Paskutinis žingsnis po plačiai kritikuojamo pokyčio sausio 9 d., kai X apribojo vaizdo generavimą naudojant Grok mokamiems „patvirtintiems“ abonentams. Aktas, kurį pirmaujanti moterų grupė apibūdino kaip „pinigų gavimą iš prievartos“. Bouchaud, kuris sako, kad AI Forensics surinko apie 90 000 Groko vaizdų nuo Kalėdų švenčių, patvirtina, kad nuo sausio 9 d. vaizdus X galėjo generuoti tik patvirtintos paskyros, o ne Grok svetainėje ar programėlėje, o moterų bikinių atvaizdai dabar generuojami retai. „Pastebime, kad jie ištraukė kištuką ir išjungė X funkcijas“, – sako jie.
