Imaginile sexuale explicite ale lui Taylor Swift generate de AI au circulat pe X (fostul Twitter) în ultima zi, în cel mai recent exemplu de proliferare a pornografiei false generate de AI și provocarea de a opri răspândirea acesteia.
Unul dintre cele mai proeminente exemple de pe X a atras peste 45 de milioane de vizualizări, 24.000 de repostări și sute de mii de aprecieri și marcaje înainte ca utilizatorul verificat care a distribuit imaginile să-i fie suspendat contul pentru încălcarea politicii platformei. Postarea a fost live pe platformă timp de aproximativ 17 ore înainte de eliminare.
Dar pe măsură ce utilizatorii au început să discute despre postarea virală, imaginile au început să se răspândească și au fost repostate în alte conturi. Mulți rămân încă în picioare, iar de atunci au apărut un potop de noi falsuri grafice. În unele regiuni, termenul „Taylor Swift AI” a devenit un subiect de tendință, promovând imaginile către un public mai larg.
Un raport de la 404 Media a constatat că imaginile ar putea avea originea într-un grup de pe Telegram, unde utilizatorii împărtășesc imagini explicite ale femeilor generate de AI, adesea realizate cu Microsoft Designer. Utilizatorii din grup au glumit despre modul în care imaginile lui Swift au devenit virale pe X.
Politicile lui X privind media sintetică și manipulată și nuditatea neconsensuală interzic în mod explicit găzduirea acestui tip de conținut pe platformă. În timp ce reprezentanții X, Swift și NFL nu au răspuns solicitărilor noastre de comentarii, X a postat următoarea declarație publică la aproape o zi după începerea incidentului, dar fără a menționa în mod specific imaginile Swift.
Baza de fani a lui Swift l-a criticat pe X pentru că a permis ca multe dintre postări să rămână active atâta timp cât au făcut-o. Ca răspuns, fanii au răspuns prin inundarea hashtag-urilor folosite pentru a circula imaginile cu mesaje care, în schimb, promovează clipuri reale cu Swift care joacă pentru a ascunde falsurile explicite.
Incidentul vorbește despre provocarea foarte reală de a opri pornografia deepfake și imaginile generate de AI cu oameni reali. Unii generatori de imagini AI au restricții care împiedică producerea de imagini nud, pornografice și fotorealiste ale celebrităților, dar multe altele nu oferă în mod explicit un astfel de serviciu. Responsabilitatea de a preveni răspândirea imaginilor false revine adesea platformelor sociale – ceva care poate fi dificil de făcut în cele mai bune circumstanțe și chiar mai greu pentru o companie precum X care și-a evidențiat capacitățile de moderare.
Compania este în prezent investigată de UE cu privire la afirmațiile că este folosită pentru a „diseminare conținut ilegal și dezinformare” și ar fi fost interogată cu privire la protocoalele sale de criză, după ce s-a descoperit că dezinformarea despre războiul Israel-Hamas este promovată pe platformă.
