După ce o fotografie realistă, generată de inteligență artificială, a Papei Francisc purtând o haină umflată a devenit virală pe rețelele de socializare anul trecut, Papa însuși pare să fi luat în seamă, potrivit rapoartelor. Reuters. în mesaj Cu ocazia celei de-a 58-a Zile Mondiale a Comunicațiilor Sociale, Francisc a scris: „Nu trebuie decât să reflectăm la problema de lungă durată a dezinformării sub formă de știri false, care astăzi pot fi folosite ca „deepfakes”, adică la crearea și diseminarea de imagini care par perfecte.” „Plauzibil, dar fals (și eu am fost ținta acestui lucru).”
Papa avertizează, de asemenea, împotriva mesajelor vocale care „folosește vocea cuiva pentru a spune lucruri pe care acea persoană nu le-ar spune niciodată”. „Tehnologia de simulare din spatele acestor programe poate fi utilă în anumite domenii, dar devine dăunătoare atunci când ne distorsionează relația cu ceilalți și cu realitatea.”
În martie 2023, un utilizator de Twitter numit „skyferrori” a folosit serviciul de montaj de imagini Midjourney v5 pentru a crea o imagine falsă convingătoare a Papei Francisc purtând o haină lungă, albă, bufantă și cămașă albă. Postat pe serviciu. A devenit rapid viral și astăzi are peste 197.000 de aprecieri și 28,1 milioane de vizualizări. Mulți oameni au crezut că este o fotografie reală și a fost remarcabilă la acea vreme pentru că a fost una dintre primele imagini generate de inteligență artificială care a păcălit un public mare online.
„Am avut această discuție cu un prieten și voi fi sincer, nu credeam că este fals”, a scris un comentator numit „thrillgore” pe forumurile Ars Technica la acea vreme. „Am crezut că este adevărat, chiar dacă am citit mai devreme astăzi că Papa Francisc este un om cumpătat și nu etalează cu bogăția Vaticanului… A fost amuzant ieri, iar acum este absolut terifiant.”
De la lansarea Stable Diffusion în 2022, am acoperit în mod repetat deepfakes și preocupările legate de subminarea încrederii sociale, reducerea calității informațiilor online prin injectarea de zgomot, alimentarea hărțuirii online și, potențial, Și dezactivarea evidenței istorice. Este o problemă nerezolvată, deoarece tehnologia de filigranare este adesea considerată nesigură, iar proiectele de etichetare a metadatelor nu sunt încă acceptate pe scară largă. În esență, capacitatea noastră de a avea încredere în ceea ce vedem online va depinde de cât de mult avem încredere în messenger.
„Dezvoltarea sistemelor de inteligență artificială, cărora le-am dedicat ultimul meu mesaj cu ocazia Zilei Mondiale a Păcii, afectează radical lumea informației și comunicațiilor și, prin intermediul acestora, anumite fundamente ale vieții în societate”, a avertizat Papa. „Aceste schimbări afectează toată lumea, nu doar profesioniștii din aceste domenii. Răspândirea rapidă a inovațiilor uimitoare, ale căror funcționare și potențial depășesc capacitatea majorității dintre noi de a înțelege și aprecia, s-a dovedit a fi atât incitantă, cât și perturbatoare.”
„Scriitor lipsit de apologie. Fan extrem de tv. Alcoholaholic. Entuziast freelance de slănină. Aficionat pe Twitter în mod infuriat de umil. Învățător de bere subtil fermecător.”