Când ne gândim la deepfakes, avem tendința să ne imaginăm oameni generați de AI. Acest lucru ar putea fi ușor, ca un Tom Cruise profund, sau rău intenționat, cum ar fi pornografia neconsensuală. Ceea ce noi nu imaginați-vă este o geografie profundă: imagini generate de AI de peisaje urbane și peisaje rurale. Dar tocmai asta este îngrijorat de unii cercetători.
Mai exact, geografii sunt îngrijorați de răspândirea imaginilor de satelit false generate de AI. Astfel de imagini ar putea induce în eroare într-o varietate de moduri. Acestea ar putea fi folosite pentru a crea păcăleli cu privire la incendii sau inundații sau pentru a discredita poveștile bazate pe imagini reale prin satelit. (Gândiți-vă la rapoartele despre lagărele de detenție uigur din China care au câștigat credința din dovezile prin satelit. Pe măsură ce falsurile geografice devin răspândite, guvernul chinez poate pretinde că și imaginile respective sunt false.) Geografia profundă ar putea fi chiar o problemă de securitate națională, deoarece adversarii geopolitici folosesc falsuri imagini prin satelit pentru a induce în eroare dușmanii.
Armata SUA a avertizat cu privire la această perspectivă în 2019. Todd Myers, analist la Agenția Națională de Informații Geospațiale, și-a imaginat un scenariu în care software-ul de planificare militară este păcălit de date false care arată un pod într-o locație incorectă. „Deci, dintr-o perspectivă tactică sau de planificare a misiunii, vă instruiți forțele pentru a merge pe un anumit traseu, spre un pod, dar nu este acolo. Atunci te așteaptă o mare surpriză ”, a spus Myers.
Primul pas pentru abordarea acestor probleme este de a face oamenii conștienți că există o problemă, în primul rând, spune Bo Zhao, profesor asistent de geografie la Universitatea din Washington. Zhao și colegii săi au publicat recent o lucrare pe tema „geografiei false profunde”, care include propriile experimente care generează și detectează aceste imagini.
Scopul, spune Zhao The Verge prin e-mail, „este de a demitiza funcția fiabilității absolute a imaginilor din satelit și de a sensibiliza publicul cu privire la influența potențială a geografiei false false”. El spune că, deși deepfakes sunt discutate pe larg în alte domenii, lucrarea sa este probabil prima care se referă la subiect în geografie.
„În timp ce mulți GIS [geographic information system] practicienii au sărbătorit meritele tehnice ale învățării profunde și ale altor tipuri de IA pentru rezolvarea problemelor geografice, puțini au recunoscut sau criticat potențialele amenințări ale falsificării profunde în domeniul geografiei sau nu numai ”, scriu autorii.
Departe de a prezenta deepfakes ca o provocare nouă, Zhao și colegii săi localizează tehnologia într-o lungă istorie a geografiei false care datează de milenii. Oamenii au mințit cu hărți cam atât timp cât au existat hărți, spun ei, de la geografii mitologice concepute de civilizațiile antice precum babilonienii, până la hărți de propagandă moderne distribuite în timpul războiului „pentru a zdruncina moralul inamicului”.
Un exemplu deosebit de curios vine din așa-numitele „orașe de hârtie” și „străzi capcane”. Acestea sunt așezări false și drumuri inserate de cartografi în hărți pentru a-i prinde pe rivali care le fură munca. Dacă cineva produce o hartă care include propriul dvs. Fakesville, Ohio, știți – și puteți dovedi – că vă copiază cartografia.
„Este un fenomen vechi de secole”, spune Zhao despre geografia falsă, deși noua tehnologie produce noi provocări. „Este parțial roman, deoarece imaginile de satelit profunde sunt atât de neobișnuit de realiste. Ochii neinstruiți ar considera cu ușurință că sunt autentici. ”
Cu siguranță, este mai ușor să produci imagini de satelit false decât videoclipurile false ale oamenilor. Rezoluțiile mai mici pot fi la fel de convingătoare, iar imaginile prin satelit ca un mediu sunt inerent credibile. Acest lucru se poate datora a ceea ce știm despre cheltuielile și originea acestor imagini, spune Zhao. „Deoarece majoritatea imaginilor din satelit sunt generate de profesioniști sau de guverne, publicul ar prefera, de obicei, să creadă că sunt autentice.”
Ca parte a studiului lor, Zhao și colegii săi au creat un software pentru a genera imagini de satelit deepfake, folosind aceeași metodă de bază AI (o tehnică cunoscută sub numele de rețele contradictorii generative sau GAN) folosită în programe bine cunoscute precum ThisPersonDoesNotExist.com. Apoi au creat un software de detectare care a reușit să identifice falsurile pe baza caracteristicilor precum textura, contrastul și culoarea. Însă, așa cum au avertizat experții de ani de zile în ceea ce privește deepfakes-urile, orice instrument de detectare are nevoie de actualizări constante pentru a ține pasul cu îmbunătățirile generării de deepfake.
Pentru Zhao, totuși, cel mai important lucru este să crești gradul de conștientizare, astfel încât geografii să nu fie prinși nepăsători. Pe măsură ce el și colegii săi scriu: „Dacă continuăm să nu fim conștienți de un fals nepregătit pentru falsuri profunde, riscăm să intrăm într-o distopie„ geografică falsă ”.”
