Am putea crede că concepția de roboți, AI și mașini automate este un fenomen modern, dar, de fapt, ideea a apărut deja în literatura occidentală cu aproape 3.000 de ani în urmă. Cu mult înainte ca Isaac Asimov să conceapă Legile Roboticii (1942) și John McCarthy să inventeze termenul de „Inteligentă artificială” (1995), miturile grecilor antici erau pline de povești despre umanoizi inteligenți.
Faptul că acești umanoizi mitici îndeplinesc criteriile definițiilor moderne despre robotică și inteligență artificială este impresionant în sine. Dar ceea ce este și mai uimitor este că aceste povești vechi ne pot oferi învățături și perspective valoroase asupra discursului nostru modern despre inteligența artificială.
Astfel de povești „perpetuate de-a lungul mileniilor, sunt o dovadă a persistenței de a gândi și vorbi despre ce înseamnă să fii om și ce înseamnă să simulezi viața”, scrie istoricul Adrienne Mayor, în cartea sa Gods and Robots: Myths, Machines, and Vise străvechi ale tehnologiei.
Cu alte cuvinte, dorința de a ajunge dincolo de oameni și de a crea viață non-biologică prin dotarea inteligenței în mașini pare o parte înnăscută a naturii noastre. Și acesta este motivul pentru care putem găsi înțelepciunea pentru a informa discursul contemporan în mituri vechi.
Prin spaima, speranța și dilemele morale pe care le exprimă, aceste povești ne pot oferi o modalitate alternativă de a procesa unele dintre cele mai presante întrebări referitoare la mașinile inteligente: cât de departe ar trebui să mergem cu AI? Și care sunt implicațiile morale și practice care se profilează ale acestei tehnologii?
Pentru a revizui aceste întrebări, vom analiza trei umanoizi inteligenți din mitul grec: Fecioarele de Aur, Talos și Pandora.
Fecioarele de Aur: nevoia inerentă de tehnologie care economisește forța de muncă
Fecioarele de Aur au fost construite de Hephaestus, zeul focului. Sunt descrise ca asistente din aur care arată ca tinerele vii și pot anticipa și răspunde nevoilor producătorului lor.
Dar, cel mai important, „sunt înzestrați cu semnele distinctive ale ființelor umane: conștiință, inteligență, învățare, rațiune și vorbire”, remarcă Mayor în cartea sa.
Există o paralelă imediată pe care o putem face între mitul antic și societatea modernă: unul dintre principalele motive pentru crearea de mașini inteligente, automate este economic, sau mai degrabă, economisirea forței de muncă.
Ideea că roboții și dispozitivele care acționează singur ar putea acționa ca servitori (sau sclavi) a fost un punct subliniat și de celebrul filozof grec, Aristotel. În prima carte din Politica sa, el contemplă:
Dacă fiecare unealtă și-ar putea îndeplini propria lucrare ascultând sau anticipând nevoile celorlalți, […] și dacă […] navetele ar putea țese și târâtorii ar putea cânta singure la liră, atunci meșterii nu ar avea nevoie de servitori, iar stăpânii nu ar avea nevoie de sclavi. .
Ideea, deși cu mult înaintea timpului său, este de fapt foarte simplă: o societate în care oamenii nu trebuie să facă treaba obositoare și, în schimb, să o delege mașinilor. Și cu cât societatea greacă depindea de instituția sclaviei pentru a funcționa, acum creăm o nouă clasă de servitori mecanici.
Gândiți-vă la aspiratoarele roboți care vă pot plimba pe podele, la roboții chirurgicali care efectuează proceduri chirurgicale complexe sau la roboții militari proiectați pentru a dezarma bombele.
Acest lucru ridică totuși o întrebare interesantă. Deși avem roboți personali care ne pot ajuta cu sarcini mici, adevărata bogăție a automatizării va veni atunci când industrii întregi vor fi distruse și înlocuite cu lucrători liberi. Gândiți-vă, de exemplu, la mașinile cu conducere autonomă, care scot camionerii de la locul de muncă. Dar dacă banii generați din astfel de mișcări nu merg către cei deposedați, cei privilegiați și bogați (adică cei similari lui Hephaestus) vor beneficia cel mai mult.
Această idee este explorată în continuare în miturile continue.
Talos: mașini inteligente în mâinile tiranilor
Spre deosebire de Fecioara de Aur, Talos a fost creat pentru a provoca rău (la fel ca Pandora, dar mai multe despre asta mai târziu).
Talos era un robot gigant de bronz, din nou realizat de Hephaestus. El a fost dăruit de Zeus fiului său Minos, miticul rege al Cretei, pentru a păzi și proteja insula.
Robotul gardian arunca cu pietre uriașe în navele străine care se apropiau de insulă, iar inamicii reușeau să ajungă pe uscat, îi îmbrățișa și îi ardea de vii datorită capacității sale de a-și încălzi corpul de bronz.
Talos nu pare să posede un nivel uman de inteligență, dar este capabil să interacționeze cu mediul său și să îndeplinească diverse sarcini.
De fapt, unele variații mitologice ale dispariției sale sugerează în mod semnificativ posibilitatea ca el să fie conștient de existența lui și că are un fel de agenție.
După cum notează Mayor, „În aceste versiuni, Talos este descris ca susceptibil la fricile și speranțe umane, cu un fel de voință și inteligență.”
Dacă ne uităm la corpus mitologic relevant, ei vor observa că toate astfel de mașini folosite pentru a provoca rău aparțineau conducătorilor tiranici; în exemplul nostru, regele Minos al Cretei și Zeus, tatăl zeilor și al oamenilor, în cazul Pandorei.
Și există o morală notabilă în aceste povești: tehnologia superioară poate ajuta la exercitarea controlului.
Gândiți-vă la roboții militari, de exemplu, care au fost folosiți încă din al Doilea Război Mondial. Pentru a da un exemplu mai recent, războiul din Ucraina a devenit cel mai mare banc de testare pentru vehiculele de luptă autonome și fără echipaj alimentate cu inteligență artificială, evidențiind entuziasmul liderilor militari cu privire la utilitatea potențială a tehnologiei inteligenței artificiale.
Și nu este doar războiul că AI îi poate servi pe cei de la putere.
Poate fi folosit și de regimurile autoritare pentru a urmări cetățenii, a influența fluxul de informații și a marginaliza vocile dizidente, așa cum arată exemplul Chinei.
În același timp, amploarea aplicațiilor AI (în sănătate, finanțe, comerț electronic și așa mai departe) modelează un nou câmp de luptă al puterii geopolitice – așa cum au făcut-o în trecut marile descoperiri tehnologice.
Se așteaptă ca dominarea IA de către națiuni puternice să aprofundeze inegalitățile structurale și să contribuie la noi forme de dezechilibru social și economic. În mod similar, deoarece AI este în cea mai mare parte centralizată (înseamnă că este limitată la proprietatea unei singure entități), va împuternici și mai mult companiile Big Tech care o creează, permițându-le să-și urmeze propriile agende.
Dar au fost aceste consecințe suficient dezbătute de organismele de reglementare ale națiunilor sau de companiile care dezvoltă în prezent AI?
„Cred că companiile și miliardarii din Silicon Valley și Big Tech controlează narațiunea asupra inteligenței artificiale atât de mult încât creează puțin spațiu pentru acel tip de dezbatere care este necesar pentru o tehnologie care crește atât de masiv”, George Zarkadakis, inginer AI, futurist și scriitor. , a spus TNW.
Dacă nu sunt controlate, reglementate legal și îndepărtate de la individ, instrumentele AI nu vor aduce beneficii societății în modul în care ne imaginăm. Iar pericolul ca aceștia să cadă în mâinile unor actori nefericiți care i-ar putea folosi pentru a-și afirma dominația este evidențiat de următorul mit în care teama lui Zeus de a-și pierde puterea de conducere a dus la crearea unei arme periculoase: Pandora.
Pandora: depășirea limitelor
Pandora a fost creată ca instrument de pedeapsă. După ce Titanul Prometeu (numele său înseamnă „prevedere”) a furat focul de la zei și l-a dat omenirii pentru a o ajuta să creeze tehnologie, Zeus i-a poruncit lui Hephaestus să fabrice Pandora.
Umanoidul mitic a fost conceput pentru a fi un rău deghizat în dar, ceva care ar face omenirea să plătească pentru a ajunge mai aproape de nivelul divin, deoarece până atunci focul și tehnologia erau privilegii unice ale zeilor.
Hephaestus a fabricat Pandora, modelând pământ și apă în forma unei femei frumoase. Ea a fost, de asemenea, înzestrată cu trădare, înșelăciune și seducție. La final, Zeus i-a dat un borcan misterios.
După finalizarea ei, Pandora a fost trimisă la fratele lui Prometeu, Epimeteu (numele său înseamnă „retrospectie”), care a uitat avertismentul de a nu accepta niciodată un cadou de la Zeus. Odată ajunsă pe Pământ, Pandora a deschis borcanul dezlănțuind tot felul de rele care aveau să năpădească omenirea pentru totdeauna. Urmând instrucțiunile lui Zeus, ea a sigilat borcanul chiar înainte ca speranța să poată scăpa, prinzându-l în interior.
„Nu este clar dacă Pandora are capacitatea de a învăța, de a alege sau de a acționa autonom”, notează primarul. „Singura ei misiune este să deschidă borcanul tuturor nenorocirilor umane.” În termeni moderni, „ea face ceea ce a programat să facă”.
Există o întrebare presantă pe care o putem explora folosind acest context mitologic: suferim de un complex de zei? Și, cu AI, să ne confruntăm cu elemente pe care pur și simplu nu le înțelegem?
Un element integrant al mitologiei grecești, care este pe deplin exprimat în mitul Pandorei, este noțiunea de hubris. Aceasta se referă la un act care încalcă ordinea naturală prin nesocotirea limitelor fixate divin asupra acțiunii umane în cosmos. Un astfel de act este întotdeauna urmat de o pedeapsă trimisă de Dumnezeu pentru a restabili echilibrul, ca în cazul borcanului Pandorei.
Potrivit lui Zarkadakis, există o mulțime de orgolii și în AI.
„Cred că scopul lui Dumnezeu este să le reamintească oamenilor că ei înșiși nu sunt zei. Și știi, în absența zeilor, avem această problemă, nu? Credem că suntem zei pentru că nu mai avem nevoie de Dumnezeu. Deci ne construim propriii zei care vor fi zeii noștri în viitor”, a explicat el. Și mașinile care ar fi aproape imposibil de deslușit de o ființă umană ar putea fi, de asemenea, infinit mai inteligente, „ar fi ca un zeu”, a adăugat el.
Zarkadakis crede că miturile antice încercau să ne împiedice să mergem pe acea cale alunecoasă; dar oricum mergem acolo.
Aceasta amintește de avertismentul lui Steven Hawking cu privire la pericolul potențial al AI. „Dezvoltarea inteligenței artificiale complete ar putea semna sfârșitul rasei umane”, a spus el în timpul unui interviu acordat BBC. „Ar decola de la sine și ar fi reproiectat într-un ritm din ce în ce mai mare. Oamenii, care sunt limitați de evoluția biologică lentă, nu ar putea concura și ar fi depășiți.”
Deci ar trebui să deschidem borcanul Pandorei?
Alegerea noastră nu diferă prea mult de cea pe care Epimeteu a trebuit să o facă. La fel ca umanoidul antic, AI vine cu o cutie neagră, pe care se bazează învățarea automată a sistemelor Deep Neural Networks (DNN). Aceasta înseamnă că, deși oamenii de știință au acces la intrările și ieșirile pe care le utilizează AI, ei nu știu cum funcționează procesul său de luare a deciziilor.
Nu știm ce se află în cutia neagră, la fel cum Epimetheus nu știa ce este în interiorul borcanului. Morala mitului este clară: gândește înainte de a acționa sau acționează înainte de a gândi – și suferi consecințele. Și pentru a raporta asta la dezbaterea noastră modernă, cu excepția cazului în care luăm în considerare în mod serios posibilele rezultate negative, este periculos să ne grăbim să creăm ceva ce nu înțelegem pe deplin doar pentru că putem.
Pentru a evita deschiderea nechibzuită a borcanului, Zarkadakis sugerează să pună o întrebare vitală susținută de considerații etice și filozofice: „Care este jocul final?” Și pe baza asta, „care ar putea fi costul și consecințele tehnologiei?”
„O mașină care are autonomie deplină și este conștientă înseamnă că este complet gratuită, poate gândi în orice fel și, prin urmare, poate fi potențial periculoasă”, a explicat el. „Riscul numărul unu este dispariția și este suficient de rău în teorie pentru a încerca să construim o astfel de IA și să vedem ce se întâmplă.”
Zarkadakis a remarcat că motivul pentru care suntem pe deplin autonomi este că, ca ființe sociale biologice, suntem echipați cu etică și moralitate.
Dar predarea eticii și moralității sistemelor AI a fost până acum fără succes. Gândiți-vă la scandalurile de rasism ale lui Tay de la Microsoft și Lee Luda de la ScatterLab. Sau, cel mai recent, Galactica lui Meta.
Zarkadakis crede că nu avem nevoie de AI conștientă. „Cred că ceea ce avem nevoie ca societate umană este să trăim o viață mai bună și să avem mai mult timp liber este un obiectiv important pentru asta”, a adăugat el.
„Există o utilitate masivă pentru inteligența artificială care ne ajută să ajungem la acel punct. Ceea ce avem nevoie pentru AI este integrarea socială și ar trebui să regândim absolut autonomia mașinilor și să le revizuim manifestul.”
Cu această abordare, AI ar putea fi, de fapt, inversul Pandorei – un instrument democratic care ne-ar putea ajuta să ne îmbunătățim pe noi înșine și lumea. Și nu ar trebui să fie aceasta misiunea tehnologiei?
De la mit la realitate
Cu mii de ani în urmă, aceste trei mituri au luminat potențialul mașinilor inteligente de a servi unui scop bun (ca în cazul Fecioarelor de Aur) sau de a provoca rău (ca în cazul lui Talos și Pandora) – un potențial pe care îl vedem deja concretizându-se astăzi.
Cel mai important, totuși, ele aduc la iveală un set de întrebări care sunt vitale pentru urmărirea noastră către IA: ale cui aspirații va servi, de la cine va învăța, ce dorim să fie și cât de departe ar trebui să mergem cu ea înainte. depășirea limitelor?
În cele din urmă, AI seamănă mult cu borcanul misterios al Pandorei. Nu știm ce este înăuntru și putem presupune că conține atât bine, cât și rău. În cele din urmă, totul ține de rolul pe care îl vom juca: vom fi ca Prometeu și vom demonstra prevederea necesară sau vom fi ca Epimeteu și vom acționa înainte de a examina consecințele?
Mitul grecesc antic ne-a spus pericolele AI, acum depinde de noi să ascultăm.
