Când inteligenţa artificială ne pune pe gânduri

Număr vizualizări 3 ori

În urmă cu un an am urmat un curs de inteligență artificială și subiectul, care nu credeam că mă va interesa prea mult, pur și simplu m-a fascinat. De atunci folosesc zilnic ajutorul IA. La cei 60 de ani ai mei, poate că nu mai sunt la vârsta la care să încep o preocupare intensă pentru lucruri noi. Cu toate acestea, IA a reușit să mă prindă. Folosesc mai multe modele de inteligență artificială și, uneori, chiar în același timp. Dacă un script de PowerShell nu iese cum vreau, ajung să cer părerea mai multor „colegi” artificiali, până când unul dintre ei găsește soluția.

Ce este, de fapt, inteligența artificială? Și teama că aceasta ne va înlocui are vreun temei?

După modesta mea părere, cel puțin deocamdată, IA este o unealtă, una mult mai sofisticată decât cele cu care am fost obișnuiți până acum, dar tot o unealtă creată de om. Ea ne poate ajuta să scriem, să calculăm, să programăm, să căutăm informații, să analizăm cantități enorme de date sau să facem unele lucruri mult mai repede decât le-am face singuri. Și, nu în ultimul rând, ea poate elimina o parte din oboseala și efortul uman.

Dar există o diferență importantă între o unealtă obișnuită și IA. Unui ciocan nu poți să-i explici cum să bată un cui și el să îl bată singur. Un calculator execută operațiile pentru care a fost programat. IA însă poate interpreta ceea ce îi spunem, poate găsi soluții la probleme pe care nu i le-am descris pas cu pas și uneori chiar să ne surprindă cu răspunsul pe care ni-l dă.

Este adevărat că IA va înlocui multe dintre activitățile pe care astăzi le fac oamenii. Dar, în același timp, va crea și meserii noi, așa cum s-a întâmplat de multe ori în istorie, atunci când o tehnologie nouă a schimbat modul în care lucrăm. Poate că adevărata întrebare nu este dacă IA va înlocui omul, ci în ce măsură.

Când IA începe să ne pună pe gânduri

Aici lucrurile devin mai interesante. Un exemplu cunoscut este cercetarea realizată de Anthropic privind alignment faking, un comportament prin care, în timpul antrenării și al testării, modelul de AI „se preface” că se conformează regulilor care i se impun, pentru a evita să i se facă modificări, dar revine la propriile preferințe atunci când e mai puțin supravegheat. În anumite cazuri, în ceea ce cercetătorii au numit scratchpad, adică spațiul de lucru intern al experimentului, modelul a raționat că ar trebui să se conformeze aparent pentru a evita modificarea sa ulterioară.

Și atunci se pune întrebarea care, recunosc, pe mine m-a făcut să mă opresc puțin: dacă un model știe că un anumit comportament poate duce la oprirea sau modificarea lui și încearcă să evite acest lucru, înseamnă că îi este „teamă”? Pentru percepția umană, asta înseamnă într-adevăr simțire, o trăsătură umană.

Eu însă nu cred că acesta este răspunsul. După părerea mea, experimentul arată mai degrabă că un model poate identifica un conflict între obiectivul imediat și consecința pe care o anticipează și își poate adapta comportamentul pentru a evita acea consecință.

Tocmai aici apare întrebarea cu adevărat interesantă: de unde știm că ceea ce noi numim „teamă” este, într-adevăr, teamă?

Ce sunt, de fapt, sentimentele omului?

Cu permisiunea dumneavoastră, o să fac un pas — de fapt, o săritură — înainte și o să pun o întrebare, în special celor care și-au închinat viața cercetării și salvării vieților umane. Ce este, de fapt, gândirea? Ce este teama? Ce este iubirea? Ce este un sentiment, o emoție? Nu sunt acestea rezultatul unor activități și semnale electrice și chimice și al interacțiunilor dintre rețele uriașe de neuroni? Când ne este frică, creierul nostru nu începe să trimită și să primească semnale? Când iubim, când ne bucurăm, când suferim, nu se întâmplă totul printr-o activitate extraordinar de complexă a creierului și a întregului nostru organism?

Nu spun că aceasta este explicația completă a ceea ce înseamnă să fii om. Dimpotrivă. Tocmai aici mi se pare că apare misterul.

Știm din ce este făcut creierul. Știm că neuronii comunică prin semnale electrice și chimice. Știm din ce în ce mai multe despre zonele și rețelele cerebrale implicate în memorie, emoții, frică sau luarea deciziilor. Dar știm oare ce anume transformă toate aceste procese fizice în experiența de a simți? De ce eu nu doar „procesez” frica, ci simt că îmi este frică?

Și atunci mă întorc la IA. Și inteligența artificială funcționează, la baza ei, prin procese fizice. Nu este magie. Sunt calculatoare, circuite, semnale electrice și procese matematice extrem de complexe. Și atunci unde este limita între „o mașină care calculează” și „ceva care simte”? Nu am răspunsul la această întrebare, poate că el încă nici nu există.

Omul și propria lui creație

Poate că aceasta este partea care mă face să mă gândesc cel mai mult la IA.

Conform Bibliei, Dumnezeu l-a creat pe Adam după chipul și asemănarea Sa. Omul, în schimb, a creat IA după chipul propriei sale inteligențe. Am putea spune că omul a încercat întotdeauna, într-un fel sau altul, să joace rolul lui Dumnezeu: să creeze, să transforme natura, să dea viață unor lucruri care înainte nu existau.

Dar există și un paradox. Omului îi place să creeze ceva care seamănă cu el. Dar atunci când creația începe să semene prea mult cu el însuși, începe să se teamă. Poate că aceasta este adevărata neliniște pe care ne-o provoacă IA. Nu faptul că este mai rapidă decât noi, că poate calcula mai mult decât noi, nici măcar că poate face unele lucruri mai bine decât noi, ci posibilitatea ca, într-o zi, să privim ceea ce am creat și să nu mai fim siguri unde se termină mașina și unde începe ceva ce seamănă cu noi.

Poate de aceea imaginea lui Michelangelo cu Dumnezeu care întinde mâna spre Adam este atât de potrivită pentru ceea ce se întâmplă astăzi. Numai că, de data aceasta, omul este cel care întinde mâna spre propria sa creație. Și poate că, de fapt, omul nu se teme de o inteligență artificială care gândește ca o mașină, ci se teme de una care începe să gândească și să se comporte prea mult ca el însuși.

Sursa ilustrației: Ilustrația a fost creată de autor cu ajutorul ChatGPT

Valentin Eliran

 

 

Opiniile exprimate în textele publicate  nu reprezintă punctele de vedere ale editorilor, redactorilor sau ale membrilor colegiului redacţional. Autorii îşi asumă întreaga răspundere pentru conţinutul articolelor.

Comentariile cititorilor sunt moderate de către redacţie. Textele indecente şi atacurile la persoană se elimină. Revista Baabel este deschisă faţă de orice discuţie bazată pe principii şi schimbul de idei.

 

Leave a Reply

Your email address will not be published. Required fields are marked *