Constantin Vică. Când noi suntem produsul. Ce pierdem când delegăm puterea și decizia unui algoritm

În relația de fundal cu tehnologia cred că noi plecăm de fapt din iresponsabil. (…) Asta înseamnă că avem foarte mult de lucru. Nu o zic pesimist, o zic ca pe o invitație la acțiune și speranță, la schimbare, la reflecție permanentă. Tehnologia e o diversitate. Tehnologiile (poate că ar fi mai sănătos să zicem) sunt o multitudine. Nu toate poartă valorile bunăstării, valorile binelui. Unele dintre ele – poate că nu și-au dat seama designerii – poartă niște valori care pur și simplu distrug comunități, distrug democrații, distrug relaționarea între oameni.

Constantin privește tehnologia dintr-o perspectivă interesantă: deși a studiat informatică, a ales o carieră în filozofie și astăzi se ocupă de etica tehnologiei.

Întrebările legate de ce e moral și corect în domeniul tehnologiei par la prima vedere abstracte. Dar ele dezvăluie părți la care nu ne gândim în relația noastră cu ceea ce numim tehnologie: cu telefonul de care nu ne dezlipim, cu platformele de comerț sau de social media, cu fiecare căutare pe internet, cu companiile pe care le fondăm și conducem Întrebări despre dacă noi le folosim pe ele sau ele ne folosesc pe noi, despre cât de multă libertate avem în relația cu un algoritm care ne cunoaște preferințele și stările în detaliu. Nu ne întrebăm în ce măsură folosim un produs sau noi suntem produsul.

Am vorbim cu el despre cum ar fi bine să ne gândim la întrebarea „ce se întâmplă când delegăm mașinilor libertate și putere”, „a cui este responsabilitatea pentru cum folosim sau suntem folosiți de tehnologie” și multe altele.

Constantin Vică este lector universitar la Facultatea de Filozofie și coordonator al Programului de Master în Etică Aplicată și director adjunct al Centrului de Cercetare în Etica Aplicată. Este autorul cărții Civilizație algoritmică și viața în lumea digitală.

Idei principale

Autonomia și responsabilitatea în etica tehnologiei. Într-o lume înțesată de tehnologie și de foarte multă comunicare mediată tehnologic, autonomia – și socială, și fizică, dar mai ales morală – este o problemă importantă. În același timp, autonomia nu poate fi desprinsă de responsabilitate, care la rândul său, e de multe ori relațională, depinde de context. În relația cu tehnologia, pornim dintr-o stare de iresponsabilitate. Lupta noastră este să limităm cât mai mult această iresponsabilitate.
Platformele sociale sunt un instrument de modelare a democrației. Ele modelează opinii, baza oricărei democrații. Chiar dacă sunt afaceri private, au luat locul sferei publice – funcționează ca o agora online. Democrația nu este întotdeauna despre informația adevărată, ci despre acțiune, despre strângerea unor simpatii, despre emoții și opinii – despre influență. În agregarea aceasta e nevoie de mecanisme deliberative corecte și de reguli foarte bune. Dacă avem reguli bine făcute, care au stabilitate, care dau predictibilitate, atunci opiniile se vor agrega într-un mod sănătos.
Răul online este o stare de permanență, de care trebuie să ne ferim cât putem. Acest rău are o altă natură decât cearta între doi vecini sau răul care se poate întâmpla în familie. Are elementul multitudinii și multiplicării, care pur și simplu îi schimbă natura. Nu e doar o ceartă între doi oameni. Răul online nu apare din când în când, el este mereu prezent. Participăm la răul online de fiecare dată când dăm share la un fake news sau când râdem malițios în subsolul unei postări care poate ni se pare imbecilă. Când lăsăm afectul s-o ia înaintea unei atitudini rezonabile, participăm și creăm răul online.
Toți suntem data points. Suntem imense colecții de date asupra cărora nu mai avem controlul. Atenția noastră e ca un sclav tranzacționat. Noi suntem produsul, chiar și când plătim. Pe toate platformele unde avem abonamente, cumpărăm lucruri, noi suntem cei care contează. Toate datele despre noi sunt în tranzacțiile acelea. Am permis asta fiindcă a fost ușor, acum suntem prinși în aceste regiuni autonome – și față de state de la un punct încolo. Încă nu ne-am maturizat în viețile noastre online, încât să cerem să fim recunoscuți ca parteneri egali, nu ca mărfuri.
Asimetria informațională creează și întreține relația de servitute. Informația este de fapt ceea ce reglează piețele, iar asimetria informațională este ceea ce creează inegalitate în piețe. Deținătorul Facebook, sau Amazon, sau al oricărei platforme de genul acesta este cel care deține toată cunoașterea, deci toată puterea asupra platformei. Noi, ceilalți, suntem într-o relație de servitute – și vânzătorul de pe Amazon și cumpărătorul. Nu ieșim din relația aceasta pentru că ne e frică să murim. Nu în sensul biologic, ci fizic, ne e frică de moartea digitală, de moartea noastră ca ființe reprezentate în acest mediu.
Integrarea tehnologiei în viața noastră și riscul de a pierde abilități care ne fac oameni. Sunt multe decizii pe care le delegăm zilnic mașinilor – precum lui Waze, orientarea în trafic sau curățenia în casă lui Rumba. Ar trebui să facem distincția între activități care dau sens și activități care nu dau sens. Să delegăm către Dall-E să ne facă o imagine, în loc să învățăm niște programe și să ne punem imaginația la treabă, duce la deskilling. Și riscăm să pierdem abilități care țin chiar de esența noastră umană. Cum ar fi abilitatea bunei conversații, din cauza modului de comunicare pe platforme precum Whatsapp. Pentru a evita deskilling-ul acolo unde contează, ar trebui să ne întrebăm care este abilitatea pe care o delegăm și dacă vrem sau nu să o exersăm.
De la social media la personal media. E destul de descumpănitor să observăm cum nu doar că puterea noastră personală în raport cu platformele este mică, dar o și pierdem pe măsură ce ne delegăm către aceste medii deciziile și capacitatea de a raționa, și nevoia de stimă de sine și de relație. Dar avem motive să fim optimiști. Tânăra generație, dar nu numai, încearcă să construiască alte spații de interacțiune digitală. Mastodon, de exemplu, e o mișcare întreagă în acest moment. Fiecare își poate face un server, poate participa în mai multe comunități. Angajamentul celor mai tineri este față de lucruri poate mai constructive. Ei nici nu mai stau pe Facebook sau pe X. Nu vor să se mai certe – e plictisitor, nu duce niciunde și îi consumă. De aceea, încearcă să-și creeze mai degrabă un personal media.

Acest podcast este susținut de Dedeman, cea mai mare companie antreprenorială, 100% românească, ce crede în puterea de a schimba lumea prin perseverență și implicare, dar și în puterea de a o construi prin fiecare proiect – personal sau profesional, mai mic sau mai mare. Dedeman promovează inovația, educația și spiritul antreprenorial și este partenerul de încredere al The Vast&The Curious aproape de la început.

Împreună, creăm oportunități pentru conversații cu sens și întrebări care ne ajută să evoluăm și să devenim mai buni, ca oameni și ca organizații.

****

Podcastul Vast&Curious este susținut de AROBS, cea mai mare companie de tehnologie listată la Bursă. E o companie românească, fondată acum 25 de ani la Cluj de antreprenorul Voicu Oprean. AROBS este astăzi o companie internațională, cu birouri în nouă țări și mai mult de 1.200 de oameni și parteneri în Europa, Asia și America.

AROBS crede într-o cultură a implicării, a evoluției continue și a parteneriatului pe termen lung.

Pentru conversații cu antreprenori, sociologi, psihologi și alți oameni destoinici și interesanți despre business, leadership, performanță și natura umană, abonați-vă la podcastul Vast and Curious în Soundcloud, Apple, Stitcher, Spotify

O dată la două săptămâni, punem la un loc câteva texte, idei, cărți atent selectate despre antreprenoriat, leadership, business și natura umană. Abonați-vă la newsletter pentru a le primi, aici.

Această conversație a fost transcrisă folosind platforma Vatis Tech

Transcrierea conversației

Andreea Roșca: Bună, Constantin! Bine ai venit la Vast and Curious! Mă bucur tare mult să te întâlnesc și să stăm de vorbă despre tehnologie și etică.

Constantin Vică: Bună, Andreea! Îți mulțumesc pentru invitație!

Andreea Roșca: Începusem să vorbim un pic înainte să înregistrăm despre un moment care mi se pare că ți-a definit cumva cariera în etică, filozofie și tehnologie.

Constantin Vică: Etică, tehnologie, filozofie și, din când în când, poezie. ☺

Andreea Roșca: Sunt foarte legate între ele. ☺

Constantin Vică: Așa cred și eu.

Andreea Roșca: Spui că îndreptarea către etică a venit foarte devreme în viața ta. A fost un drum lin, care a început devreme. Nietzsche în clasa a 7-a?

Constantin Vică: Da, dar nu e ceva aparte. În anii ‘90 era o explozie de cărți. Pur și simplu se traduceau cărți. Nietzsche, normal, fusese interzis până atunci – motivat sau nemotivat, e o discuție întreagă. Deja adolescenții se apucau să citească Cioran, care a fost de un fel de MTV înainte de MTV. ☺

Andreea Roșca: Se regăseau în el toate dilemele adolescenților. ☺

Constantin Vică: Exact, dilemele adolescenților, o imaginație destul de bogată, un mod de a te provoca de fiecare dată. Din perspectiva asta, e destul de pop-culture.

Andreea Roșca: Nu m-am gândit niciodată la el așa. Mi se pare destul de dark.

Constantin Vică: În generația mea – sau, să zicem, în cercul meu de prieteni, că poate nu toată lumea citea Cioran, alții făceau poate alte lucruri – cu siguranță Cioran era la mare trecere. Era și imediat după ’90, se putea publica Cioran, se putea publica cum/cât trebuie Eliade. Era această întoarcere către interbelic, cu toate problemele care s-au născut acolo, dar care atunci nu erau discutate foarte clar, în anii ’90. Începuse o modă. O anumită editură s-a prins că era o așteptare. Și astăzi adolescenții citesc Cioran. Dar, ca de obicei, am zis să mă diferențiez. Și am văzut într-o librărie Nietzsche, „Ecce Homo”. Mi-am zis: „Ce funny sună! Hai să-mi iau”.

Am citit și, normal, m-a prins patosul lui Nietzsche, faptul că, într-un fel, deschide toată această cale către existențialism, felul în care e întotdeauna antiautoritate. După aia am citit „Dincolo de bine și de rău”. Cum îți ziceam, întâmplător mi-am recitit sublinierile și micuțele notițe de pe colțul sau de la capătul cărții și m-am oripilat, normal. ☺ Îl citeam ca un adolescent hormonal, tâmpit, dar îmi spunea că e mai mult decât ceea ce se întâmplă doar atunci, că există ceea ce s-ar numi „lumii ale gândirii, ale spiritului”. Nu le-am numit așa atunci, ci acum, retrospectiv. Era o invitație într-o călătorie pe care nu prea aveai cum să o faci geografic, nu prea aveai cum să o faci nici cultural prea mult în România. Ne referim la anul 1997-98 – încă tranziție, încă mizerie de colo până colo, încă tristețe multă, nu știam în ce direcție se îndreaptă lucrurile. Cred că tu îți aduci aminte mult mai bine, erai mult mai prinsă în situație.

Andreea Roșca: Da, era o lume sălbatică.

Constantin Vică: Dar și ca adolescent resimțeam o lipsă. Lipsa asta a început să fie acoperită de textul filozofic pe lângă cel literar, pe lângă cel, poate, de istorie și ce mai citeam atunci. Între timp, alte edituri scoteau și alte cărți de filozofie sau mici compendii. Și mai erau – râdem toți acum, cei care am ajuns să lucrăm în domeniul acesta – o serie, Memo, cred că-i zicea, niște cărțulii subțiri, cu o definiție, o trimitere, cumva introductive, foarte de bază. Dar acelea și-au făcut treaba pentru că ne-au deschis orizonturi. Și tot apărând astfel de texte, la un moment dat am luat-o mai metodic, am pus mâna pe istoria filozofiei. Deja cred că începusem liceu. Exista internetul și asta a fost a doua mare deschidere, pe lângă lectură. Într-un fel, chiar mai mare, mai importantă. Internetul îți permitea să descoperi tot felul de lucruri într-un mod anonim. Se descoperi inclusiv texte ale filozofilor clasici – bine, în engleză, franceză, germană, mai puțin în română. Puteai să le citești online. În anii 90, internetul era pentru geeks, așa ca noi, pentru profesori, pentru cercetători și cam atât. Și un pic pentru pornografie. ☺

Andreea Roșca: Înțeleg că aplecarea către tehnologie vine din relația cu mama ta, care a lucrat în domeniul computerelor. Dar în ceea ce privește alăturarea între etică și tehnologie, a fost vreun moment care ți-a modelat drumul în direcția asta?

Constantin Vică: Am descoperit home computerul, HC-ul, în ‘86-‘87 – nu mi-e foarte clar, dar cred că aveam totuși 3 ani și un pic. Mama era profesoară de informatică la Palatul Pionierilor. Atunci am înțeles că nu e doar un obiect decorativ. Foarte devreme mi-am dat seama câte lucruri poți să faci – chiar dacă puteai să faci puține atunci – și ce dezlimitare, ce deschidere, ce provocare e, comparativ cu oricare alt aparat electronic sau cu cărțile. Dar întâlnirea între etică și tehnologie s-a petrecut în momentul în care l-am întâlnit pe profesorul Mihail Radu Solcan, profesorul cu care mi-am făcut licența, după care doctoratul – nu mai e printre noi, se fac 10 ani de când a murit, în 2013. El a fost primul profesor din România care a predat etica informației și computerelor – preda cursul sub numele acesta chiar din 1999. Eu am intrat la facultate în 2002, oarecum târziu raportat cu startul pe care el îl dăduse deja în 1999.

M-am uitat pe cursurile sale. Și-a păstrat o arhivă foarte bună online, încă din ‘97-’98 a avut website, exact ca profesorii din America, Marea Britanie – el fiind profesor de filozofie, filozofie politică, etică, etică aplicată, adică nu un inginer. Dar pentru că avea o lungă experiență de programare – învățase programare în anii ‘80, știa să-și facă singur, să-și construiască un computer. Cumva înțelesese de tânăr, chiar de la începutul anilor ’80, că lumea se va schimba în funcție de această nouă mașinărie universală, numită computer.

Când l-am întâlnit, în anul întâi de facultate, nu am făcut zona asta, asta am făcut-o de-abia din anul al treilea, când mi-am dat seama și că am mai păstrat ceva din abilitățile unui foarte slab programator care am fost în liceu ☺. Asta e! Să spunem adevărul. Nu mă puneți să scriu cod. ☺ Puneți-mă să citesc, să analizez, să evaluez, să testez niște lucruri și să contextualizez. M-apropii cumva de informatică din perspectiva eticii, a vieții sociale. Cursurile cu Mihail–Radu Solcan mi-au dat cumva speranța că putem întâlni fără probleme o perspectivă morală sau filozofică mai largă cu tehnologia și cu practicile noastre tehnologice, care se aflau de-abia la început. Ne aflăm în 2005. O mare parte dintre colegii mei nici nu aveau computer, telefoanele smart erau foarte rare.

Andreea Roșca: Era cu 2 ani înainte de iPhone.

Constantin Vică: Da, exact. De abia asistam la emergența Google. Începuse în ‘98-’99, dar s-a impus cu adevărat în jur de 2004-2005. Apăreau primele discuții despre web 2.0. Dar încă nu vorbeam cu adevărat despre social media. Facebook-ul a intrat pe piața mare de abia prin 2006-2007. Dar deja erau zorii acestei noi lumi, care pentru noi acum, e cotidian.

Atunci m-am îndreptat spre asta. Mi-am propus din anul al treilea să scriu ceva despre open source, despre soft-urile cu sursă deschisă, free softwares, programele libere – pentru că Radu Solcan era un creator de astfel de programe, pentru că era un susținător al acestora și pentru că am înțeles de la început diferența între softul proprietar și softul liber. Internetul și lumea noastră, de fapt, au avansat în felul în care au făcut-o cu ajutorul acestor softuri libere, chiar dacă azi nu prea mai sunt așa la modă, nu mai sunt comunitățile atât de mari și nu mai e atâta interes.

Andreea Roșca: Asta a fost marea promisiune a Internetului, că va democratiza colaborarea, informația și că va face totul să circule liber. Ceea ce nu e neapărat unde am ajuns.

Constantin Vică: Asta a fost și promisiunea cărții într-un anume fel. Și uite că nu s-a întâmplat nici cu ea. A fost și promisiunea radioului. Încă mai există radio amatori, dar nu știu dacă mai există cu adevărat hobbiștii internetului, așa cum au existat din anii 70 încoace, cei care fac de dragul de a face, care au această cultură și etică a hackerilor – în sensul în care bricolăm, meșterim, încercăm orice, cu umor, ne jucăm. Nu ne dorim să controlăm, să monopolizăm, ci o facem de dragul meșteșugului și descoperirii. Acest mod, din păcate, nu cred că mai e la modă, dar încă mai sunt niște oameni care așa gândesc și fac.

Am vorbit acum vreo câteva săptămâni – scuze că fac paranteze, se numește deformare profesională – cu cineva care mi-a zis că lucrau și făceau softuri și progrămele din anii ‘80.
E o persoană care acum are peste 60 de ani. Mi-a zis: – „V-am văzut pe internet că sunteți interesat de partea asta, dar știți, există și o istorie a internetului de dinainte de internet în România. Au existat – mai există și astăzi – aceste găști de oameni care încercau să facă rețele, oameni care am scris programe. Am lucrat la prima rețea de după 1990”. Mi-a povestit despre cineva care a creat un sistem de operare în 1988, în România și l-a trimis undeva, unui mare profesor în America, care a zis – „Incredibil!”. Dar n-am știut să ne orientăm din prima. Ce s-a întâmplat de fapt cu industria IT în România pare că a fost cumva împotriva tuturor așteptărilor. Multă libertate, multă deschidere.

Andreea Roșca: Cred că e o chestie de conectare cu epicentrul lucrurilor. E foarte greu să fii la o periferie de industrie și să strălucești și să fii în avangardă. E deconectare, e finanțare, e interes, e ecosistem, e universitate. Sunt foarte multe lucruri care încet-încet au desprins orice ar fi fost avangardă de tehnologie în România.
Am foarte multe chestii legate de tehnologie care sunt mai degrabă curiozitățile mele. Sunt întrebări pe care eu mi le pun despre cum trăim astăzi și relația noastră cu tehnologia. Dacă ar fi să vorbești despre una-două întrebări importante despre care se preocupă ramura aceasta a filozofiei – etica tehnologiei –, care ar fi acelea?

Constantin Vică: E greu. Dacă ar fi să aleg două, una ar fi problema autonomiei – și sociale, și fizice, dar mai ales morale – într-o lume înțesată de tehnologie și de foarte multă comunicare mediată tehnologic. Cum ajungi să fii un agent moral până la capăt? Deci responsabil, unul care știe cum să se plaseze. Eu nu pot să desprind autonomia de responsabilitate, chiar dacă responsabilitatea nu se reduce la autonomia fiecăruia dintre noi.

A doua întrebare ar fi – din ce în ce mai mult mă preocupă acest subiect – despre expresiile răului. Cum exprimăm răul? De la banalitatea răului care vine uneori din conformism, conformare, chiar dacă cu reguli greșite, uneori chiar inumane. Dar și răul născut din neatenție, multiplicarea răului prin faptul că ceea ce este provocator nu întotdeauna este bun, dar întotdeauna circulă. Pentru că reacționăm destul de emoțional. Pentru că sub această avalanșă, sub aceste cascade informaționale, nici nu avem timp să reflectăm foarte mult.

E această presiune că trebuie să fie AICI, ACUM. Eu o numesc „prezentism”, cu alt sens decât în filozofia istoriei. E această obsesie de a fi întru totul prezent și de a răspunde „Prezent!” – obsesie care s-ar putea să țină de natura umană. Noi nu vrem să trăim într-un trecut, iar viitorul întotdeauna e o serie de posibilități. Dar, cu siguranță, prezentismul acesta este susținut și prin social media. Să ne uităm la simplul fapt că ne e foarte greu să mai accesăm elemente din trecut sau să ne întoarcem către ele – ce am făcut pe social media cum doi-trei ani. S-au consumat, sunt moarte.

Ele pot fi scoase oricând la suprafață, dar ies la suprafață doar când, într-un fel sau altul, e un context în care acele elemente pot fi folosite împotriva ta, împotriva reputației tale. Există chiar o carte apărută acum câțiva ani, care se numește „Răul online”. Acest rău are o altă natură decât cearta între doi vecini, răul care se poate întâmpla în familie…. De ce? Pentru că are elementul multitudinii și multiplicării, care pur și simplu îi schimbă natura. Nu e doar o ceartă între doi oameni, nu e doar o supărare, nu e doar un gest urât pe care l-ai făcut altcuiva. Nu e doar o vătămare clară – ai dat un pumn cuiva sau i-ai zis într-o întâlnire că e o persoană rea, proastă, fără să justifici, fără să argumentezi ceea ce ai zis.

Andreea Roșca: În sensul în care este mereu prezent, rămâne întotdeauna.

Constantin Vică: Și în sensul acesta, foarte bine ai zis. Răul online nu apare din când în când, el este mai degrabă o stare de permanență și trebuie să ne ferim cât putem. De fiecare dată când dăm share la un fake news, participăm la râul online. De fiecare dată când râdem malițios în subsolul unei postări care poate ni se pare imbecilă, participăm un pic la răul online. De fiecare dată când lăsăm umorile noastre, când lăsăm afectul s-o ia înaintea unei atitudini rezonabile, participăm și creăm răul online. În momentul în care pur și simplu facem stocking pe net, urmărim pe cineva pentru că ne pasionează ori vrem să-i creăm un context aiurea sau chiar unul bun, participăm la răul online. Mi se pare că baseline-ul, linia de plecare este, din păcate, una a răului în multiplele sale forme. Și nu neapărat intenționat.

Nu cred că este intenționat de fiecare dintre noi această totalitate de rău online. De fapt, pur și simplu, acesta este mecanismul, mai ales pe social media. Pe cele pe care le avem acum, fiindcă există și alte variante. Există alternativă la X (fost Twitter), la Facebook, la Instagram, la Tiktok. Nu în sensul în care există alte aplicații în care faci la fel, ci alte moduri de a purta comunicarea și de a crea relații relevante. Dar câtă vreme suntem în modul acesta, suntem de fapt foarte aproape de situația celor care își pierd mințile și banii la păcănele. Iar asta se arată foarte simplu. Sunt aceleași mecanisme de captare a atenției și de orientare a interesului nu către ceea ce este scopul tău fundamental, ci către ceea ce este mai degrabă necontrolat de fiecare dintre noi.

Andreea Roșca: Din perspectiva întrebării pe care ai pus-o mai devreme, legată de autonomie morală și responsabilitate, sunt curioasă cum vezi lucrurile cu această dependență pe care o avem de telefoane – prin ceea ce conțin ele, nu pentru că am fi dependenți de un obiect – și nevoia nestăpânită de a fi tot timpul prezenți acolo, de a fi tot timpul conectați, de a banaliza răul, așa cum spui, atunci când participăm la tot ce-i nociv și negativ în social media. A cui responsabilitate este asta și care e relația cu propria noastră autonomie? E o întrebare cam filozofică și cam abstractă.

Constantin Vică: Poate poate fi formulată abstract, dar urmărește ceva extrem de concret. Urmărește modurile noastre de a fi și starea noastră bună sau rea online. Cred că este o întrebare fundamentală, chiar dacă sună un pic abstract, mai de la distanță. E bine să întrebăm și un pic de la distanță, pentru că dacă întrebăm doar din interiorul furtunii, nu ne aude nimeni, furtuna-i prea puternică. Hai să încercăm să privim de deasupra, de pe margine, să ne acceptăm. Uneori spectacolul se vede bine de la mantinelă, uneori un joc de șah se vede bine nu din perspectiva jucătorilor, ci punându-te exact să vezi ambele părți. Așadar, cred că ieșirea în afară este sănătoasă pentru toți.

Fac o paranteză – deformare profesională ☺ –, ne-am apucat cu doi colegi să lucrăm o chestie despre solitudine, despre cât de importantă este și a fost întotdeauna solitudinea pentru sănătatea mentală a fiecărui dintre noi.

Andreea Roșca: Solitudinea care, spre deosebire de singurătate, este voluntară.

Constantin Vică: Da, este voluntară. Nu e o fugire din lume, ci un pas un pic în afară ca să reflectezi asupra ta, asupra relației tale cu ceilalți, asupra lumii în genere. Solitudinea este o bulă de oxigen pentru fiecare versus bulele informaționale în care suntem împinși. Solitudinea în care te regăsești și te construiești în liniște, și pe care tu o alegi. Solitudine care poate fi și de grup.

Andreea Roșca: În ce constă proiectul?

Constantin Vică: Ne interesează să vedem care ar fi spațiile de solitudine digitale online – dacă există –, de ce ar trebui să mergem și spre o cultură a solitudinii – nu înseamnă o cultură a deconectării, și nici a ruperii, ci pur și simplu a replasării, repoziționării – versus o cultură a conectivității în care dispare de fapt conexiunea pură, autentică, genuină, umană. Și ne gândim dacă acesta ar fi un răspuns la situația în care ne aflăm. Mă întorc la întrebarea ta.

Exact cum cred că baseline-ul e răul, starea din care pornim în relația cu tehnologia, în construcția tehnologie-utilizare, este o stare de iresponsabilitate, cel mult de aresponsabilitate. Adică nu-ți dai seama că e un risc legat de tine, de ceilalți și că trebuie să fii responsabil.

Dar eu zic că suntem de fapt iresponsabili și lupta noastră este să limităm cât mai mult iresponsabilitatea noastră. De ce? În primul rând, niciunul dintre noi nu este un agent autonom perfect. Nu a fost și nu va fi niciunul dintre noi. Sunt mai multe motive. Dacă îl citești pe Aristotel, acesta spune că pentru a fi un bun agent, să acționezi corect în viața ta, trebuie: unu, să știi ce este relevant acelui context; doi, să ai capacități deliberative destul de antrenate – de aceea copiilor, de exemplu, nu le cerem să fie așa, îi plasăm în aresponsabilitate. Nu zicem că sunt iresponsabili, zicem că mai au până să dobândească această capacitate; trei, ne spune tot Aristotel, trebuie ca, pe lângă context, pe lângă capacitățile deliberative, să nu fii constrâns în acțiunea ta, să ai o libertate de a alege și de a acționa. Asta ar fi cumva, poate chiar prima condiție.

Nu în ultimul rând, să ai înțelepciune practică. Aceasta nu e rezultatul unor programe de computer sau a unor exerciții de logică, nu este nici măcar rezultatul unor lecturi sau unei școli a vieții, ci a unui amestec între toate acestea și a unei permanente construcții de sine și încercare de a înțelege lumea spre o excelență a caracterului tău moral. E asimptotic, nu înseamnă că vei atinge punctul final. Dar în lumina acestei aspirații, să nu te lași în bătaia vântului.

Așadar, dacă sunt îndeplinite condițiile acestea ale înțelepciuni practice, Aristotel zice că trebuie să fim niște „phronimos” – „phronêsis” este termenul grecesc. În limba română s-a tradus, șmecherește, fler. Trebuie să ai fler, fără îndoială. Deci agentul e liber, e neconstrâns, știe că vrea să facă lucrurile acelea, știe cum să le facă, înțelege foarte clar contextul, deliberează în lumina acestei înțelepciuni practice care e legată de experiență.

Să zicem că poate asta e o teorie maximală a responsabilității. Dar chiar dacă mai tăiem, mai simplificăm, mai dăm la o parte, mai reducem, ne dăm seama că nu putem fi întru totul, 100%, agenți responsabili doar de capul nostru, ca avem nevoie și de o autonomie relațională. De a ne raporta întotdeauna la ceilalți – la prietenii noștri critici sau dușmanii noștri critici –, la cei care reprezintă valoarea în viața noastră – chiar dacă asta e o formă de parțialitate morală –, părinți, copii, prieteni, animalele din jurul nostru, umanitatea ca atare pentru cei care sunt cu adevărat cosmopoliți.

Andreea Roșca: Fiindcă responsabilitatea e relațională de multe ori, depinde de context.

Constantin Vică: Da, exact. Presupune acel context, presupune mai mulți agenți. Și aici intră în joc partea cea mai grea într-un sistem – chiar acum scriu colegii noștri de la Oxford despre cum facem cu sistemele complexe. Pentru că până acum pare că e mai simplu când e unu la unu – sunt responsabil față de copiii mei, față de un prieten, față de studenții mei. Dar când aducem și tehnologia în joc, respectiv această tehnologie care mediază comunicarea, care mediază expresia de sine, accesul la informație, care într-un fel cheamă sau îndepărtează cunoașterea de la noi, când am pus-o și pe asta în joc, noi, ca agenți, nu stăm foarte bine, și relațional apar probleme. Iar pe tot fundalul acesta, în relația de fundal cu tehnologia, cred că noi plecăm de fapt din iresponsabil.

Andreea Roșca: Asta ce înseamnă?

Constantin Vică: Înseamnă că avem foarte mult de lucru. Nu o zic pesimist, o zic ca pe o invitație la acțiune și speranță, la schimbare, la reflecție permanentă. Tehnologia – care e o diversitate – tehnologiile (poate că ar fi mai sănătos să zicem) sunt multitudine. Nu toate poartă valorile bunăstării, valorile binelui. Unele dintre ele – poate că nu și-au dat seama designerii – poartă niște valori care pur și simplu distrug comunități, distrug democrații, distrug relaționarea între oameni.

Tehnologia este și impredictibilă. Oricât de mult te-ai chinui. Ca să produci cu adevărat o tehnologie bazată pe valori, cu design bazat pe valori – numit value sensitive design, asta e o școală întreagă – adică o tehnologie sensibilă la valoarea privacy-ului, a respectului pentru persoane, grijii, convivialității, înseamnă un proces foarte lung de creație. Și degeaba ai făcut-o într-un laborator dacă nu ai început încet-încet să faci un design colaborativ, participativ, al unei comunități.

Dar chiar și așa, s-ar putea să rămână doar oamenii aceia capabili de acea tehnologie și alții să fie seduși. Exact cum pe corăbierii lui Ulise îi seduc sirenele și Ulise îi prinde cu niște sfori ca să pățească asta – noi suntem seduși tot timpul de niște sirene online. Sunt sirene peste tot. Pentru că scopul existenței noastre online nu este întotdeauna scopul nostru. Existența online e despre distribuirea atenției, despre reputație, despre a câștiga o poziție, despre a avea voce. Apropo de ce ziceam, s-a democratizat accesul prin internet, toată lumea poate să vină cu vocea sa, dar asta nu înseamnă că toate vocile sunt egale și nu înseamnă că avem niște criterii clare de a departaja între voci. Mă întorc la problema responsabilității. În relație, s-ar putea să devenim parțialiști – ținem cu ăia mai aproape din tribul nostru, uitând că umanitatea nu se reduce la asta. În tot mixul acesta, de fapt, nu prea e posibil să fim cu adevărat responsabili. Adică autonomi până la capăt.

Andreea Roșca: Și atunci, atitudinea înțeleaptă, virtuoasă, a fiecăruia dintre noi care e? Fiindcă poți să zici că nu participi la povestea asta și atunci să fii cumva în afara tehnologiei respective, ceea ce presupune să-ți asumi un preț.

Constantin Vică: Eu mi l-am asumat și să știi că nu e așa mare.

Andreea Roșca: Așadar, pot să fiu în afară sau pot să interacționez cu ea în altfel. Care e atitudinea sănătoasă, virtuoasă?

Constantin Vică: Odată ce ieși în afară, exact cum zici, nu mai participi la o anumită conversație și pierzi lucruri. Dar să știi că nu se pierd atât de multe. Cum poți să ieși în afara actualelor forme de social media? Făcându-ți metodele proprii de informare, de documentare și păstrând o legătură mai apropiată prin tot felul de mecanisme. Ar trebui să fac o notă de subsol. Eu, față de studenții mei mai tineri, nu consider whatsapp social media. Whatsapp nu este o platformă. Este o serie de canale care reiau într-un fel sau altul vechiul mirc, IRC-ul. Până la urmă, în spate sunt niște concepte de anii ‘80 pentru conversații, de la unu la unu sau de grup. Problema este că felul în care se administrează acest whatsapp și fiind atât de apropiat de platforma Facebook ne aduce în tentația de a-l considera social media și de a muta conținuturi din whatsapp în social media. Dar whatsapp nu ar trebui considerat așa. Deci, dacă îl punem la o parte și înțelegem social media ca fiind acea poziție pe care o ai – de cel mai multe ori public sau într-un grup care e destul de larg – cred că ar trebui să te gândești întotdeauna de cel puțin două ori dacă vrei să participi la conversație. Să te plasezi, pe cât se poate, dintr-o perspectivă empatică chiar și față de cele și cei cu care nu ești de acord. Să te deplasezi într-o poziție în primul rând autocritică – ce tip de contribuție vrei să aduci? Și, nu în ultimul rând, să nu uităm că nu emoția este răspunsul. Emoția este doar vehiculul.

Eu nu cred că ar trebui să punem doar pe umerii utilizatorilor, ca și cum noi toți suntem un fel de Atlas care ține lumea, ci trebuie să schimbăm regulile jocului. Trebuie să reglementăm aceste platforme, pentru că de la un punct încolo, sunt chiar condiția existenței vieții noastre sociale, a vieții noastre democratice. Chiar dacă sunt niște afaceri private, fără îndoială, ele au luat locul sferei publice sau o încastrează.

Andreea Roșca: Locul pieței publice.

Constantin Vică: Da, au luat locul agorei.

Andreea Roșca: Sunt un instrument de modelare a democrației, în acest sens.

Constantin Vică: Exact. De modelare a opiniei, până la urmă, care e baza oricărei democrații. Democrațiile nu sunt despre adevăr. Sunt trei constituții unde se vorbește despre adevăr. Întâmplător, mi se pare că și a Norvegiei sau Finlandei, dar într-un caz aparte, că omul politic nu are voie să mintă. O constituție unde chiar se vorbește despre adevăr e cea a Chinei. Atât vreau să spun. ☺

Andreea Roșca: Surprinzător, nu? ☺ Când o fi fost scrisă?

Constantin Vică: Cred că e destul de veche sau a intrat undeva în anii ‘90. Am scris mai demult pentru Scena9 un articol în care cumva voiam să argumentez că în toată nebunia asta cu fake news, cu dezinformarea, trebuie să acceptăm că democrația nu este întotdeauna despre informația adevărată sau despre propoziția adevărată, este despre acțiune, despre strângerea unor simpatii, despre emoții și opinii.

Andreea Roșca: Despre influență.

Constantin Vică: Da. În agregarea aceasta avem nevoie de niște mecanisme deliberative corecte și de niște reguli foarte bune. Acestea sunt regulile constituționale, legile – nu zic că ale noastre sunt bune, zic că ar trebui să fie bune. Dacă ai reguli bine făcute, care au stabilitate, care dau predictibilitate, deci instituții sănătoase, atunci opiniile se vor agrega într-un mod sănătos.

Mă întorc la situația noastră. Dacă noi avem totuși niște emitenți, cu o minimă reflecție asupra propriilor opinii într-un cadru instituțional al platformelor care să genereze, de fapt, ce e mai bun de acolo, să aproximeze cât se poate adevărul, atunci va fi bine. Dar noi nu suntem acolo.

Platformele nu sunt democratice. Fiecare dintre noi și-a luat un ban din când în când sau i-a dispărut un conținut fără ca uneori să știe de ce. Sunt poliție fără justiție. De exemplu, Google e mai avansat. La YouTube, poți să faci acel rebuttal, poți să ceri să ți se explice, se mișcă mai bine. Dar pe restul platformelor nu se mișcă. Ele sunt aproape discreționar conduse prin intermediul unor boți și algoritmi, normal, nu direct. X-ul e de-a dreptul discreționar condusă acum. Instagram, care nu e despre opinii vorbite, e despre opinii reprezentate vizual, și acela e discreționar condus, într-un fel.

Aceste platforme au niște interese ale lor, interesul de a face profit. Un mod în care faci profit e să pui oamenii să converseze în moduri cât mai suburbane. Nu-i pui, le crezi contextele. Nimeni nu e forțat să facă asta. Este ceea ce François Rabelais numea Abația Thélème. În Gargantua și Pantagruel, la un moment dat e o povestioară despre o abație care va fi construită pentru unul dintre tovarășii lui Pantagrel, pentru că a fost în tovarăș bun. O abație în care toată lumea va fi fericită și va fi stimulată să fie fericită. În care nu se muncește, în care se vorbește, în care ne veselim și atât. Această seducție a unei continue diversiuni prin divertisment e ceea ce ni se întâmplă pe social media acum. Acesta este modul în care ne pierdem un pic din controlul acela puțin pe care îl avem. Spunem orice, producem, ne expunem, îi expunem pe ceilalți. E un continuu angajament față de ceva care moare în câteva zile, nu este esențial niciodată. Dar asta produce destule date pe baza cărora algoritmii vor ști foarte clar în ce clustere suntem, ce facem, ce opțiuni, ce interese, ce slăbiciuni avem ș.a.m.d.

Andreea Roșca: Combin un pic ceea ce spui acum cu ceea ce ai spus mai devreme, și anume că ipoteza de la care plecăm atunci când ne gândim la platformele sociale, la social media, este o ipoteză de iresponsabilitate. Asta mă duce cu gândul la o discuție – pe care sigur că nu o inventez eu acum –, la ideea că de fapt noi suntem produsele, că de fapt atenția ta devine ca un sclav tranzacționat.

Constantin Vică: Foarte bine ai zis, da.

Andreea Roșca: Pe mine mă înspăimântă chestia asta. Ideea că dacă nu plătești pentru ce folosești se numește că tu ești de fapt produsul. Cum te uiți la asta?

Constantin Vică: Vin cu o știre care s-ar putea să ne întristeze și mai mult. Chiar și când plătești, tu ești produsul. Să ne uităm pe toate platformele unde avem abonamente, plătim, cumpărăm lucruri și după aceea ne dăm seama că suntem noi cei care contează pe platforma aia. Pe Amazon, eMag. Toate datele despre noi în tranzacțiile acelea, în pozițiile acelea, și mai ales despre selleri sunt acolo. S-au conceptualizat de mulți ani, să fie vreo 15, și sunt chiar câțiva economiști români din America care participă la discuția asta, piețele cu două sau cu mai multe laturi. Sunt aceste piețe reprezentate de platforme.

Față de piața Bucur-Obor – unde e doamna sau domnul care vinde – tu ai un interes, vrei niște roșii, poate mai negociezi, poate ceri să-ți cântărească nu știu cum, le alegi. Domnul/doamna care-ți vinde știe ceea ce exprimi tu atunci, interesul tău. Ceea ce știi tu despre ei este ceea ce vezi pe tarabă. Asta e cunoașterea pe care o au unii și alții – cunoașterea prețului care semnalizează un interes. E roșia scumpă, înseamnă că e interes mare. E roșia ieftină, înseamnă că e multă roșie pe piață, interes mic ș.a.m.d. Astea sunt fixate oarecum pe ceea ce numim piață liberă. Piața Obor e un model de piață liberă. Deținătorul pieței, primăria de sector, nu știe nimic nici despre intențiile mele, nici despre ale vânzătorului. Nu știe nici măcar câtă marfă are vânzătorul. Nu știe câți bani am eu în buzunar, pentru că nu mă scanează la intrare, nu-mi cere să completez ceva și nu stă tot timpul cu o dronă deasupra capului și cu două microcipuri implantate să vadă emoția mea când văd eu roșia aia. Pe piețele cu două laturi, toate lucrurile astea se știu. Piețele cu două laturi – au spus-o mai mulți oameni, inclusiv libertarieni sau socialiști – nu sunt piețe libere.

Andreea Roșca: Pentru că una dintre părți știe mult mai mult decât cealaltă.

Constantin Vică: Deținătorul pieței știe cel mai mult decât toate părțile la un loc și poate agrega toată informația la un grad de cunoaștere la care Hayek nu credea că putem să ajungem. Hayek care zice de ce n-o să iasă economiile dirijate, planificate. Pentru că nu poți să ai cunoașterea tuturor scopurilor, intențiilor, dorințelor și ajustărilor umane. De aceea trebuie să lași piața liberă măcar în multe zone ca să semnalizeze lucruri, le mai corectezi. Acum, pe piețele acestea cu două laturi, cine deține piața, deține o cunoaștere extraordinară: de la cele mai mici triggere ale cumpărătorului la capacitățile vânzătorului. În funcție de asta, direcționează, stimulează într-o direcție sau alta. Din datele pe care le extrage, îi poate ținti la fel de bine și pe vânzători, și pe cumpărători, ceea ce deținătorul Pieței Obor nu poate să facă. Poate impune doar niște reguli generale de conduită și cam asta e.

Andreea Roșca: Dacă ne întoarcem la ideea că informația este de fapt ceea ce reglează piețele și că asimetria informațională este de fapt ceea ce creează inegalitate în piețe, aici este o enormă asimetrie informațională și de fapt asta e putere.

Constantin Vică: Exact. Puterea de a controla tot, puterea de supraveghea și a pedepsi – ca să-l reiau pe Foucault –, puterea de a îndepărta pe cineva, de a limita accesul cuiva, puterea de a direcționa anumite produse, servicii în funcție de interesul de moment al platformei, în spatele căreia nici măcar nu stau niște oameni. Pur și simplu sunt niște algoritmi complecși care arată niște tendințe. Cu această informație nu că doar știi ce se întâmplă, poți face predicții care de data asta se autoîmplinesc fără probleme pe piața ta.

Andreea Roșca: Pentru că poți să împingi sau să influențezi.

Constantin Vică: Da. Deținătorul Facebook sau Amazon, deținătorul oricărei platforme de genul acesta – chiar deținătorul Uber – este cel care deține toată cunoașterea, deci toată puterea asupra platformei. Noi, ceilalți, suntem într-o relație de servitute. Și șoferul de Uber, și clientul de Uber, și vânzătorul de adidași pe Amazon și cumpărătorul.

Andreea Roșca: Vorbește puțin despre relația aceasta de servitute. Ce înțelegi prin ea și ce înseamnă în viața reală?

Constantin Vică: Relațiile de servitute se întâmplă adesea. Bineînțeles, nu sunt relații instituționalizate de servitute – cum au fost în mod odios de-a lungul istoriei, adică sclavia. Asta nu înseamnă, din păcate, că nu mai există sclavie modernă astăzi, dar nu cred că mai sunt state care să mai accepte instituțional sclavia. Printre primii care conceptualizează, la început de secol 19, relația de servitute este Hegel. Acesta spune că noi, ca ceea ce suntem, conștiințe, ne aflăm într-o relație de supunere: cineva e într-o relație de putere, de stăpân; cineva e într-o relație de supunere. Din acest conflict întotdeauna se naște atât viața psihică – zice că și în interiorul propriei conștiințe avem aceste tensiuni, că nu e o conștiință clară și curată. Unde nu mai e tensiune, înseamnă că e o conștiință de-a dreptul stoică, finală și atunci nu mai are niciun conflict interior.

Dar conflictul de pe poziții de asimetrie, de inegalitate este inerent, este o condiție istorică, o condiție psihologică. Ne aflăm în această dialectică în care cineva stăpânește și cineva este stăpânit, iar cei stăpâniți, dacă au destul curaj, nu le e frică de moarte, de dispariție, cer să fie recunoscuți ca egali. Hegel spune că așa se întâmplă, până la urmă, dezvoltarea spiritului în lume. Așa putem înțelege că se întâmplă revoluțiile, așa putem înțelege că se întâmplă și trecerea de la un regim la altul și chiar maturizarea fiecăruia dintre noi.

Andreea Roșca: Ce înseamnă relația de servitute de care vorbeai mai devreme, în raport cu companii precum Amazon, eMag?

Constantin Vică: Înseamnă că ne e frică de moarte. Nu ieșim din relația aceasta pentru că ne e frică să murim. Dar nu în sensul biologic, fizic. Ne e frică de moartea digitală, de moartea noastră ca ființe reprezentate în acest mediu. Că dacă nu ne-ar fi frică, am ieși la război, am ieși la scandal, am face zaveră. Dar noi nu facem încă zaveră.

Andreea Roșca: Vorbești de creștere psihologică care vine prin revoltă. Dar nu se revoltă nimeni.

[00:40:25]
Constantin Vică: Se pare că încă nu ne-am maturizat în viețile noastre online să cerem să fim recunoscuți ca parteneri egali, nu ca mărfuri, nu drept containere de atenție din care pescuiești atenția. Nu ca grupuri, populații, multitudini. Pur și simplu nu intrăm în lupta asta, pentru că leviatanii, stăpânii ăștia digitali, sunt foarte mari. Și tuturor ne e frică. Să zicem că prinzi un pic de cheag pe Facebook, pe Instagram sau Tiktok – ești influencer – și la un moment dat nu îți place ce face algoritmul, unde te îndreaptă. Raportat la conflicte, anumite opinii nu sunt cenzurate, sunt pur și simplu marginalizate, sunt ascunse.

Andreea Roșca: Sau schimbă algoritmul și îți schimbă modelul de business.

Constantin Vică: Exact. Nu e vorba doar de indivizi, ai observat foarte bine. În aceeași relație de servitute se află inclusiv marii publisheri din lumea asta – New York Times, ca să dau un exemplu – companii serioase, mari, care au nevoie de instrumentele acestea. De ce? Pentru că aici am fost cu toții păcăliți. A venit ceva ușor, s-a pus pe masă via Mark Zuckerberg, și nu numai. La fel și Google AdWords. E un alt tip de piață cu două laturi și aia. Mult mai mare, dacă stăm să ne gândim. Au venit și au spus: „Hei, nu-i așa că e greu să faci o campanie de marketing? Nu-i așa că ai nevoie de atâția oameni, atâta studiu de piață? Eu ți-i am adus pe toți aici și știu secundă cu secundă ce fac, unde au mers, pe ce au dat click, unde le-au fugit ochii, unde au insistat”. Pur și simplu, faptul că ei pot analiza și dacă ai rămas și vrei să postezi și tot dai click acolo și-ți mai iei mâna – nu în sensul că te filmează, pur și simplu frecvența cu care tu mai dai click pe mouse ca să începi să scrii ceva, dar după aia te răzgândești –, în asta se pot observa niște patternuri minimale. Noi nu ne gândim la ele, dar ele agregate pot spune lucruri.

Toți suntem data points, suntem imense colecții de date asupra cărora nu mai avem controlul. Știm că au fost colectate, că ne spun platformele – măcar ne zic: „Facem asta, facem asta…” –, dar noi nu știm cum intrăm în ceea ce se numește guvernare prin procesare algoritmică. Asta nu avem cum să știm, pentru că sunt ascunși sub un văl al secretului toți acești algoritmi.

Andreea Roșca: Și chiar dacă ai ști…

Constantin Vică: Exact. Câtă capacitate ai avea tu, un simplu ONG, o firmă care are șapte angajați, un simplu student, câtă putere ai avea să schimbi ceva? Am permis că a fost ușor, acum suntem prinși în aceste regiuni autonome – și față de state de la un punct încolo –, care cu siguranță nu au același scopuri pe care le avem noi, nici în poziția de cetățeni, nici în poziția de consumatori, nici în poziția de utilizatori. Și asimetria asta este fatală. Și nu putem, ce-i drept, să ducem lupta asta individual. N-ai cum să lupți cu Leviatanul singur. Ți-ai luat ban pe viață. ☺ Ai crescut până la un punct, ai cârtit împotriva stăpânirii, ai încercat ceva poate mai la limită, de dragul de a duce conversația mai departe și vine robotul și zice: „Ah, păi aici este fața unui copil?”. Da, dar poate că eu încercam prin asta să ironizez ceva. Boții ăștia nu au minte. Nu înțeleg, nu au experiența vieții, nu prind niște chestii pe care un copil de 5 ani le-ar prinde dacă e bine socializat. Și n-au cum să prindă.

Andreea Roșca: Vreau să te întreb despre altceva care e legat tot de tehnologie, dar felul în care o folosim sau în care o integrăm în viața noastră. Sunt multe alte decizii pe care le delegăm mașinilor – google maps, opiniile pe care le luăm gata mestecate din social media.

Constantin Vică: Sau îl rugăm pe Chat GPT să spună pentru noi, roboții pe care îi rugăm să facă curat. Delegăm mult, foarte mult.

Andreea Roșca: Începând de la creativitate, când vorbim de Chat GPT – nu mai scriu eu un text, îl rog pe el să îmi spună cum ar trebui să-l scriu.

Constantin Vică: Știi că există masterul de prompting, dar încă nu e în România. Și noi voiam să facem la masterul nostru de etică aplicată un fel de promting. Cum să lucrezi cu aceste instrumente – și nu doar ChatGPT, ci și Dall-E, Mid Journey, toate astea.

Andreea Roșca: Cum să introduci instrucțiuni ca să primești lucruri din ce în ce mai rafinate.

Constantin Vică: Mai rafinate și cumva într-un cadru de moralitate. Asta ne interesa pe noi la masterul acesta.

Andreea Roșca: E job-ul cel mai bine în plătit în momentul acesta, în tehnologie, în lume, dacă nu mă înșel. Cum să nu faci un master de așa ceva? ☺

Constantin Vică: Da, exact. Cred că doi ani de master s-ar putea să fie prea mulți. Dar ai nevoie și de alte aptitudini, nu doar să știi să scrii promturi bine. Și tehnice, dar mai ales antropo-socialo-morale, de comunicare. De aceea aș vedea astfel de cursuri integrate, cum ziceam, într-un master de etică aplicată, într-un master de comunicare, de business, de sociologie, de antropologie.

Andreea Roșca: Cum ar trebui să gândim la întrebarea aceasta legată de cedarea deciziei către diverse mașini, până la urmă?

Constantin Vică: Cred că ar trebui să pornim de la distincția: decizii pe care vrem să le delegăm și o facem în mod conștient, după ce am deliberat, versus decizii care ne sunt delegate și nici nu ne-am prins că am pierdut cumva decizia.

Andreea Roșca: Sau decizii pe care vrem să le delegăm, dar pierdem cumva un skill, o abilitate.

Constantin Vică: Ăsta ar fi unul dintre efecte. E clar că ușurează lucrurile să mergi cu Waze-ul. E mult mai ușor să-lași pe Rumba să facă prin casă curat, fără îndoială. Ar trebui să mai facem și distincția între activități care dau sens și activități care nu dau sens. De exemplu, să delegi către Dall-E să-ți facă o imagine, în loc să înveți tu niște programe și să-ți pui imaginația la treabă, asta mi se pare că duce la pierderea de abilități, acel deskilling. A existat cumva în fiecare epocă – pierzi niște abilități, dobândești altele –, întrebarea este ce dobândim totuși? Și dacă nu cumva, aceste abilități odată pierdute – ele nu au venit către noi genetic, au venit cultural – nu mai putem să le dăm unor generații viitoare, pentru că nu mai are cine? Și atunci o să ajungem în situația în care, la un moment dat, oamenii chiar nu se vor mai putea orienta fără așa ceva, deloc.

Andreea Roșca: Mă văd pe mine cum am început să pun Waze sau Google Maps. Îmi spun că-l pun ca să-mi dau seama cât e de aglomerat e drumul și cât fac, dar îl pun pentru că mi-e mai ușor așa, că nu trebuie să mă mai gândesc. Și chestia asta mă enervează. Mi se pare că-mi deleg decizia și-mi deleg liberul arbitru.

Constantin Vică: Da. Pe de altă parte, viața noastră presupune să lucrăm destul de mult în sisteme socio-tehnice în care folosim un computer, un telefon ca să facem niște lucruri. Chiar și când mergem, suntem corp comun cu mașina, cu autovehiculul nostru. Chiar și când dai cu sapa, pentru cei care încă mai fac asta. Pare că robotizăm și asta, ceea ce un lucru bun. Eu cred că agritech-ul – iar aici România stă destul de bine, văd niște proiecte fascinante, impresionante – ar trebui dus mai departe. Da, pierdem arta veche de-a cultiva pământul, dar nu cred că e vreo mare pierdere. Bine, ar trebui să conservăm foarte clar și să documentăm cum se făcea, pentru că oricând se poate întâmpla ceva și să nu mai funcționeze această tehnologie.

Andreea Roșca: Deci spui că ar trebui să ne întrebăm care este abilitatea pe are o delegăm și dacă vrem sau nu să o exersăm.

Constantin Vică: Și dacă avem totuși undeva depozitat know-how-ul despre abilitate aceea și cum să o redeprindem în momentul în care vom mai avea nevoie de ea. Să zicem că urmează o criză foarte nasoală a energiei și vom avea doar 4h/zi electricitate. Cei născuți până în ‘89 ne aducem aminte, 4-6 ore doar în care vei putea folosi Google Maps, doar atunci va funcționa. Internetul are nevoie de electricitate, la fel device-urile acestea din mâinile noastre. Ce vom face într-o astfel de situație, sau în situația unui război – care nu mai e atât de fantasmagoric ca acum 10 ani –, sau, de ce nu, în cazul unei furtuni solare cumplite ce ar rade sistemele care sunt magnetice toate? Ce vom face în acel moment? Asta ar fi, să zicem, dintr-o perspectivă mai apocaliptică.

Sunt tot felul de alte abilități, cum ar fi abilitatea bunei conversații, a unei conversații plăcute, cu stil, cu rafinament. Dacă o pierzi, nu cred că mai are cine să te mai reînvețe, pentru că o cam pierdem toți. O să ne uităm la niște filme cum se uită copiii astăzi la filme în care apare un telefon cu disc din anii ‘80 sau la un mainframe și nu înțeleg că acela e tot computer. Sau cum se uită inclusiv la bicicleta Pegas care n-are 100 de viteze, 15.000 de frâne și nu știe să facă tumbe. Aici mi se pare un risc.

Andreea Roșca: De a pierde niște abilități care ne fac oameni.

Constantin Vică: Exact. Calitățile acelea care țin de capacitățile sociale, de caracterul moral. Nu ne prindem cum delegăm acest exercițiu, pentru că ne e foarte simplu. De exemplu, scriem foarte repede pe whatsapp. Aproape nimeni nu mai are o parte introductivă, trimitem două-trei cuvinte, două rânduri, next. Unde e paragraful? Paragraful este unitatea fundamentală de înțelegere a unui text. Nu mai există paragraf. Bineînțeles, de la Twitter încoace nu-ți mai pui problema paragrafului. Dar dacă vrei să transmiți semnificație cum trebuie, te ajută paragraful, te ajută o limbă bine lucrată. Te mai ajută și un emoticon din când în când, și un GIF animat. Dar din când în când. Pentru că GIF-ul animat, emoticonul, chiar dacă interpretarea e clară, la câte sunt astăzi și la cât se schimbă, la cât de variată e utilizarea… Acum adolescenții, de exemplu, când văd ceva funny, nu mai trimit smiley face-ul nostru, ei trimit capul de mort care înseamnă că ei mor de râs. ☺ Dacă nu știi asta și primești capul de mort, te gândești: „Ăsta mă amenință cu moartea?” Acesta e un exemplu foarte simplu despre cât de indeterminat e de fapt sensul și, automat, semnificația, când folosești elemente vizuale sau doar elemente vizuale.

Dizabilitatea de a construi fraze mai lungi, explicative, s-ar putea să o resimțim pe termen lung. Să ne închipuim politicieni care vorbesc doar în emoticoane sau funcționarul public care îți arată două gif-uri și trei stickere și alea sunt documentul. ☺ Acesta e un tip de abilitate care, odată pierdut, e foarte greu de a-l reînvăța. Știm cât de greu de învățat e în primă instanță, când mintea e proaspătă, darămite să faci asta după o anumită vârstă. S-ar putea să mai pierdem, odată ce ne aflăm în sistemele acestea cuplate – nu e vorba doar de a delega –, o anumită intimitate cu sine. Dincolo de faptul că aproape toți trăim în public sau în ochii celorlalți. Dar asta e o treabă a modernității. Rousseau avea observația că oamenii moderni trăiesc foarte mult în stima celorlalți și vor să fie bine văzuți.

Andreea Roșca: Iar felul în care folosim tehnologie exacerbează asta. Suntem tot timpul pe o scenă unde vrem să primim aplauze.

Constantin Vică: Acesta e un motiv pentru care oamenii ies de pe Facebook, iar România cred că e în al doilea an de scădere, poate chiar al treilea. A scăzut undeva la vreo 500-600.000 de utilizatori în ultimii 2 ani, dacă datele pe care le-am găsit sunt corecte. Și nu cred că e doar prin moartea acelor utilizatori. Apropo, Facebook e cel mai mare cimitir al lumii în momentul actual, sunt foarte multe conturi ale unor persoane care nu mai există.

Trăim în public, trăim în stima celorlalți. Dar ce mai rămâne din stima de sine? Iar stima de sine, dacă o gonflezi nu-i bine, dacă e în jos, iar nu-i bine. Normal, social media te duc spre gonflare. Dar pentru că e la fel de profitabil până la urmă pentru platformă să și reducă stima de sine a cuiva, se întâmplă și asta. Și acesta e un motiv pentru care oamenii ies. Nu zic că e singurul, dar unul dintre motive este că, pe lângă aplauze, ți-ai luat și un scuipat și n-ai fi vrut asta. Noi uităm că de fapt, în lunga istorie a spectacolului, întotdeauna există niște dușmani în public care te fluieră. Trebuie să acceptăm că dacă nu te fluieră, e ceva în neregulă. Ori ți s-a plătit publicul, ori e amorf.

Andreea Roșca: Și dacă te gândești la actorii de comedie, la cei care fac stand-up, de exemplu, citeam acum câteva zile că Steve Martin a făcut povestea asta 10 ani de zile. 10 ani a fost fluierat, dar și-a asumat că era parte din joc. Doar că noi acum vrem faima, dar nu mai vrem regulile jocului. Asta iarăși cred că e o deformare de așteptări.

Constantin Vică: Da, o deformare la care platformele au contribuit multă vreme pentru că ascundeau cumva acest acest rău al fluieratului, al scuipatului. Acum nu-l mai ascund pentru că și acesta produce engagement, produce distrarea de la ceea ce trebuie tu să faci – mâncare, să termini excel-ul, să ai grijă de copil sau să mergi la școală. Tu te distragi acolo, pentru că: „Asta e! Ne mai fluieră, dar ne și pupă, ne și aplaudă”. Dar fluieratul s-ar putea să fie prea tare uneori.

Andreea Roșca: E destul descumpănitor ce spui, în sensul în care puterea noastră personală este mică și o pierdem pe măsură ce ne delegăm către aceste medii deciziile și capacitatea de a raționa, și nevoia de stimă de sine și de relație. Pe de altă parte, probabilitatea să existe o reglementare care să întoarcă lucrurile unde erau este probabil către zero. Spune-mi, te rog, un motiv pentru care am fi optimiști.

Constantin Vică: Sunt câteva motive. Unul dintre motive e legat de faptul că măcar la nivelul unor tendințe și tânăra generație, dar și oamenii ca noi, care poate nu mai suntem tineri, încercăm să construim alte spații de interacțiune digitală. Mastodon, de exemplu, e acum o mișcare întreagă. Fiecare își poate face un server, poate participa în mai multe comunități. Unele sunt mai moderate, unele mai puțin moderate, dar toate sunt oarecum specializate. Să ieșim din această obsesie de a le avea pe toate într-un singur loc. Acesta ar fi poate un pas.

Apoi, angajamentul celor mai tineri este interesant și este față de lucruri poate mai constructive. De aceea ei nici nu mai stau pe Facebook sau pe X, pentru că nu vor să se mai certe. E plictisitor, nu duce niciunde. S-au prins, îi consumă. Și atunci încearcă să-și creeze mai degrabă un personal media. Acesta ar fi, să zicem, un semn interesant. Să vedem cum va decurge. De bine, de rău, noi trăim în Uniunea Europeană și există o stare legislativă mult mai bună decât în oricare alt loc al lumii. Cel puțin ca protecție. Birocrația poate să blocheze alte tipuri de birocrații care nu ne apar ca birocrații, dar se comportă fix la fel. ☺

Legislativ putem face niște lucruri, poate cu ajutorul acestui AI Act care încă se mai negociază, se mai discută – nu știm când va fi gata, ar fi trebuit în noiembrie, dar nu e foarte clar. Pornind de la asta, poate putem să construim niște piețe de ONG-uri, de companii, de simpli utilizatori care să pună mâna să construiască acele modele de inteligență artificială către care să delegăm ceea ce se poate delega, dar în același timp să ne fie bune companioane, tovarășe de drum. Sisteme care să fie de partea noastră, să poți învăța mai bine la matematică, să poți să te exprimi mai frumos, să îți dezvolți un orizont. Un bun Chat GPT care nu lucrează pentru open AI lucrează pentru fiecare dintre utilizatori înseamnă un open source AI.

Andreea Roșca: Pai Open AI e open?

Constantin Vică: Nu e open. ☺ E nevoie de un adevărat open AI, sisteme de inteligență artificială deschise, cu adevărat. Și atunci, o să avem companionii aceștia și o să facem diverse lucruri.

Andreea Roșca: În timp ce vorbeai de Open AI, mi s-a conturat o întrebare. În primul rând, sunt cantități enorme de investiții care sunt îndreptate către zona aceasta de tehnologie de tip AI. Sunt zeci de miliarde de dolari, dacă nu mai mult, numai anul acesta, care fac posibile astfel de salturi. Și doi, să nu uităm din discuție valoarea inovației. Libertatea aceasta de crea, care sigur că are consecințe neașteptate, are consecințe pe care nimeni nu le-a dorit sau prevăzut – nimeni nu s-a pornit să construiască o platformă precum Facebook, care a adus atâtea efecte adverse, cu intenția asta de la început. Dar fără libertatea de a experimenta și de a inova, și fără aceste investiții care merg în tehnologie, care permit aceste salturi care sunt comerciale, probabil că lumea ar fi un loc care avansează mult mai încet.

Constantin Vică: Da, dar înainte de aceste investiții și în conformitate tocmai cu libertatea asta a descoperirii – e și o cercetătoare din Italia, Mariana Mazzucato, o economistă care a scris „Statul antreprenorial” –, Ai-ul pe care îl avem astăzi nu ar fi fost posibil dacă n-ar fi existat o cercetare finanțată puternic de noi toți prin intermediul statului. N-ar fi fost posibil dacă n-am fi avut universități, majoritatea cu finanțare publică sau private și cofinanțate public, în care s-ar fi dezvoltat profesori, cercetători, studenți care fac asta. Uităm un lucru – aproape toate sistemele de inteligență artificială sunt într-o anume fel copiii noștri, ai tuturor. Din datele noastre, din „CAPTCHA” ăla pe care îl completăm ca la balamuc, ca să dau un exemplu minimal.

Andreea Roșca: Care ajută, practic, algoritmii să învețe ce e real și cum arată realitatea. Că noi asta facem, alimentăm învățarea roboților.

Constantin Vică: Exact. Noi suntem alimentarea din spate. Mai mult, a fost foarte multă muncă umană: lingviști, matematicieni, biologi, filozofi, care în cercetările lor – uneori finanțate, alteori nefinanțate de către companie – au făcut contextul posibil. Nu vreau să reduc cu nimic meritele celor care riscă investind acolo, dar nu a mai fost chiar riscul care ar fi existat dacă ar fi fost să investești în anii ‘60 în inteligența artificială. Dincolo de toate astea, însă, cred că aceste companii, aflându-se într-o poziție aproape de un oligopol – mă refer mai ales la LLM-uri, la modelele acestea mari care cer multă putere de computație…

Andreea Roșca: Large language models, pe care e bazat Chat GPT-ul.

Constantin Vică: Exact. Chat GPT care e un tip de astfel de aplicație. Acum toată lumea are. Microsoft a anunțat acum două-trei zile că lansează unul nou. Google-ul îl are pe al său, Facebook-ul îl are pe al său. X-ul vine acum cu ceva nou. Toate acestea vin – să nu uităm – pe 200 de ani de cercetare în lingvistică, pe zeci de ani de cercetare în informatică computațională, mii de ani de matematică, foarte, foarte multă creativitate care se formează în școli, în computer science. De aceea, dacă asta a făcut posibil ce au făcut aceste companii și în același timp companiile au această poziție de oligopol, nu cred că ar trebui să le lăsăm așa, la voia întâmplării. Normal, el încearcă să se autoreglementeze, dar îți spun din experiența pe care am avut-o în ultimii ani, în care am analizat sute de coduri de etică – aceste coduri sunt mai degrabă decorative.

Etica în aceste companii de AI este o monedă interesantă de tranzacție, dar e departe de ceea ce ar fi nevoie. Chiar dacă Casa Albă dă acum reguli, chiar dacă Vaticanul are propriul cod moral, chiar dacă avem un AI Act, acesta al Comisiei Europene, este mult prea puțin, este formal și este pe margine. Un cod de etică nu te face mai atent la problemele morale, așa cum un curs de etică nu te face de la sine o ființă mai bună moral. Dacă nu înțelegem asta și vom îmbrățișa inovația doar de dragul inovației – nu zic că e cazul nostru, că ne uităm într-un context larg – dar încă mai e discursul acesta de evanghelizare, că vine tehnologia și salvează, repară tot.

Asta se numește salvaționism digital, care se bazează pe un determinism tehnologic – că tehnologia va veni și va schimba ceva radical și că noi nu mai putem să controlăm și trebuie să ne supunem. Din păcate, acesta a fost și discursul din spatele social media – „Nu ești pe social media, nu exiști, ești predeterminat de această platformă. Va trebui să accepți chestia asta”. Și uite câte minți s-au dat peste cap. Într-un fel, poate e bine, că a ieșit mai mult la suprafață răul lumii și atunci știi cu ce ai de-a face, dar în alt sens poate că merita să fie filtrat.

Andreea Roșca: Asta e pentru o discuție ulterioară, apropo de natură umană, care este preponderent rea sau preponderent bună și care este scoasă la suprafață sau formată într-un fel sau altul.

Constantin Vică: Aici sunt 300 de ani de discuție, pe chestia asta cu natura umană. ☺

Andreea Roșca: O păstrăm pentru episodul doi. ☺ Ne spui două cărți pe care le-ai recomanda, care sunt legate de ceea ce am discutat?

Constantin Vică: Ar fi în primul rând cartea colegului și prietenului meu Răzvan Rughiniș, „Societatea digitală”, care a apărut în 2022 la Humanitas, cu subtitlul: „Stăpâni, cetățeni sau sclavi”. E o lucrare care face lumină în toată această discuție. Răzvan Rughiniș este profesor la automatică, dar și absolvent al masterului nostru de etică aplicată și cercetător în zona eticii și a ceea ce am numit larg, context social, informatică socială. Recomand cu drag cartea sa. Nu trebuie să fii student la filozofie, nu trebuie să fii nici măcar student la inginerie și prinzi cartea.

Îmi fac și eu reclamă. ☺ Am scot anul acesta o carte, „Civilizația algoritmică și viața în lumea digitală”. E apărută la Editura Universității din București și cred că acum, din noiembrie va fi în acces liber online. Dacă nu, se poate comanda de acolo. Mai am o carte care mi-e foarte dragă, a unui prieten american, James Williams, care a terminat la Oxford, a făcut Digital Ethics și are o carte apărută la Cambridge University Press în 2018 sau 19 – „Stand out of our light”. E despre economia atenției și ce se întâmplă în lumea digitală. A fost un vizionar de-a dreptul și e o carte care curge superb. Se poate descărca gratuit de pe site-ul cambridge.org.

Tot în zona de social media și de înțelegere a ceea ce ni se întâmplă, mai demult s-a tradus și în română o carte a lui Michael Lynch, „Internetul nostru”. Titlul englezesc este „The Internet of Us” – cumva internetul din noi, al nostru, printre noi, prin noi – e un joc acolo.

Andreea Roșca: Mulțumesc pentru o discuție foarte interesantă și o grămadă de idei pentru următoarea pe care o vom face!

Constantin Vică: Mulțumesc mult pentru invitație și că m-ai stârnit! Și da, conversația continuă, dar să ducem arta conversației mai departe în același timp. ☺

Resurse

Află mai multe informații despre Constantin Vică:

Din descrierea de pe site-ul Facultății de Filosofie din cadrul Universității București sau din acest interviu realizat de hotnews.ro.

Cărți scrise de Constantin Vică:
Civilizația algoritmică și viața în lumea digitală

20002020

Citește și articolele semnate de Constantin Vică pentru scena9.ro, printre care și cel menționat în conversație: Politica zilelor noastre rămâne un mod încă primitiv de a camufla violența

Filozofi menționați în conversație și cărți scrise de aceștia:

Friedrich Nietzsche – Ecce Homo, Dincolo de bine și de rău

Mihail Radu Solcan

Michel Foucault

Georg Wilhelm Friedrich Hegel

Jean-Jacques Rousseau

Alte cărți menționate în conversație și/sau recomandate de Constantin Vică:

François Rabelais – Gargantua și Pantagruel (Abația Thélème)

Răzvan Rughiniș – Societatea digitala. Stapani, cetateni sau sclavi?