Algoritmii de inteligență artificială pot recunoaște tipare lingvistice asociate depresiei — inclusiv înainte ca o persoană să primească un diagnostic clinic —, dar aceleași instrumente ar putea fi întoarse împotriva utilizatorilor de către angajatori sau platforme digitale. Despre aceste posibilități, și despre limitele lor, vorbește Ana-Maria Bucur, o cercetătoare română de 31 de ani stabilită în Lugano, Elveția, unde activează ca cercetător postdoctoral la Università della Svizzera italiana. Interviul a fost publicat de Spotmedia.
Ce trădează limbajul despre starea psihică
Ana-Maria Bucur a studiat informatica la Universitatea din București, iar doctoratul și l-a realizat în cotutelă cu Universitatea Politehnică din Valencia. Teza, finalizată în 2025, a fost distinsă cu premiul pentru cea mai bună lucrare doctorală în domeniul procesării limbajului natural, acordat în Spania. Deși formată ca informaticiană, a colaborat pe parcursul doctoratului cu specialiști în psihologie, descoperind că problemele care implică oamenii nu pot fi reduse la calcule și algoritmi.
Cercetarea sa urmărește atât construirea unor algoritmi mai performanți pentru detectarea problemelor de sănătate mintală, cât și identificarea diferențelor de limbaj dintre persoanele cu depresie și populația generală. Printre observațiile echipei se numără folosirea mai frecventă a limbajului ofensator de către persoanele cu depresie, posibil ca mecanism de reglare emoțională, dar și indicii mult mai subtile: frecvența pronumelor la persoana întâi, predominanța cuvintelor cu conotație negativă și raportarea preponderentă la trecut în detrimentul viitorului.
Cercetătoarea explică că revenirea repetitivă asupra experiențelor trecute — fenomen cunoscut drept ruminație — este un simptom al depresiei, iar referirile rare la evenimente viitoare pot fi legate de anhedonie, adică diminuarea capacității de a anticipa plăcerea:
„Dacă oamenii vorbesc foarte mult despre experiențele lor trecute și se gândesc încontinuu la asta și ruminează pe chestia asta, acesta este un simptom al depresiei. La fel și partea de verbe la viitor, de întâmplări, de evenimente pe care ei le anticipează.”
Ana-Maria Bucur, cercetător postdoctoral la Università della Svizzera italiana
Algoritmii pot analiza atât semnale explicite — când cineva descrie simptome sau menționează un diagnostic —, cât și semnale implicite, desprinse din combinații de cuvinte și tipare de exprimare. Unele tipare sunt definite de cercetători pe baza studiilor psihologice, altele sunt învățate automat din volume mari de texte. Există cercetări care au identificat semnale asociate depresiei înainte ca persoanele respective să primească un diagnostic clinic, precizează Ana-Maria Bucur, adăugând că nu a studiat personal această dimensiune predictivă. Un algoritm nu poate detecta, însă, suferința pe care cineva alege să o ascundă: o persoană poate publica exclusiv conținut pozitiv pe Facebook, deși se confruntă cu dificultăți serioase. Din acest motiv, echipele de cercetare apelează frecvent la postări de pe Reddit, unde utilizatorii se exprimă sub pseudonim și sunt mai dispuși să discute despre probleme personale.
O altă dificultate majoră ține de transparența algoritmilor. Cu cât unui model i se permite să identifice singur mai multe tipare, cu atât devine mai performant, dar explicarea deciziilor sale devine mai dificilă. Cercetătoarea subliniază că decizia finală trebuie să aparțină unui specialist:
„Niciun algoritm nu poate funcționa perfect în toate situațiile. De aceea, este important ca decizia finală să aparțină unui specialist, de preferat unui psiholog sau psihiatru.”
Ana-Maria Bucur, cercetător postdoctoral la Università della Svizzera italiana
Când tehnologia devine un risc pentru utilizatori
Una dintre aplicațiile posibile ale acestor algoritmi este integrarea lor în platformele digitale, pentru a transmite utilizatorilor care prezintă semnale de risc informații despre servicii de sprijin psihologic. Aceeași tehnologie ar putea fi însă folosită pentru a analiza mesajele schimbate între angajați prin aplicații precum Teams sau Slack. Ana-Maria Bucur avertizează că algoritmii pot fi folosiți atât în beneficiul oamenilor, cât și împotriva lor: un angajator ar putea identifica un angajat cu probleme de sănătate mintală și să aleagă să îl concedieze în loc să îl sprijine. Cercetătoarea consideră că analiza în timp real, la scară largă, a postărilor utilizatorilor fără acordul acestora nu este etică, și propune drept alternativă o aplicație care să proceseze datele exclusiv cu consimțământul explicit al utilizatorului.
O altă zonă care ridică întrebări etice deschise este cea a chatboților folosiți pentru conversații despre singurătate, anxietate sau probleme emoționale. Ana-Maria Bucur înțelege atracția acestor instrumente — disponibilitate permanentă, absența judecății —, dar atrage atenția că un chatbot care confirmă în mod repetat convingerile utilizatorului poate deveni problematic. Un studiu recent realizat în rândul studenților, pe care cercetătoarea îl menționează, a arătat că interacțiunea umană a contribuit mai mult la reducerea sentimentului de singurătate decât conversația cu un sistem AI conceput pentru sprijin emoțional. Cercetările privind efectele emoționale ale chatboților sunt, subliniază ea, încă într-un stadiu incipient.
O categorie aparte o reprezintă așa-numiții griefbots — chatboți care simulează personalitatea unor persoane decedate. Ana-Maria Bucur a luat contact cu această temă la o conferință de specialitate desfășurată recent în Wuhan, China, unde a participat și la organizarea unei sesiuni de prezentări științifice. Unele aplicații permit schimbul de mesaje cu o reprezentare digitală a persoanei pierdute, altele generează personaje virtuale sau videoclipuri. Cercetătoarea consideră că astfel de servicii pot crea dependență, împiedicând procesul natural de acceptare a pierderii, și că platformele ar putea exploata vulnerabilitatea utilizatorilor — de exemplu, oferind serviciul gratuit în prima lună, apoi condiționând continuarea conversațiilor de plata unui abonament.
Viitorul cercetării și dificultățile din România
În ceea ce privește evoluția inteligenței artificiale, Ana-Maria Bucur evită predicțiile ferme, argumentând că ritmul de dezvoltare din ultimii ani este atât de rapid încât nici cercetătorii nu pot anticipa cu certitudine ce urmează. Viitorul său profesional este deocamdată în Elveția, unde condițiile de cercetare sunt, în opinia sa, mai bune decât cele pe care le-a cunoscut în România. Salariile mici și finanțarea insuficientă a proiectelor sunt principalele obstacole care îi determină pe tinerii cercetători români să plece în străinătate. Dacă ar putea construi o echipă în România, cercetătoarea spune că ar continua să lucreze la proiecte interdisciplinare, la intersecția dintre informatică și psihologie.
Sursa articol: https://spotmedia.ro/stiri/opinii-si-analize/ce-poate-afla-ai-ul-despre-sanatatea-noastra-mintala-din-felul-in-care-scriem-cercetatoare-romana-informatiile-pot-fi-folosite-impotriva-noastra
Sursa foto: Pavel Danilyuk / Pexels
