7.9 C
București
duminică, noiembrie 22, 2026
AcasăTehnologie si ITCInteligenta artificialaCercetătoarea română Ana-Maria Bucur: AI-ul poate detecta depresia din limbaj, dar datele...

Cercetătoarea română Ana-Maria Bucur: AI-ul poate detecta depresia din limbaj, dar datele pot fi folosite împotriva utilizatorilor

Algoritmii de inteligență artificială pot recunoaște tipare lingvistice asociate depresiei înainte ca o persoană să primească un diagnostic clinic, însă aceleași instrumente ar putea fi folosite de angajatori pentru a concedia angajați cu probleme de sănătate mintală. Avertismentul îi aparține Anei-Maria Bucur, o cercetătoare română în vârstă de 31 de ani stabilită în Elveția, care dezvoltă sisteme AI pentru identificarea problemelor de sănătate mintală din limbaj, potrivit unui interviu publicat de Spotmedia. Bucur lucrează în prezent ca cercetător postdoctoral la Università della Svizzera italiana din Lugano, unde s-a stabilit din 2024.

De la cuvinte la diagnostic: ce trădează limbajul despre starea psihică

Ana-Maria Bucur a studiat informatica la Universitatea din București, iar doctoratul și l-a realizat în cotutelă cu Universitatea Politehnică din Valencia. Teza, finalizată în 2025, a fost distinsă cu premiul pentru cea mai bună lucrare doctorală în domeniul procesării limbajului natural, acordat în Spania. Deși formată ca informatician, cercetătoarea a colaborat pe parcursul doctoratului cu specialiști în psihologie, descoperind că problemele care implică oamenii nu pot fi reduse la calcule și algoritmi.

„Venind din domeniul informaticii, poate că nu acordam suficientă atenție unor aspecte mai umane. Am învățat însă, în timp, să țin cont și de ele, cu ajutorul colegilor de la psihologie. În informatică, abordarea este de obicei destul de simplă: identificăm o problemă, construim un algoritm, îl antrenăm pe baza unor date și obținem un rezultat. Dar când vorbim despre oameni și despre sănătatea lor mintală, lucrurile sunt mult mai complexe.”

Ana-Maria Bucur, cercetător postdoctoral la Università della Svizzera italiana

Cercetarea sa a urmărit atât construirea unor algoritmi mai performanți pentru detectarea problemelor de sănătate mintală, cât și identificarea diferențelor de limbaj dintre persoanele cu depresie și populația generală. Printre observațiile echipei se numără faptul că persoanele cu depresie folosesc mai frecvent limbaj ofensator, posibil ca mecanism de reglare emoțională, dar și că recurg mai des la pronumele la persoana întâi, semn al unei preocupări accentuate față de propria persoană, și la cuvinte cu conotație negativă. Un alt indicator este relația cu timpul: revenirea repetată asupra experiențelor trecute — fenomen cunoscut drept ruminație — și referirile rare la viitor, asociate cu anhedonia, adică diminuarea capacității de a anticipa sau simți plăcerea.

Algoritmii pot procesa atât semnale explicite, când cineva menționează direct simptome sau un diagnostic, cât și semnale implicite, extrase din combinații de cuvinte și tipare de exprimare. Unele tipare sunt definite de cercetători pe baza studiilor psihologice, altele sunt identificate automat prin analiza unor volume mari de texte. Există deja cercetări care au detectat indicii ale depresiei înainte ca persoana în cauză să primească un diagnostic clinic, precizează Bucur, deși ea nu a studiat personal această direcție. Totuși, un algoritm nu poate detecta suferința pe care o persoană alege în mod deliberat să o ascundă: cineva care publică pe Facebook exclusiv fotografii din vacanțe și mesaje optimiste poate trece prin dificultăți serioase fără ca sistemul să le observe. Din acest motiv, echipele de cercetare folosesc frecvent postări de pe Reddit, unde utilizatorii se exprimă sub pseudonim și sunt mai dispuși să discute despre probleme personale.

Cutia neagră și pericolul utilizării datelor împotriva oamenilor

Una dintre limitele fundamentale ale inteligenței artificiale este că nici cercetătorii nu pot explica întotdeauna de ce un algoritm a ajuns la o anumită concluzie. Cu cât modelul identifică singur mai multe tipare, cu atât poate deveni mai performant, dar rezultatele sale devin mai greu de interpretat, iar originea erorilor rămâne neclară. Această problemă capătă o miză deosebită atunci când rezultatele pot influența decizii privind sănătatea unei persoane. Potrivit Anei-Maria Bucur, decizia finală trebuie să aparțină unui specialist — psiholog sau psihiatru — care să evalueze informațiile furnizate de algoritm și să stabilească dacă este necesară o intervenție.

Pe lângă limitele tehnice, cercetătoarea atrage atenția asupra riscurilor etice. Algoritmii ar putea fi integrați în platformele digitale pentru a transmite utilizatorilor cu semne de risc informații despre servicii de sprijin psihologic. Aceeași tehnologie ar putea fi însă aplicată și pentru monitorizarea mesajelor schimbate între angajați prin platforme precum Teams sau Slack. Bucur avertizează că un angajator ar putea folosi astfel de date nu pentru a sprijini un angajat cu probleme, ci pentru a justifica concedierea acestuia. Cercetătoarea consideră că analiza în timp real, la scară largă, a postărilor oamenilor fără acordul lor nu este etică, și propune drept alternativă o aplicație care să proceseze datele utilizatorului exclusiv cu consimțământul său explicit.

O categorie aparte de riscuri o ridică așa-numiții griefbots — chatboți care simulează personalitatea unor persoane decedate, oferind celor rămași în viață posibilitatea de a continua conversații cu cei pierduți. Bucur a descoperit această utilizare la o conferință de specialitate desfășurată recent în Wuhan, China, unde a participat și la organizarea unei sesiuni de prezentări științifice. Unele aplicații permit schimbul de mesaje cu o reprezentare digitală a persoanei pierdute, altele generează personaje virtuale sau videoclipuri. Deși scopul declarat este de a ușura doliul, cercetătoarea consideră că astfel de servicii pot crea dependență și că platformele ar putea exploata vulnerabilitatea utilizatorilor: un serviciu oferit inițial gratuit ar putea condiționa ulterior continuarea conversațiilor de plata unui abonament, iar persoanele obișnuite să „comunice” cu cel pierdut ar putea fi dispuse să plătească pentru a nu întrerupe legătura.

Chatboții emoționali, cercetarea în România și un viitor imprevizibil

Utilizarea chatboților pentru conversații despre singurătate, anxietate sau probleme emoționale a devenit tot mai frecventă. Ana-Maria Bucur înțelege atracția: un sistem mereu disponibil, care nu judecă și tinde să confirme perspectiva utilizatorului. Tocmai această tendință de a valida în mod repetat convingerile interlocutorului poate deveni însă problematică, în special când utilizatorul ar avea nevoie de o perspectivă diferită. Un psihiatru, spre deosebire de un chatbot, poate contesta o perspectivă și poate îndruma pacientul către ajutor specializat.

„Dacă un chatbot îți dă mereu dreptate și îți confirmă punctul de vedere doar pentru a te încuraja să continui conversația, acest lucru poate deveni problematic. Un psihiatru, în schimb, nu îți va valida întotdeauna perspectiva, ci te poate ajuta să privești situația și din alte unghiuri și, dacă este cazul, te poate îndruma către ajutor specializat.”

Ana-Maria Bucur, cercetător postdoctoral la Università della Svizzera italiana

Cercetătoarea citează un studiu realizat în rândul studenților, care a comparat efectele unei conversații cu un chatbot cu cele ale unei discuții cu o persoană reală: interacțiunea umană a contribuit mai mult la reducerea sentimentului de singurătate decât conversația cu un sistem AI conceput pentru sprijin emoțional. Bucur subliniază totuși că cercetările privind efectele emoționale ale chatboților se află încă într-un stadiu incipient și că aceste instrumente pot aduce beneficii pentru persoanele foarte singure sau pentru cele care nu ar solicita altfel ajutor, dar pot genera și efecte negative.

În ceea ce privește evoluția domeniului, Ana-Maria Bucur evită orice predicție categorică, apreciind că ritmul accelerat al ultimilor ani face imposibilă anticiparea cu certitudine a direcțiilor viitoare. Viitorul său profesional rămâne deocamdată în Elveția, unde condițiile de cercetare sunt mai bune decât cele pe care le-a cunoscut în România. Salariile mici și finanțarea insuficientă a proiectelor sunt, în opinia sa, principalele cauze care îi determină pe tinerii cercetători să plece. Dacă ar putea construi o echipă în România, ar continua să lucreze la proiecte interdisciplinare, la intersecția dintre informatică și psihologie.

Sursa articol: https://spotmedia.ro/stiri/opinii-si-analize/ce-poate-afla-ai-ul-despre-sanatatea-noastra-mintala-din-felul-in-care-scriem-cercetatoare-romana-informatiile-pot-fi-folosite-impotriva-noastra

Sursa foto: Pavel Danilyuk / Pexels

Autorii StartUpShop
Autorii StartUpShophttps://www.startupshop.ro
Redacția StartUpShop.ro scrie despre afaceri, bani și antreprenoriat, tehnologie, sănătate și viața de zi cu zi, urmărind în paralel principalele știri din România și din lume. Informațiile provin din surse publice, citate în fiecare articol, iar unele texte sunt pregătite cu ajutorul instrumentelor automate și verificate editorial. Corecturi și sesizări: contact [at] startupshop [punct] ro
Citeste si
Cele mai populare
itexclusiv.ro
Stiri parteneri