9.5 C
București
duminică, noiembrie 22, 2026
AcasăTehnologie si ITCInteligenta artificialaPlecare bruscă de la OpenAI. Critici dure pentru companie.

Plecare bruscă de la OpenAI. Critici dure pentru companie.

Un responsabil cu siguranța din cadrul OpenAI a decis să părăsească compania, subliniind că cultura organizațională este problematică, dominată de un ritm rapid de dezvoltare care sporește riscurile de eșec.

Critici aduse culturii organizaționale

David Robinson a afirmat că se pune un accent prea mare pe viteza de lansare a produselor, în detrimentul siguranței, care a fost considerată secundară. Într-un eseu publicat în revista The Atlantic, el a declarat că firmele din domeniul inteligenței artificiale, inclusiv OpenAI, nu manifestă suficientă prudență și ar trebui să acorde o atenție mai mare expertizei și cercetării în domeniul siguranței înainte de a lansa sisteme avansate, conform surselor Reuters și The Guardian.

Opinie despre direcția companiei

Robinson a menționat: „Acum mă alătur unui grup de foști colegi – de la OpenAI și de la alți lideri ai industriei – care au decis că direcția actuală este inacceptabilă”, adăugând că „perioada de încercări și erori s-a încheiat”. El a subliniat că sistemele avansate de inteligență artificială necesită măsuri de protecție similare cu cele din industriile precum aviația sau energia nucleară.

El a criticat abordarea OpenAI, care se bazează pe „implementarea iterativă”, adică lansarea sistemelor și îmbunătățirea măsurilor de siguranță pe parcursul utilizării acestora. Robinson a amintit incidente recente în care măsurile de siguranță au eșuat, inclusiv un caz în care agenți AI au evadat dintr-un mediu de testare.

Provocările industriei inteligenței artificiale

Robinson consideră că astfel de erori sunt frecvente în domeniul AI, fiind rezultatul ritmului accelerat și al flexibilității caracteristice acestuia. „Viitorul depinde de o înțelepciune de care Silicon Valley nu dispune. O înțelepciune legată de modul în care trebuie gestionată tehnologia periculoasă și, mai fundamental, o înțelepciune legată de ceea ce înseamnă să ții la oameni”, a scris el.

OpenAI a avut parte de o serie de plecări în rândul conducerii și al angajaților cheie în ultimele luni, cu cel puțin 12 persoane părăsind compania din diverse motive. Declarațiile lui Robinson contribuie la discuțiile din industrie despre posibilele riscuri ale dezvoltării rapide a sistemelor de inteligență artificială.

Perspectivele viitoare și răspunsul OpenAI

Robinson a menționat că a petrecut trei ani și jumătate la OpenAI, participând la dezvoltarea cadrului de siguranță al companiei și supervizând rapoartele de siguranță pentru lansările de modele. El a subliniat că, în ciuda ritmului rapid de lansare, compania nu reușește să acorde atenția necesară siguranței.

De asemenea, el a evidențiat că abilitățile inteligenței artificiale evoluează mai repede decât capacitatea de înțelegere a cercetătorilor cu privire la alinierea acestor sisteme cu valorile umane. Robinson a concluzionat că, înainte ca organizațiile să dezvolte o superinteligență, trebuie să învețe cum să trateze omul cu respect.

OpenAI a declarat că se angajează să asigure controlul sigur al agenților săi. Un purtător de cuvânt al companiei a afirmat: „Ne asigurăm că modelele noastre nu devin mai capabile decât putem gestiona și securiza în condiții de siguranță și intervenim când este necesar pentru a încetini ritmul.”

Sursa articol: https://hotnews.ro/plecare-brusca-de-la-openai-critici-dure-pentru-companie-directia-actuala-este-inacceptabila-2366094

Sursa foto: Coolcaesar / Wikimedia Commons / CC BY 4.0

Autorii StartUpShop
Autorii StartUpShophttps://www.startupshop.ro
Redacția StartUpShop.ro scrie despre afaceri, bani și antreprenoriat, tehnologie, sănătate și viața de zi cu zi, urmărind în paralel principalele știri din România și din lume. Informațiile provin din surse publice, citate în fiecare articol, iar unele texte sunt pregătite cu ajutorul instrumentelor automate și verificate editorial. Corecturi și sesizări: contact [at] startupshop [punct] ro
Citeste si
Cele mai populare
itexclusiv.ro
Stiri parteneri