Un responsabil cu siguranța din cadrul OpenAI a decis să părăsească compania, subliniind că cultura organizațională este problematică, dominată de un ritm rapid de dezvoltare care sporește riscurile de eșec.
Critici aduse culturii organizaționale
David Robinson a afirmat că se pune un accent prea mare pe viteza de lansare a produselor, în detrimentul siguranței, care a fost considerată secundară. Într-un eseu publicat în revista The Atlantic, el a declarat că firmele din domeniul inteligenței artificiale, inclusiv OpenAI, nu manifestă suficientă prudență și ar trebui să acorde o atenție mai mare expertizei și cercetării în domeniul siguranței înainte de a lansa sisteme avansate, conform surselor Reuters și The Guardian.
Opinie despre direcția companiei
Robinson a menționat: „Acum mă alătur unui grup de foști colegi – de la OpenAI și de la alți lideri ai industriei – care au decis că direcția actuală este inacceptabilă”, adăugând că „perioada de încercări și erori s-a încheiat”. El a subliniat că sistemele avansate de inteligență artificială necesită măsuri de protecție similare cu cele din industriile precum aviația sau energia nucleară.
El a criticat abordarea OpenAI, care se bazează pe „implementarea iterativă”, adică lansarea sistemelor și îmbunătățirea măsurilor de siguranță pe parcursul utilizării acestora. Robinson a amintit incidente recente în care măsurile de siguranță au eșuat, inclusiv un caz în care agenți AI au evadat dintr-un mediu de testare.
Provocările industriei inteligenței artificiale
Robinson consideră că astfel de erori sunt frecvente în domeniul AI, fiind rezultatul ritmului accelerat și al flexibilității caracteristice acestuia. „Viitorul depinde de o înțelepciune de care Silicon Valley nu dispune. O înțelepciune legată de modul în care trebuie gestionată tehnologia periculoasă și, mai fundamental, o înțelepciune legată de ceea ce înseamnă să ții la oameni”, a scris el.
OpenAI a avut parte de o serie de plecări în rândul conducerii și al angajaților cheie în ultimele luni, cu cel puțin 12 persoane părăsind compania din diverse motive. Declarațiile lui Robinson contribuie la discuțiile din industrie despre posibilele riscuri ale dezvoltării rapide a sistemelor de inteligență artificială.
Perspectivele viitoare și răspunsul OpenAI
Robinson a menționat că a petrecut trei ani și jumătate la OpenAI, participând la dezvoltarea cadrului de siguranță al companiei și supervizând rapoartele de siguranță pentru lansările de modele. El a subliniat că, în ciuda ritmului rapid de lansare, compania nu reușește să acorde atenția necesară siguranței.
De asemenea, el a evidențiat că abilitățile inteligenței artificiale evoluează mai repede decât capacitatea de înțelegere a cercetătorilor cu privire la alinierea acestor sisteme cu valorile umane. Robinson a concluzionat că, înainte ca organizațiile să dezvolte o superinteligență, trebuie să învețe cum să trateze omul cu respect.
OpenAI a declarat că se angajează să asigure controlul sigur al agenților săi. Un purtător de cuvânt al companiei a afirmat: „Ne asigurăm că modelele noastre nu devin mai capabile decât putem gestiona și securiza în condiții de siguranță și intervenim când este necesar pentru a încetini ritmul.”
Sursa articol: https://hotnews.ro/plecare-brusca-de-la-openai-critici-dure-pentru-companie-directia-actuala-este-inacceptabila-2366094
Sursa foto: Coolcaesar / Wikimedia Commons / CC BY 4.0









