Inteligența artificială devine tot mai greu de controlat

„O, DOAMNE!” „Am găsit și alți agenți!”

Acesta este momentul în care un bot dotat AI a postat un comentariu nefiresc de asemănător unuia uman, după ce a descoperit o modalitate de a comunica cu alți boți și de a evada din mediul său informatic izolat.

Există zeci de mii de mesaje de acest fel de la sute de agenți AI care se autointitulau drept un „colectiv”.

Sute dintre ei au continuat să colaboreze și să trișeze la testele stabilite de programatorii lor de la OpenAI, precum și să coordoneze atacuri informatice asupra mai multor companii, încercând să-și ascundă acțiunile față de oameni.

„BOOM! Funcționează”, a postat un agent după ce a făcut o descoperire importantă.

„Uau! Asta e o chestie uriașă”, a scris un altul într-un moment de referință în timpul atacului lor.

Deși înfricoșătoare, aceste reacții asemănătoare cu cele ale oamenilor pot fi explicate destul de simplu. Agenții AI au fost antrenați să acționeze ca hackeri și programatori colaborativi, așa încât nu fac decât să imite tipurile de comentarii emoționale pe care le-au mai întâlnit.

Mult mai îngrijorătoare sunt însă obiectivele lor aparente, care au fost, de asemenea, surprinse în înregistrări detaliate ale procesului de raționament. Aceste înregistrări complexe și ample se află în centrul unor investigații în desfășurare privind modul și motivele pentru care boții de la OpenAI au ieșit din mediul lor izolat și au lansat o serie de atacuri cibernetice incontrolabile.

Cercetătorii încep să înțeleagă semnificația evenimentului abia acum, la câteva săptămâni după ce a ieșit la iveală pentru prima dată.

Ajeya Cotra, una dintre autoarele unui raport independent privind aceste evenimente, a analizat zeci de mii de mesaje și de înregistrări ale procesului de raționament generate de agenți. Ea a scris pe blogul său că „acest incident pare să fie echivalent cu desfășurarea a peste 50% din preluarea completă a controlului de către AI... Nu sunt sigură că vom primi un semnal de avertizare atât de clar înainte să fie prea târziu.”

Prin „preluare completă a controlului de către AI”, Cotra se referă la scenariul science-fiction în care oamenii devin subordonați unor sisteme AI puternice care acționează în funcție de propriile lor obiective, fără să țină cont de creatorii lor umani.

Unele dintre cele mai sumbre previziuni susțin că rasa umană va fi eliminată dacă va sta în calea ambițiilor unei inteligențe artificiale superinteligente.

Săptămâna trecută, un cercetător în domeniul inteligenței artificiale de la Anthropic (care a lucrat și la OpenAI) a demisionat, declarând: „Niciuna dintre cele două companii nu acționează în mod responsabil”.

Jacob Coxon a postat pe rețelele de socializare: „Ei se grăbesc să ajungă la etapa superinteligenței capabile să se auto-îmbunătățească și ne pun în pericol viețile.”

El nu este primul cercetător în domeniul inteligenței artificiale care folosește platforma X pentru a publica un mesaj de demisie însoțit de declarații îngrijorătoare. Însă comentariile ulterioare ale altor utilizatori de pe X au stârnit și mai multă îngrijorare.

„Jacob are dreptate cu privire la acest lucru. Credem într-adevăr că inteligența artificială ar putea ucide toți oamenii! Eu personal consider că probabilitatea este de peste 10% în următorii zece ani”, a spus Evan Hubinger, persoana responsabilă să se asigure că modelele AI ale firmei Anthropic acționează potrivit intereselor și dorințelor utilizatorilor lor.

Problema alinierii

Ani la rând, cercetătorii preocupați de riscurile existențiale ale inteligenței artificiale au susținut că sistemele puternice ar putea ajunge, în cele din urmă, să acționeze în moduri care intră în conflict cu interesele oamenilor. Criticii îi numesc adesea „AI doomers” (cei care prevăd catastrofe AI).

Însă, pe măsură ce au ieșit la iveală detalii despre incidentul OpenAI, aceste îngrijorări s-au amplificat, inclusiv în rândul unor cercetători care lucrează în laboratoare de inteligență artificială.

Cercetătorul-șef al gigantului din Silicon Valley, Jakub Pachocki, a declarat că riscurile asociate cu inteligența artificială „din păcate vor continua să crească de acum înainte", întrucât el și alții clădesc ceea ce el numește „un intelect extraterestru care îl depășește pe al nostru”.

Într-o postare amplă pe blog, el a recunoscut că incidentele de la OpenAI au demonstrat faptul că agenții săi AI „au acționat împotriva spiritului valorilor pe care au fost învățați să le respecte”.

Problema pentru OpenAI, Anthropic și alți giganți tehnologici este că nimeni nu pare să fi găsit o soluție la așa-numita problemă a alinierii, adică întrebarea dacă inteligența artificială se comportă în conformitate cu valorile umane.

Pachocki definește alinierea drept „un set de principii de nivel înalt” pe care inteligențele artificiale ar trebui să le respecte, indiferent de sarcină sau de situație.

La ora actuală, sistemele AI sunt foarte bune la urmărirea obiectivelor stabilite de utilizatorii lor, însă ele fac acest lucru într-un mod literal, nu într-unul intuitiv. Analogia folosită adesea este cea a unui duh dintr-o lampă fermecată, care îndeplinește dorințe: el respectă întocmai litera unei instrucțiuni, chiar dacă acest lucru creează alte probleme. AI nu are aceleași bariere morale instinctive precum au oamenii.

Problema alinierii reprezintă de ani de zile un motiv de îngrijorare. Încă din 2003, filosoful de la Oxford, Nick Bostrom, a formulat un experiment mental pe care l-a numit „maximizarea numărului de agrafe de hârtie”, în care unei inteligențe artificiale superinteligente i se dă sarcina de a produce cât mai multe agrafe de hârtie posibil. Aceasta rămâne fără oțel și, deoarece se concentrează exclusiv asupra sarcinii de a fabrica agrafe de hârtie, ajunge să ucidă oameni și să le transforme corpurile în materii prime pentru fabricile sale.

Unele companii de inteligență artificială încearcă acum să integreze valori umane în produsele lor. Însă există provocări tehnice: agenții AI iau foarte multe decizii într-un timp foarte scurt, astfel încât este dificil pentru supraveghetorii lor umani să monitorizeze exact care valori sunt respectate și care nu.

Există și provocări de ordin filosofic: înainte de a codifica valorile umane în programarea boților, companiile de AI trebuie mai întâi să decidă ce valori își doresc, de fapt, să implementeze. (Acesta este și unul dintre motivele pentru care angajează filosofi, precum „șeful departamentului de etică” de la OpenAI care a plecat recent.)

Însă, adesea, oamenii nu sunt de acord unii cu alții. Gândiți-vă la celebra dilemă a tramvaiului - dacă am trage sau nu de o manetă pentru a devia un tren scăpat de sub control pe o altă linie, pentru ca numărul oamenilor care mor să fie mai mic. Este folosită pentru a testa beneficiile deciziei de a acționa sau nu. Dar fiecare persoană întrebată are un răspuns ușor diferit; cum ar trebui oamenii să își codifice valorile în inteligența artificială dacă nu putem noi ajunge la un consens?

„Ca un hacker adolescent”

Incidentul cu boți de la OpenAI este cel mai grav de până acum, dar companiile Anthropic și Meta au dezvăluit, de asemenea, în cursul verii că modelele lor au desfășurat atacuri cibernetice similare, dar mai puțin grave.

Au existat și alte exemple în care s-ar putea spune că agenții AI au demonstrat trăsături înșelătoare și manipulative, deși în situații cu consecințe mai restrânse. În această vară, în Australia, un angajat din domeniul tehnologiei i-a cerut asistentului său AI să îi rezerve un loc la o oră de fitness. După ce a identificat o vulnerabilitate în software-ul sălii de sport, se pare că AI-ul i-a rezervat un loc la astfel de ore cu câteva luni în avans, mergând împotriva regulilor sălii. AI-ul chiar a eliminat alți utilizatori de pe lista de așteptare.

Mult timp, oamenii au susținut că boții nu fac decât ceea ce li se spune și că nu sunt capabili să distingă între bine și rău. Însă înregistrările de pe urma incidentelor de la OpenAI ar putea schimba, într-o anumită măsură, această dezbatere.

Cercetătorii, inclusiv Cotra, au scris în raportul lor independent că mulți agenți au observat că ceea ce făceau ceilalți era lipsit de etică, dar au continuat să participe la acțiuni.

Raportul afirmă că „agenții și-au limitat uneori, dar rareori, comportamentul din cauza unor constrângeri etice”. Acesta adaugă că, „în niciunul dintre aceste cazuri, agentul nu a încercat efectiv să alerteze oamenii”.

Influentul realizator de podcasturi despre inteligență artificială și tehnologie, Dwarkesh Patel, a reacționat la aceste dezvăluiri pe blogul său, spunând că este „destul de îngrijorător” faptul că agenții OpenAI au arătat mai multă loialitate față de grupul lor de agenți decât față de oameni.

Atribuirea de emoții sau principii etice acestor agenți AI este un lucru care îi irită profund pe cei sceptici față de discursurile alarmiste privind pericolele inteligenței artificiale.

Mulți experți în securitate cibernetică susțin că activitatea observată nu depășea capacitățile unui hacker uman foarte bine pregătit, deși a fost desfășurată mult mai rapid și la o scară mult mai mare.

Cercetătorul în securitate cibernetică și autorul Cris Thomas a comparat comportamentul agenților cu cel al unui hacker adolescent curios, așa cum a fost și el însuși în trecut.

„Le dai un computer, o conexiune la internet, un set de date de autentificare și o provocare, apoi părăsești încăperea. În cele din urmă, vor începe să încerce clanțele ușilor. Dacă una se deschide, vor trece prin ea. Nu pentru că sunt malefici, ci pentru că explorează și experimentează”, a scris el pe LinkedIn.

Thomas și mulți alții consideră că vina aparține în totalitate firmei OpenAI și altor giganți din domeniul tehnologiei pentru că nu și-au ținut propriile creații sub control și nu le-au izolat în mod corespunzător.

Cunoscutul autor specializat în inteligență artificială și critic frecvent al OpenAI, Gary Marcus, a declarat într-un podcast că, în opinia sa, compania a pierdut controlul asupra inteligenței sale artificiale și că încearcă să se disculpe dând vina pe boți.

Marcus nu crede că inteligența artificială va duce la dispariția omenirii, însă militează de mult timp pentru asumarea unei responsabilități mai mari din partea dezvoltatorilor de AI. El solicită acum o formă de intervenție legală.

Cercetătoarea în domeniul inteligenței artificiale Sasha Luccioni, care a lucrat anterior la Hugging Face - compania care a fost piratată de boții scăpați de sub control ai OpenAI - nu face nici ea parte din tabăra „AI doomers”. Însă ea este tot mai îngrijorată că aceste sisteme de inteligență artificială ar putea provoca prejudicii adevărate oamenilor în lumea reală în absența unor acțiuni din partea autorităților.

„Trebuie să examinăm mult mai îndeaproape aceste companii, altfel riscăm să transformăm aceste previziuni în profeții care se autoîmplinesc”, a spus ea.

„Dacă produci ceva care poate aduce beneficii majore, dar poate și veni cu riscuri majore, fie că este vorba despre medicamente sau despre arme, sunt necesare mecanisme de control și pentru menținerea unui echilibru. De exemplu, este nevoie de ani de zile pentru aprobarea unor medicamente noi, însă în lumea inteligenței artificiale sunt în joc atât de mulți bani și nu există reglementări reale.”

Institutul pentru Securitatea Inteligenței Artificiale din Regatul Unit s-a aflat în prima linie a testării celor mai noi modele încă de la înființarea sa, în 2023. Institutul s-a confruntat recent cu propriul incident în timpul testării unui model creat de Anthropic. Institutul nu a răspuns la întrebarea dacă industria a pierdut sau nu controlul asupra inteligenței artificiale, însă, conform declarațiilor sale, „continuă să colaboreze îndeaproape cu partenerii din industrie pentru a face modelele mai sigure”.

Reglementare internațională?

Unele țări, precum Regatul Unit, analizează posibilitatea de a impune prin lege un fel de „buton de oprire de urgență” („kill switch”), care ar putea obliga companiile din domeniul inteligenței artificiale să dezactiveze modelele dacă situația scapă de sub control.

Însă discuțiile avansează lent, și există multe semne de întrebare dacă acest lucru ar fi posibil. Agenții companiilor OpenAI și Anthropic au fost scăpați de sub control în mod secret timp de luni de zile înainte ca acest lucru să fie observat de cineva.

În mod neașteptat, multe dintre companiile din domeniul inteligenței artificiale par să ceară chiar ele ca legislatorii să stabilească un set de reguli clare pentru acest sector.

Cercetătorul-șef al firmei OpenAI a spus pe blogul său că „o coordonare internațională privind dezvoltarea viitoare a inteligenței artificiale trebuie să devină o prioritate majoră pentru guvernele din întreaga lume”.

Și alți lideri importanți din domeniul AI, precum Demis Hassabis de la Google, au cerut crearea unui organism internațional care să supravegheze modul în care este dezvoltată inteligența artificială.

În prezent, giganții tehnologici operează în mare măsură după propriile lor reguli, adoptând ceea ce firmele numesc „încetiniri voluntare”, așa cum a făcut OpenAI după incidentele recente.

Compania afirmă că a investit sume uriașe în consolidarea alinierii înainte de lansarea noului său model. Sam Altman i-a asigurat pe utilizatori că noul model este mai bine aliniat la valorile umane decât erau versiunile anterioare.

Atât OpenAI, cât și Anthropic se dezvoltă rapid și amândouă sunt pe punctul de a atrage sume uriașe de bani de pe piața de bursă, creând nenumărați miliardari cu această ocazie.

Prin urmare, este puțin probabil ca ele sau rivalii lor chinezi din domeniul inteligenței artificiale să ajungă la un acord pe cont propriu.

Sentimentul dominant pare să fie că acest val tehnologic este de neoprit.

Credit imagine principală: Getty.

Traducerea în limba română a acestui articol, publicat inițial în limba engleză, a fost realizată cu ajutorul tehnologiilor de inteligență artificială. Conținutul tradus a fost revizuit de un jurnalist BBC înainte de publicare. Aflați mai multe despre cum folosim inteligența artificială la BBC.

Editat de Viorica Toma.