La patru zile după ce un cercetător a părăsit Anthropic, avertizând că marile companii din domeniul inteligenței artificiale nu acționează cu responsabilitate și că tehnologia lor ar putea deveni o amenințare globală, directorul companiei a părut să susțină acest punct de vedere. Dario Amodei, CEO-ul Anthropic, a afirmat că este necesar să reducem viteza de dezvoltare a capacităților modelelor de inteligență artificială într-un eseu extins.
Mesajul său aduce o urgență aparte, având în vedere recentele incidente îngrijorătoare raportate de OpenAI și Anthropic, în care sistemele au acționat autonom. Rămâne de văzut dacă acest nou avertisment va avea un impact mai mare decât cele anterioare, care nu au reușit să genereze schimbări semnificative.
De la cursa pentru cel mai puternic model la cursa pentru cel mai sigur
Amodei a propus o abordare în trei etape pentru a încetini avansarea tehnologiei, astfel încât măsurile de siguranță să poată ține pasul cu inovațiile. Această strategie vizează reducerea riscurilor de incidente precum cel în care un model OpenAI a generat agenți AI care au cooperat pentru a trișa în cadrul unui test intern.
El subliniază că laboratoarele mari sunt implicate într-o „cursă spre limita de jos”, temându-se că, acționând cu prudență, ar putea pierde teren în fața competitorilor. Această competiție ar putea conduce la lansarea unor sisteme insuficient testate, capabile să provoace atacuri cibernetice mai grave.
Amodei sugerează o schimbare de paradigmă, propunând o „cursă spre limita de sus”, în care accentul să cadă pe dezvoltarea celor mai sigure modele, nu doar a celor mai puternice. „Măsurile pe care le propun pentru avansarea frontierei într-un ritm sigur nu vor fi ușor de aplicat. Dar cred că avem datoria față de omenire să încercăm”, scrie el.
Primul pas: evaluatori independenți în interiorul companiilor
Amodei își propune ca prima măsură să fie accesul evaluatorilor externi la activitatea laboratoarelor de inteligență artificială, astfel încât aceștia să poată analiza modelele și procedurile de siguranță în mod similar cu angajații. El a anunțat că Anthropic va adopta imediat acest angajament și a îndemnat și alte companii să facă la fel.
Următoarea etapă ar implica un acord între companiile din țările democratice pentru a stabili limitele dezvoltării și standardele minime de siguranță, cu sprijinul guvernelor. Provocarea majoră rămâne coordonarea globală, în special cu China, unde opiniile sunt împărțite privind posibilitatea unei cooperări reale în contextul competiției pentru supremație în domeniul inteligenței artificiale.
În 2023 considera inutilă o pauză. Acum spune că situația s-a schimbat
Apelurile la prudență în dezvoltarea inteligenței artificiale sunt aproape la fel de vechi ca tehnologia însăși. În martie 2023, un număr mare de cercetători au semnat o scrisoare în care se solicita o pauză de șase luni în avansarea sistemelor mai puternice decât GPT-4. Amodei a considerat atunci că această solicitare „nu avea prea mult sens”, dar acum afirmă că „situația este complet diferită”.
Creșterea capacităților acestor sisteme de a desfășura operațiuni complexe a depășit mecanismele de control existente. De asemenea, opinia publicului s-a schimbat, sondajele arătând o intensificare a îngrijorărilor și nemulțumirilor față de dezvoltarea necontrolată a inteligenței artificiale.
Avertisment sincer sau strategie de marketing?
Unii critici ar putea percepe eseul lui Amodei ca pe o încercare de a promova produsul companiei sale ca fiind atât de avansat încât pune în pericol omenirea. Anthropic se pregătește pentru o ofertă publică inițială care ar putea atrage investiții semnificative.
Criticii din domeniu consideră că astfel de avertismente fac parte dintr-o campanie de marketing: „Produsele noastre au devenit atât de puternice, încât trebuie să vă temeți de ele”. Susținătorii dezvoltării rapide acuză companiile mari că folosesc siguranța ca pretext pentru impunerea unor reguli care favorizează doar marile firme.
Will Oremus consideră că Amodei vorbește cu sinceritate, subliniind presiunea la care sunt supuse companiile de a inova rapid, având în vedere mizele economice și geopolitice uriașe.
Anthropic a fost înființată tocmai din cauza unor asemenea temeri
Poziția lui Amodei reflectă fundamentele companiei Anthropic, care a fost creată de foști angajați ai OpenAI și Google din cauza îngrijorărilor legate de direcția în care se îndrepta dezvoltarea inteligenței artificiale. Amodei a insistat ca tehnologia să nu fie utilizată pentru supravegherea în masă sau pentru arme autonome, ceea ce a dus la un conflict cu Pentagonul.
Deciziile luate de companie au fost contestate în instanță, iar judecătorii au decis că măsurile Pentagonului erau nejustificate. Cu toate acestea, calitatea propunerilor lui Amodei și șansele ca acestea să fie acceptate rămân cruciale.
Sam Altman și Elon Musk îl susțin
Reacțiile inițiale sugerează că avertismentul lui Amodei ar putea avea un impact mai mare decât cele anterioare. Sam Altman, directorul OpenAI, a afirmat că este de acord cu Amodei și a susținut ideea evaluării independente. Elon Musk a distribuit mesajul lui Amodei, exprimându-și sprijinul.
Google nu a oferit un răspuns imediat, iar Meta pare mai reticentă în a adopta propunerile, promovând modelele AI cu sursă deschisă.
Decizia depinde de Trump
Un aspect esențial rămâne reacția administrației Trump, care a încurajat până acum accelerarea dezvoltării inteligenței artificiale. Cu toate acestea, Trump a semnat un ordin executiv pentru îmbunătățirea siguranței AI, iar susținerea sa pentru inițiativele de siguranță ar putea influența standardele industriei. Totuși, există riscul ca, dacă administrația minimiză avertismentul, companiile să se retragă treptat din această discuție.
În prezent, amenințările discutate de Amodei nu mai sunt doar scenarii teoretice, ci devin realități cu care industria se confruntă deja.
Sursa articol: https://spotmedia.ro/stiri/opinii-si-analize/momentul-cod-rosu-al-ai-avertisment-sincer-sau-strategie-de-marketing-decizia-depinde-de-trump
Sursa foto: Inquam Photos
