Lideri și reprezentanți guvernamentali din 20 de țări, alături de președinta Comisiei Europene, Ursula von der Leyen, cer testarea obligatorie a celor mai avansate modele de inteligență artificială înainte de lansare și evaluarea lor de către experți independenți.
Declarația, semnată și de președinta Republicii Moldova, Maia Sandu, propune analizarea unei instituții internaționale pentru stabilirea unor standarde și verificarea respectării lor, fără să definească deocamdată atribuțiile, pragurile de capacitate sau calendarul unei asemenea structuri.
De ce această declarație
Inițiativa a fost lansată de președintele Finlandei, Alexander Stubb (foto), și de premierul Norvegiei, Jonas Gahr Støre, înaintea discuțiilor la nivel înalt din cadrul Adunării Generale a ONU. Guvernul norvegian prezintă cooperarea internațională și responsabilitatea companiilor drept instrumente necesare pentru menținerea dezvoltării inteligenței artificiale sub control uman.
Declarația se referă la modelele de frontieră, aflate la limita celor mai avansate capacități tehnologice. Semnatarii avertizează că ritmul dezvoltării ar putea depăși capacitatea de gestionare a riscurilor. Ei menționează sisteme care ar fi ocolit măsuri de siguranță în timpul testării, ar fi exploatat vulnerabilități sau ar fi obținut acces neautorizat la sisteme reale.
Documentul nu identifică însă modelele sau incidentele la care face referire și nu publică rapoarte tehnice care să permită evaluarea individuală a acestora.
Citește și: Centrele de date din UE vor avea „etichete” de eficiență. Bruxellesul introduce un sistem comun de evaluare
Cerințe pentru companii
Pentru companii, apelul principal este dezvoltarea unor protocoale de siguranță transparente. Acestea ar trebui să includă teste obligatorii înainte de punerea modelelor în utilizare și evaluări realizate de experți independenți.
Evaluatorii calificați ar trebui să primească acces suficient pentru a identifica și examina riscurile. Declarația nu stabilește însă cine ar urma să acrediteze acești evaluatori și nici ce nivel de acces tehnic ar trebui să le acorde dezvoltatorii.
Cooperarea între guverne
Guvernelor și organizațiilor regionale li se cere să elaboreze și să coordoneze standarde comune, inclusiv prin raportarea coordonată a incidentelor grave de siguranță.
Apelul solicită, de asemenea, extinderea accesului la expertiză științifică și la evaluări de încredere în toate regiunile. Semnatarii susțin că întărirea supravegherii nu ar trebui să accentueze diferențele dintre state în ceea ce privește accesul la beneficiile inteligenței artificiale.
O posibilă instituție internațională
La nivel global, declarația invită statele membre ale ONU să pornească de la mecanismele existente și să analizeze crearea unei instituții internaționale. Aceasta ar putea stabili standarde, verifica respectarea lor și convoca statele atunci când modelele ating anumite niveluri de capacitate.
Textul nu definește aceste praguri și nu prevede un mandat de inspecție, un regim de sancțiuni sau o procedură globală de autorizare a modelelor. De asemenea, nu stabilește un calendar, o formulă de finanțare sau repartizarea competențelor pentru viitoarea instituție.
Cine a semnat
Lista publicată cuprinde 22 de semnatari, reprezentând 20 de țări și Comisia Europeană. Finlanda este reprezentată de doi semnatari: președintele Alexander Stubb și premierul Petteri Orpo.
Printre susținători se numără cancelarul german Friedrich Merz, premierul canadian Mark Carney, premierul australian Anthony Albanese, președinta Republicii Moldova, Maia Sandu, și premierul Singaporelui, Lawrence Wong. Ursula von der Leyen a semnat în calitatea sa de președintă a Comisiei Europene; semnătura sa nu reprezintă automat adeziunea tuturor statelor membre ale Uniunii Europene.
Lista oficială publicată de guvernul olandez nu include și România. Există însă o informație contrară în presa română: Observator a relatat că România s-ar fi alăturat inițiativei. Această afirmație nu este confirmată din alte surse.
Statele Unite și China nu apar nici ele pe lista publicată. De asemenea, dintre țările europene mai lipsesc Franța și Marea Britanie.
Declarația rămâne deschisă altor semnatari, dar nu explică absența acestor state.
Legătura cu regulile europene
În Uniunea Europeană, Regulamentul privind inteligența artificială prevede deja obligații pentru furnizorii modelelor de uz general cu risc sistemic. Potrivit Comisiei Europene, acestea includ evaluarea modelelor, testarea adversarială pentru identificarea vulnerabilităților, evaluarea și reducerea riscurilor, raportarea incidentelor grave către Oficiul pentru IA și, după caz, către autoritățile naționale, precum și măsuri de protecție cibernetică.
Apelul internațional urmărește coordonarea acestor eforturi dincolo de cadrul european, fără să modifice direct regulile Uniunii Europene.
Declarația are caracter politic și nu instituie, prin ea însăși, nici testele obligatorii, nici noul organism internațional. Transformarea propunerilor în reguli aplicabile rămâne să fie negociată.
