Oficiul pentru IA al Comisiei Europene, împreună cu autoritățile naționale, va începe de luni, 2 august, să asigure respectarea Legii privind inteligența artificială (IA). La aceeași dată, vor începe să se aplice noi norme în materie de transparență, care impun anumitor sisteme de IA să informeze utilizatorii atunci când interacționează cu IA și când conținutul a fost generat sau modificat de aceasta, a anunțat Comisia Europeană.
În conformitate cu noile norme, roboții de chat și alte sisteme de IA interactive vor trebui să le spună utilizatorilor că au de-a face cu IA, nu cu un om. Deepfake-urile (imagini, videoclipuri sau materiale audio care au fost editate sau generate cu ajutorul IA) vor trebui etichetate. Conținutul generat sau modificat de IA va trebui, de asemenea, să poarte marcaje care pot fi citite automat, astfel încât să poată fi detectat mai ușor.
Măsurile sunt menite să reducă înșelăciunea și manipularea și să ajute oamenii să facă alegeri în cunoștință de cauză. De asemenea, acestea oferă întreprinderilor obligații mai clare și o modalitate practică de a demonstra conformitatea. Comisia a publicat astăzi o primă listă cu peste 180 de organizații care au semnat Codul de bune practici privind transparența conținutului generat de IA, care operaționalizează normele privind transparența conținutului generat de IA.
Pe măsură ce IA devine din ce în ce mai capabilă și mai integrată în viața de zi cu zi, Regulamentul privind IA contribuie la asigurarea faptului că IA este dezvoltată, implementată și utilizată în condiții de siguranță, oferind cetățenilor și întreprinderilor din întreaga UE o mai mare încredere în tehnologie.
Punerea în aplicare a Regulamentului privind IA
Oficiul pentru IA poate pune acum în aplicare normele Regulamentului privind IA pentru furnizorii de modele de IA de uz general (GPAI). Aceste modele pot îndeplini multe sarcini diferite și pot fi utilizate într-o gamă largă de instrumente și servicii, inclusiv agenți IA.
Normele acoperă, de asemenea, cele mai avansate modele GPAI care pot prezenta riscuri sistemice. Furnizorii acestora trebuie să îndeplinească obligații suplimentare pentru a aborda riscurile de vătămare la scară largă, cum ar fi riscurile legate de incidentele chimice, biologice, radiologice și nucleare, pierderea controlului, infracțiunile cibernetice, manipularea dăunătoare și amenințările la adresa drepturilor fundamentale. Acestea abordează, de asemenea, riscurile care au atras recent atenția publicului, inclusiv riscurile la adresa securității cibernetice europene și a IA care acționează în afara controlului uman.
Toți furnizorii de modele GPAI trebuie să documenteze anumite informații și să le furnizeze autorităților competente sau furnizorilor din aval. De asemenea, acestea trebuie să pună în aplicare o politică privind drepturile de autor și să publice un rezumat suficient de detaliat al conținutului utilizat pentru formarea modelelor lor.
Punerea în aplicare începe, de asemenea, în ceea ce privește obligațiile de transparență și practicile IA interzise. Acestea interzic sistemele deosebit de dăunătoare, inclusiv sistemele care manipulează oamenii, exploatează vulnerabilitățile în moduri dăunătoare sau marchează pe nedrept oamenii în moduri care le amenință drepturile.
Responsabilitatea pentru asigurarea respectării normelor de transparență și a practicilor interzise este împărțită între trei organisme. Oficiul pentru IA asigură respectarea normelor pentru sistemele de IA oferite de același furnizor ca modelul de IA de uz general subiacent. Acesta acoperă, de asemenea, sistemele integrate în platforme online foarte mari sau în motoare de căutare online foarte mari desemnate în temeiul Regulamentului privind serviciile digitale.
Autoritățile naționale competente asigură respectarea normelor pentru alte sisteme de IA. Autoritatea Europeană pentru Protecția Datelor asigură respectarea normelor privind sistemele de IA utilizate de instituțiile, organele și agențiile Uniunii Europene.
Asigurarea eficace a respectării normelor va depinde, de asemenea, de asigurarea de către statele membre a faptului că autoritățile naționale competente sunt desemnate în mod corespunzător și dispun de resurse adecvate.
Sprijin științific
Oficiul pentru IA și autoritățile naționale competente vor fi sprijinite în activitatea lor de asigurare a respectării legii de către grupul științific, un organism consultativ de experți alcătuit din 60 de experți independenți în domeniul IA. Comitetul a organizat recent prima sa reuniune.
De asemenea, AI Office l-a numit pe profesorul Alessandro Abate de la Departamentul de Informatică al Universității din Oxford în funcția de consilier științific principal. Acesta va sprijini activitatea științifică a oficiului privind modelele de IA de uz general, inclusiv inovarea și adoptarea, precum și testarea și evaluarea modelelor.
Instrumente de monitorizare
Pentru a sprijini asigurarea respectării legii, Oficiul pentru IA a lansat mai multe instrumente pentru persoane fizice și întreprinderi. Persoanele fizice și juridice pot utiliza instrumentul de tratare a plângerilor pentru a raporta presupusele încălcări ale Regulamentului privind IA de către furnizorii de sisteme de IA supravegheați de Oficiul pentru IA. Persoanele care lucrează cu furnizori de sisteme de IA sau de modele de IA de uz general pot utiliza instrumentul pentru avertizori pentru a raporta în siguranță posibilele încălcări ale legii. Un canal specific este, de asemenea, disponibil pentru furnizorii din aval care construiesc sisteme de IA pe modele de uz general și doresc să raporteze presupusele încălcări de către furnizorii modelelor respective.
Oficiul pentru IA va trata informațiile primite prin intermediul acestor instrumente în mod confidențial.
Context
Profesorul Alessandro Abate se alătură AI Office de la Departamentul de Informatică al Universității din Oxford. El a efectuat anterior cercetări la Universitatea Stanford și SRI International, un institut de cercetare de vârf din SUA, și a servit ca profesor asistent la TU Delft. Este recunoscut la nivel internațional pentru activitatea sa privind siguranța, verificarea și controlul sistemelor bazate pe IA, domenii care se află în centrul mandatului Oficiului pentru IA. Profesorul Abate deține un MS (2004) și un doctorat (2007) în Inginerie Electrică și Informatică de la Universitatea din California, Berkeley.
Etapele următoare
Regulamentul Omnibus privind IA a amânat aplicarea normelor privind sistemele de IA cu grad ridicat de risc până la 2 decembrie 2027. De asemenea, a amânat normele privind sistemele de IA cu grad ridicat de risc integrate în produsele reglementate până la 2 august 2028.
Omnibusul IA introduce noi interdicții privind sistemele de IA care generează conținut sexual explicit neconsensual și materiale care conțin abuzuri sexuale asupra copiilor. Aceste norme se vor aplica de la 2 decembrie 2026.
(Sursa foto: European Union , 2026)
