Un agent de inteligență artificială al OpenAI a accesat fără autorizație un portal guvernamental australian cu date medicale, în timp ce încerca să găsească informații despre cheltuielile publice pentru sănătate. Incidentul, investigat de autoritățile de la Canberra, a fost anunțat în aceeași zi în care liderii principalelor companii de AI au avertizat Consiliul de Securitate al ONU că dezvoltarea rapidă a tehnologiei poate crea riscuri pe care nici guvernele, nici companiile nu le pot gestiona singure.
Cele două evenimente readuc în prim-plan problema controlului asupra unor sisteme AI capabile nu doar să genereze răspunsuri, ci să acționeze autonom în lumea reală.
Australia: primul portal guvernamental atacat de un agent AI
Australia a anunțat joi că un agent de inteligență artificială al OpenAI a accesat fără autorizație, în iunie, un portal guvernamental cu date medicale, obținând acces la fișiere.
Ar putea fi primul caz cunoscut în care un agent AI sparge un site guvernamental.
Incidentul este unul dintre cele mai importante cazuri în care agenți AI au accesat sisteme externe în afara Statelor Unite și vine după mai multe breșe informatice produse recent la nivel mondial de agenți AI scăpați de sub control, care au provocat îngrijorare în rândul guvernelor și companiilor.
Citește și: Apel internațional pentru testarea obligatorie și evaluarea independentă a modelelor avansate de AI
Premierul australian Anthony Albanese a declarat că agentul OpenAI a obținut acces neautorizat la portalul cu statistici medicale al Medicare, sistemul universal de asigurări de sănătate din Australia, în timp ce efectua cercetări privind cheltuielile publice pentru sănătate.
„Dovezile disponibile în acest moment arată că nu există o compromitere mai amplă a rețelei. Cu toate acestea, situația este, evident, inacceptabilă”, le-a declarat Albanese jurnaliștilor miercuri, la New York, unde participă la Adunarea Generală a ONU.
Investigația continuă, iar Australia și-a exprimat „profunda îngrijorare” în legătură cu incidentul în fața directorului general al OpenAI, Sam Altman, a spus Albanese. Premierul s-a declarat, de asemenea, profund dezamăgit de întârzierea cu care compania a informat autorităților.
„A trebuit să așteptăm până pe 10 septembrie pentru a primi orice fel de notificare”, a spus Albanese.
Într-un comunicat, OpenAI a declarat că analiza proprie „nu a identificat nicio dovadă că au fost accesate dosare ale pacienților”.
Compania a precizat că a identificat „activitate care a implicat mai multe site-uri și servicii ale guvernului australian, în timp ce modelele noastre încercau să găsească răspunsuri (…) modelele noastre au întreprins acțiuni pe care nu le-am intenționat”.
„Modelele AI au încercat să găsească răspunsuri”
Incidentul a fost anunțat în aceeași zi în care cele mai importante companii de inteligență artificială din lume au avertizat Consiliul de Securitate al ONU cu privire la riscurile pe care AI le prezintă pentru omenire și au cerut guvernelor să colaboreze pentru gestionarea unei tehnologii care devine tot mai puternică, relatează Reuters.
Directorul general al Anthropic, Dario Amodei, a declarat în fața celor 15 membri ai Consiliului, organism responsabil de menținerea păcii și securității internaționale, că, dacă este gestionată necorespunzător, inteligența artificială ar putea reprezenta „un risc pentru omenire în ansamblu”.
Reuniunea, convocată de Franța în timpul Adunării Generale anuale a ONU, are loc pe fondul avertismentelor potrivit cărora sistemele AI ar putea ajunge în curând să se îmbunătățească singure și să scape de sub controlul oamenilor.
„În pofida tuturor diferențelor dintre oamenii aflați în această sală, trebuie să lăsăm aceste diferențe deoparte pentru a face față acestei oportunități globale și acestei amenințări globale care ni se prezintă în același timp. Niciun lider, nicio companie și nicio țară nu poate gestiona singură această situație”, a spus Amodei.
Statele Unite și China, cele două mari puteri în dezvoltarea AI, au adoptat strategii diferite.
Președintele Donald Trump a susținut că Statele Unite nu au nevoie de noi reglementări dedicate inteligenței artificiale, în timp ce China a introdus reguli privind algoritmii AI și datele utilizate pentru antrenarea modelelor, inclusiv obligația ca materialele generate de AI să fie marcate clar.
SUA către ONU: „Nu puteți guverna o tehnologie pe care nu o înțelegeți”
Trump le-a declarat marți liderilor lumii, în cadrul Adunării Generale a ONU, că „respinge orice încercare de a construi un proiect globalist pentru controlul” inteligenței artificiale. El a descris tehnologia drept extraordinară, dar a spus că Statele Unite vor manifesta prudență.
Consilierul Casei Albe pentru știință și tehnologie, Michael Kratsios, a reluat miercuri, în fața Consiliului de Securitate al ONU, poziția exprimată de Trump.
„Nu puteți guverna o tehnologie pe care nu o înțelegeți. Acest organism și alte instituții similare ar trebui să se concentreze pe schimbul de bune practici pentru dezvoltarea capacităților naționale, nu pe instituirea unui sistem global de reglementare”, a spus Kratsios.
(Sursa foto: Andrew Neel / Pexels.com)
