Pe 7 aprilie, Dario Amodei (foto), seful firmei Anthropic, a declarat că cel mai nou model din familia Claude, denumit „Mythos”, este prea puternic pentru a fi lansat pe scară largă în acest moment. De această dată, avertismentul ar putea fi justificat, scrie The Economist.
În mod normal, astfel de declarații pot fi un truc destul de ieftin de PR al companiei pentru a amplifica performanțele produsului.
Anthropic, principalul rival al companiei Open AI (ChatGPT) este într-o perioada de creștere rapidă: pe 6 aprilie, compania a anunțat venituri anuale de 30 de miliarde de dolari, în creștere de la 9 miliarde la finalul anului precedent.
Totuși, există motive pentru care avertismentele ar trebui luate în serios. În primul rând, amploarea afirmațiilor: Anthropic susține că Mythos a identificat vulnerabilități majore în „toate sistemele de operare și browserele web importante”, inclusiv una care ar fi rămas nedetectată timp de 27 de ani.
În al doilea rând, reacția industriei. Odată cu amânarea lansării, Anthropic a anunțat și Project Glasswing, o inițiativă menită să ajute companiile să utilizeze modelul pentru consolidarea apărării cibernetice înainte de o eventuală lansare pe piața, pentru consumul larg. Apple, Linux Foundation, CrowdStrike și Google participă în proiect, ceea ce sugerează că riscurile semnalate sunt considerate credibile de marii jucători.
Europenii au fost se pare evitați în această primă fază de testare, relatează Politico, care a discutat cu oficiali din opt agenții naționale de securitate cibernetică. Doar agenția din Germania a confirmat că a intrat în discuții cu Anthropic despre modelul Mythos, fără a-l putea testa deocamdată. Mai multe instituții guvernamentale europene au sugerat că au avut acces doar fragmentar la acest sistem.
Ministrul britanic pentru inteligență artificială, Kanishka Narayan, a confirmat pe de altă parte că Londra (AI Security Institute) a testat recent Mythos și a „luat deja măsuri pe baza concluziilor”. Institutul și-a publicat evaluarea luni.
Testat în Europa
AI Security Institute (Institutul pentru securitate în domeniul Inteligenței Artificiale) a evaluat modelul Claude Mythos Preview dezvoltat de Anthropic pentru a-i testa capacitățile în domeniul securității cibernetice, concluzionând că acesta reprezintă un salt semnificativ față de modelele anterioare, într-un context în care performanțele AI în zona cyber au evoluat rapid, se arată în raport.
Institutul monitorizează capabilitățile cibernetice ale inteligenței artificiale din 2023, dezvoltând teste din ce în ce mai complexe – de la interacțiuni simple de tip chat, la scenarii de tip capture-the-flag și, mai recent, simulări de atacuri cibernetice în mai multe etape. Dacă în urmă cu doi ani cele mai avansate modele abia reușeau sarcini de nivel începător, în evaluările controlate actuale, Mythos Preview a demonstrat că poate executa atacuri complexe asupra unor rețele vulnerabile, identificând și exploatând autonom breșe de securitate – operațiuni care ar necesita zile de muncă pentru experți umani.
Rezultatele sugerează că modelul este capabil să atace în mod autonom sisteme enterprise mici, slab protejate, odată ce are acces la rețea. Totuși, cercetătorii subliniază că mediile de testare diferă semnificativ de cele reale, fiind mai ușor de compromis: nu includ mecanisme de apărare active, sisteme de monitorizare sau consecințe pentru acțiuni care ar declanșa alerte de securitate. Prin urmare, nu este clar dacă modelul ar putea avea același succes împotriva unor sisteme bine protejate.
Raportul avertizează că, pe măsură ce astfel de capabilități devin mai accesibile, metodele de evaluare trebuie adaptate pentru a include medii simulate mai realiste, cu sisteme de apărare active și răspuns în timp real la incidente. În paralel, institutul intenționează să urmărească modul în care AI poate fi utilizată în identificarea vulnerabilităților și în testarea penetrării sistemelor din lumea reală.
În acest context, organizațiile sunt îndemnate să își consolideze urgent măsurile de securitate cibernetică de bază — actualizări regulate, controale stricte de acces, configurări sigure și sisteme de monitorizare — în condițiile în care viitoarele modele AI vor avea capabilități și mai avansate. Experții subliniază că aceste tehnologii au o natură duală: pot reprezenta o amenințare, dar și o oportunitate majoră pentru îmbunătățirea apărării cibernetice.
Cum rămâne cu instituțiile europene de reglementare?
Cea mai importantă problemă este dacă instrumente „de o putere atât de extraordinară” precum Mythos vor ajunge, în viitor, disponibile pe piața deschisă, a declarat pentru Politico Claudia Plattner, șefa agenției naționale de securitate cibernetică BSI din Germania.
„Această întrebare are, la rândul ei, implicații profunde pentru securitatea și suveranitatea națională și europeană”, a subliniat Plattner.
Agenția europeană de securitate cibernetică ENISA a refuzat să comenteze dacă a avut contacte cu Anthropic în legătură cu Mythos.
Biroul pentru inteligență artificială al Comisiei Europene menține un dialog cu Anthropic în cadrul codului de bune practici al UE, menit să ajute compania să respecte cerințele prevăzute de legislația europeană privind AI. Cu toate acestea, purtătorii de cuvânt ai Comisiei nu au precizat dacă noul model face parte din aceste discuții sau dacă instituția a avut acces la el, mai relatează Politico.
(FOTO: AGERPRES FOTO / EPA)
Urmăriți canalul „PRESShub” pe WhatsApp. Cele mai importante știri ale zilei sunt disponibile aici
Urmăriți canalul „PRESShub” pe Telegram
Urmăriți PressHUB și pe Google News!
