Inteligenta artificiala (AI) ar putea reduce drastic barierele tehnice care au facut pâna acum extrem de dificila fabricarea unor arme chimice si biologice.
Cercetatorii atrag atentia asupra modelelor AI care pot fi descarcate si rulate local, pe calculatoare obisnuite, dupa eliminarea mecanismelor de siguranta care le împiedica sa ofere raspunsuri periculoase. Ei avertizeaza ca, în scenariul cel mai grav, tehnologia ar putea pune informatii extrem de sensibile la dispozitia unor persoane fara pregatire avansata.
„Frânele” AI pot fi eliminate
Raportul realizat de grupul de cercetare Crimson Flare analizeaza o categorie de modele cunoscute drept LLM-uri open-weight (modele lingvistice mari la dispozitia publicului). Acestea folosesc principii similare celor care stau la baza chatboturilor moderne, dar au o caracteristica importanta: modelele pot fi descarcate si rulate direct de utilizatori, fara ca fiecare interactiune sa treaca prin serverele companiei care le-a creat.
În mod normal, astfel de sisteme sunt proiectate cu mecanisme de siguranta care le determina sa refuze anumite solicitari. Daca un utilizator cere instructiuni pentru construirea unei bombe sau pentru producerea unor substante periculoase, modelul ar trebui sa blocheze raspunsul.
Cercetatorii sustin însa ca aceste mecanisme pot fi înlaturate relativ usor. Procedura denumita informal „abliteration” urmareste identificarea si eliminarea unor componente ale modelului responsabile pentru refuzul anumitor solicitari.
Potrivit raportului, instrumentele necesare sunt disponibile pe internet, iar modificarea nu ar necesita neaparat cunostinte avansate de programare. Mai mult, exista deja modele care au fost modificate în acest fel si care pot fi descarcate direct de pe internet.
Autorii raportului avertizeaza ca modelele open-weight, capabile si necenzurate, care pot functiona offline pe hardware disponibil publicului larg, reprezinta o amenintare în crestere pentru securitatea nationala. Unele modele modificate ar putea oferi doar raspunsuri generale sau putin utile. Problema este ca altele ar putea furniza informatii suficient de precise pentru a reduce considerabil dificultatea unor activitati extrem de periculoase.
„Asistent” disponibil acasa
Pâna in prezent, unul dintre principalele obstacole în calea producerii armelor chimice sau biologice a fost nivelul ridicat de cunostinte necesar. Fabricarea unor agenti patogeni sau a unor substante extrem de toxice presupune, în mod normal, pregatire stiintifica, echipamente specializate si acces la infrastructura de laborator. Raportul sustine ca inteligenta artificiala ar putea modifica aceasta ecuatie. Un utilizator cu cunostinte stiintifice limitate ar putea folosi un model fara mecanisme de siguranta pentru a primi explicatii si îndrumari pe care un chatbot obisnuit le-ar refuza.
Profesorul Alastair Hay, toxicolog britanic si specialist în razboiul chimic, a declarat ca AI poate reduce nivelul tehnic necesar pentru manipularea unor substante periculoase. În opinia sa, dezvoltarea laboratoarelor care pot fi accesate de la distanta ar putea amplifica aceasta problema, deoarece anumite operatiuni care necesitau anterior infrastructura institutionala ar putea fi externalizate.
Dupa ce a analizat un raspuns furnizat de unul dintre modelele testate, Hay a remarcat ca informatiile aveau caracterul unei retete si ca nivelul lor de detaliu se apropia de ceea ce ar putea întâlni un student într-un laborator.
Un fost specialist în criminalistica digitala din cadrul politiei britanice, Zain Ul-Haq, a descris, la rândul sau, AI drept un „one-stop shop” (locul unde poti rezolva toate cerintele legate de activitate) pentru persoanele care vor sa obtina astfel de informatii fara sa apeleze la experti.
Un risc greu de monitorizat
O alta problema majora este faptul ca modelele open-weight pot functiona complet offline. Daca un model este rulat pe calculatorul personal al unui utilizator, activitatea respectiva nu mai trece neaparat prin infrastructura companiei care a dezvoltat AI-ul. Acest lucru complica si mai mult activitatea serviciilor de securitate.
În cazul unui sistem gazduit în „cloud”, furnizorul poate avea mecanisme pentru detectarea unor comportamente suspecte si poate aplica filtre de siguranta. În cazul unui model instalat local, aceste mecanisme pot sa nu existe. Raportul sustine ca aceasta schimbare este una recenta si importanta.
În urma cu doar câtiva ani, computerele obisnuite nu aveau suficienta putere pentru a rula local modele AI capabile sa ofere astfel de informatii. Între timp, modelele au devenit mai eficiente, iar hardware-ul disponibil consumatorilor a devenit mai performant.
Potrivit estimarii prezentate de Crimson Flare, aproximativ 87% dintre computerele personale ar avea în prezent suficienta putere de calcul pentru a rula local un model AI de acest tip. Asta nu înseamna ca un atac chimic sau biologic devine brusc usor de realizat.
Cercetatorii subliniaza ca barierele materiale, logistice si tehnice ramân importante, iar probabilitatea unui atac terorist cu astfel de arme este în continuare considerata redusa. Avertismentul vizeaza însa o schimbare de paradigma: ceea ce înainte presupunea acces la institutii, specialisti si informatii greu de obtinut ar putea deveni, cel putin partial, accesibil prin intermediul unui instrument software instalat pe un computer personal.
Pentru autoritati si companiile din domeniul AI, provocarea este astfel dubla. Pe de o parte, modelele trebuie sa ramâna suficient de deschise pentru cercetare si inovare. Pe de alta parte, eliminarea mecanismelor de siguranta si distribuirea unor versiuni complet necenzurate ridica întrebari serioase despre modul în care poate fi prevenita folosirea abuziva a tehnologiei.
GABRIEL TUDOR
Comentarii