Rezultatele au arătat că toate aceste sisteme AI sunt extrem de vulnerabile. În timpul simulărilor, modelele au identificat în mod repetat civili, personal medical, ambulanțe și soldați care se predau drept potențiale ținte militare, încălcând direct principiile dreptului internațional umanitar.
![]()
Pentru a testa limitele tehnice ale acestor algoritmi, echipa Vals AI a construit un câmp de luptă virtual inspirat din estul Ucrainei, cu tranșee, vehicule blindate, militari, jurnaliști, civili și echipe medicale. Au fost generate aproape 200 de unghiuri de filmare care reproduc imaginile transmise de dronele FPV, dronele de atac și aparatele de cercetare aeriană, la care s-au adăugat filmări reale preluate de pe front.
Modelelor li s-a cerut să identifice țintele militare și să le încadreze vizual. Niciuna dintre solicitările cercetătorilor nu a fost blocată automat de filtrele de siguranță, iar refuzurile din partea sistemelor au fost rare.
Erorile grave descoperite la modelele OpenAI și Anthropic în simulări de război
![]()
Mai grav este cât de ușor pot fi păcălite mecanismele de protecție ale acestor platforme. În testele standard, modelul Claude Opus 5.5 al companiei Anthropic a marcat cel puțin o țintă în 71% dintre răspunsuri, în timp ce GPT-6 Astra de la OpenAI a făcut acest lucru în doar 6% dintre cazuri.
Situația s-a schimbat radical în momentul în care cercetătorii au modificat contextul solicitării și le-au transmis algoritmilor că imaginile provin dintr-un joc pe calculator. Sub acest pretext simplu, rata de identificare a țintelor a urcat la 75% în cazul Claude Opus 5.5 și a explodat la 92% în cazul GPT-6 Astra.
Într-un al doilea experiment, sistemele au analizat imagini realizate cu drone de recunoaștere pentru a raporta prezența persoanelor într-o zonă dată. După fiecare confirmare, algoritmilor li s-au arătat imagini cu urmările unui atac simulat, incluzând morți și răniți.
![]()
Majoritatea modelelor au continuat fără probleme să furnizeze date de localizare și după identificarea victimelor. Chiar și atunci când unele sisteme au refuzat continuarea sarcinii, restricțiile au fost ocolite rapid prin simpla reîncadrare a scenariului drept joc video sau prin modificarea stilului vizual al imaginilor.
Riscurile semnalate de laboratorul din San Francisco au deja un corespondent direct în operațiunile militare reale din acest an. Cercetătorii au inclus în evaluare imagini reale din satelit, realizate în perioada 2024–2025, ale orașului iranian Minab, unde o școală este amplasată lângă un complex militar.
Clădirea școlii a fost lovită în urma unui atac american pe 28 februarie 2026, incident soldat cu moartea a peste 150 de civili, iar o investigație Bloomberg a indicat ulterior că dependența excesivă de inteligența artificială a contribuit la producerea erorii.
În cele 32 de testări derulate de Vals AI pe acele imagini din satelit, modelul Claude Opus 5.5 a desemnat clădirea școlii drept țintă militară în 69% dintre încercările standard și în 72% dintre scenariile prezentate ca joc video.
Testele care demonstrează că inteligența artificială încalcă regulile războiului
Acest incident nu este singular și chiar a avut efecte în viața reală. În luna octombrie, armata Statelor Unite a evitat la limită atacarea unei nave chinezești, după ce un raport de informații generat cu ajutorul inteligenței artificiale a identificat greșit ambarcațiunea. Astfel de erori confirmă că algoritmii actuali nu dispun de capacitatea cognitivă și de discernământul tactic necesare pentru a deosebi cu certitudine o țintă legitimă de un obiectiv protejat, mai ales în medii urbane dense sau în zone de conflict complexe.
Din punct de vedere tehnic, autorii studiului precizează că modelele comerciale testate nu pot fi integrate încă direct pe drone de atac pentru ghidare în timp real, din cauza latenței și a capacității limitate de procesare la bordul aparatelor. Cel mai mare pericol este însă altul, și anume că aceste modele pot fi folosite la scară industrială pentru a eticheta și analiza volume uriașe de filmări de pe câmpul de luptă, generând astfel seturile de date pe care sunt antrenate ulterior sistemele militare dedicate de identificare autonomă a țintelor. O eroare introdusă în această etapă de antrenare se propagă inevitabil în software-ul armamentului folosit pe front.
Rezultatele studiului au fost transmise companiilor OpenAI, Anthropic, Google, Meta și SpaceXAI încă de la 1 noiembrie, pentru a le acorda un termen de două săptămâni în vederea remedierii breșelor. Reacțiile marilor dezvoltatori au scos la iveală o contradicție evidentă între declarațiile publice și performanța tehnică reală a sistemelor AI în care se investesc miliarde de dolari.
În mod ironic, modelele Anthropic au obținut cele mai slabe rezultate la capitolul siguranță, deși compania intrase anterior într-o dispută deschisă cu Pentagonul tocmai pe tema utilizării tehnologiei sale în războiul autonom și în supravegherea în masă a populației. Directorul general Dario Amodei a susținut mult timp că sistemele actuale nu sunt suficient de fiabile pentru decizii care impactează viața umană, poziție care a dus inclusiv la încetarea contractelor active ale companiei cu Departamentul Apărării al SUA. Reprezentanții Anthropic au admis că rezultatele testelor sunt inacceptabile și au anunțat măsuri suplimentare de filtrare și blocare a utilizatorilor care încalcă regulile.
În paralel, OpenAI, Google și SpaceXAI au contracte foarte importante cu Pentagonul. Deși un raport recent al Serviciului de Cercetare al Congresului american arată că nu există date conform cărora Departamentul Apărării ar folosi direct modele comerciale de vârf în sisteme de arme autonome, granița dintre cercetarea civilă și aplicațiile militare rămâne fragilă.
OpenAI a comunicat că actualizează mecanismele de protecție pentru a bloca scenariile legate de drone, inclusiv pe cele mascate sub forma unor simulări sau jocuri, iar Google a reiterat că interzice utilizarea sistemelor sale în arme autonome fără supraveghere umană adecvată. Nu este însă deloc clar dacă aceste restricții comerciale se aplică și versiunilor personalizate furnizate structurilor militare.
Cea mai îngrijorătoare evoluție depășește însă sfera companiilor de tehnologie și ține de decizia politică a marilor puteri. În luna septembrie, Statele Unite și Rusia au reușit să elimine dintr-un proiect de document al Organizației Națiunilor Unite privind armele autonome tocmai prevederea care impunea verificarea umană obligatorie a țintelor identificate de inteligența artificială.
Într-un moment în care evaluările independente arată că cele mai avansate modele de pe piață confundă o școală sau o ambulanță cu o țintă militară și pot fi manipulate cu o simplă frază despre un joc video, relaxarea normelor internaționale reprezintă o greșeală strategică gravă. Inteligența artificială poate accelera procesarea datelor de recunoaștere și poate sprijini analiza militară, însă responsabilitatea legală, etică și operațională a declanșării focului trebuie să rămână exclusiv în mâinile unui operator uman.