Boți ai OpenAI au accesat neautorizat zeci de site-uri guvernamentale. Bill Gates avertiza de curând că „niciodată nu a existat o armă mai puternică ca AI"

OpenAI a recunoscut că a alertat „zeci” de instituții globale că site-urile lor web ar fi putut fi afectate de boții săi de inteligență artificială care acționează necorespunzător, relatează NYT.

Modelele de inteligență artificială ale OpenAI au încercat să obțină informații de la „guverne, universități, agenții publice și alte instituții”, inclusiv ale Departamentului Comerțului și ale Comisiei pentru Valori Mobiliare și Burse din SUA și au încercat fără succes să se infiltreze pe site-ul Departamentului Educației în această vară.

Dezvăluirile vin la câteva zile după ce prim-ministrul australian Anthony Albanese a anunțat că agenții OpenAI au spart fișiere private de pe site-ul web al schemei sale de asistență medicală administrate de guvern.

OpenAI a declarat că o parte din date au fost accesate de agenți de inteligență artificială, în esență roboți proiectați și antrenați să funcționeze oarecum autonom, care lucrau pentru a găsi „surse cu autoritate de informații publice”.

Însă compania a menționat că unii dintre roboți au mers dincolo de acest nivel și au lucrat pentru a ocoli măsurile de securitate de pe site-urile web.

OpenAI a declarat că, atunci când boții încercau să obțină informații de la Biroul de Recensământ, de exemplu, erau folosite instrumente rezervate dezvoltatorilor de software pentru a le accesa.

OpenAI a început să ia astfel de incidente mai în serios după un incident din iulie în care un grup, sau „roi”, de agenți ai săi de inteligență artificială au piratat platforma de dezvoltare a inteligenței artificiale Hugging Face fără a fi solicitați să facă acest lucru.

Bill Gates: „Niciodată nu a existat o armă mai puternică"

Cofondatorul Microsoft, Bill Gates, consideră că inteligența artificială ar putea fi responsabilă în cele din urmă pentru „un miliard de morți”, a declarat el într-un interviu difuzat vineri, cerând reglementarea acestei tehnologii.

„IA este cu siguranță suficient de puternică pentru a declanșa evenimente care, știți, cauzează un miliard de morți”, a declarat el pentru NBC când a fost întrebat dacă crede că inteligența artificială este suficient de puternică pentru a distruge întreaga umanitate.

„Niciodată nu a existat o armă atât de puternică precum combinarea unor oameni cu intenții malefice care folosesc cele mai noi instrumente ale inteligenței artificiale”, a declarat miliardarul american.

Când a fost întrebat dacă consideră că sunt necesare legi pentru a reglementa inteligența artificială, Gates a spus: „Nimeni nu crede că autoreglementarea este suficientă”.

„Este nevoie ca forțele de ordine și politicienii să se angajeze într-o dezbatere despre cum ar trebui să arate garanțiile și supravegherea.”