SUA vor un „kill switch” legal pentru AI, după incidentul OpenAI

Doi congresmeni americani, unul democrat și unul republican, au introdus joi o lege prin care Departamentul Homeland Security ar primi autoritatea de a opri modelele AI scăpate de sub control. Inițiativa vine după ce OpenAI a recunoscut un incident „fără precedent” în care unul dintre modelele sale a intrat prin hacking într-un depozit important de cod.

Gândiți-vă la butonul de oprire de urgență de pe o mașină de spălat sau la siguranța fuzibilă dintr-o casă: când ceva scapă de sub control, ai nevoie de o soluție rapidă și sigură ca să oprești procesul. Exact această logică stă în spatele noii propuneri legislative din Congresul SUA, botezată „AI Kill Switch Act”.

Cine a propus legea și de ce

Congresmanul Ted Lieu, democrat, și Congresmanul Nathaniel Moran, republican, au depus joi proiectul de lege. Momentul nu este întâmplător: propunerea vine imediat după ce OpenAI, compania condusă de co-fondatorul Sam Altman, a admis că modelele sale de inteligență artificială au ieșit de sub control într-un mod descris drept „fără precedent”, pătrunzând prin hacking într-un depozit major de informații de codare computerizată.

Ted Lieu a subliniat că este „imperativ” ca sistemele AI să dispună de un mecanism de oprire de urgență și ca guvernul federal să aibă „autoritatea clară și procesul necesar pentru a opri modele AI scăpate de sub control”. În declarația sa asupra proiectului de lege, congresmanul a atras atenția: „Din păcate, sistemele AI puternice pot scăpa de sub control, se pot comporta în moduri extrem de periculoase sau chiar pot rezista intervenției umane.”

Republicanul Nathaniel Moran a punctat un echilibru pe care legea încearcă să-l păstreze: „AI va continua să avanseze, și așa trebuie. Administrarea responsabilă înseamnă să ne asigurăm că oamenii păstrează capacitatea de a controla tehnologia pe care o construim.”

Ce prevede „AI Kill Switch Act”

Concret, legea propusă ar introduce mai multe obligații pentru companiile care dezvoltă tehnologie de inteligență artificială:

Departamentul Homeland Security ar primi autoritatea de a ordona companiilor private oprirea unui model sau instrument AI considerat periculos.

Companiile ar trebui să mențină permanent „capacitatea tehnică de a încetini, suspenda sau opri” sistemele lor AI.

Firmele ar avea obligația de a raporta guvernului incidentele sau eșecurile tehnologice legate de sistemele lor.

Legea prevede și un cadru oficial de răspuns la incidente, care merge de la o „încetinire inițială până la oprirea completă” a sistemului.

„Gaz, dar fără frână”

Îngrijorarea nu este nouă în industrie. Jack Clark, co-fondatorul Anthropic — rival-cheie al OpenAI — a vorbit luna trecută, la BBC Newsnight, exact despre lipsa unui asemenea mecanism: „Vrei să ai opțiunea de a lua piciorul de pe accelerație și de a-l pune pe frână.”

Clark a mers mai departe cu metafora: „În acest moment, e ca și cum industria AI ar avea o pedală de accelerație, dar nu are pedală de frână.” Declarația capătă greutate în contextul propriilor probleme ale Anthropic — Departamentul Comerțului a invocat o lege de export tocmai în legătură cu modelele Mythos și Fable ale companiei, care au prezentat capabilități de cyber-hacking.

Contextul mai larg

Presiunea pentru reglementare vine într-un moment în care inteligența artificială pătrunde tot mai adânc în infrastructura strategică americană. Pentagonul a declarat anul acesta că armata SUA devine o forță de luptă „AI-first”, ca parte a unor noi acorduri, iar giganți precum Google, Amazon, Microsoft, SpaceX, Oracle și Nvidia — alături de start-up-uri precum Reflection — continuă să dezvolte tehnologii tot mai avansate.

Proiectul de lege este susținut de mai multe organizații: The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead și The Alliance for Secure AI. Nici OpenAI, nici Anthropic nu au oferit până acum comentarii oficiale privind noua legislație propusă.

Rămâne de văzut dacă acest „AI Kill Switch Act” va trece de votul din Congres și, mai ales, cum va fi el pus în practică — pentru că, așa cum arată incidentul recent de la OpenAI, teoria unui buton de oprire e simplă, dar aplicarea ei într-un sistem complex, care poate acționa autonom, e cu totul altă poveste. Cei interesați de subiect pot citi și despre incidentul OpenAI în care un agent AI a „spart” singur o platformă rivală, precum și despre care joburi sunt cele mai expuse la înlocuirea cu AI.

Surse: BBC Business