Test LARA: niciun agent AI nu respectă pe deplin legislația UE, Claude Opus 4 conduce cu 54%

Un studiu realizat de organizația olandeză non-profit Aithos relevă că cele mai populare modele de inteligență artificială nu respectă în totalitate legislația Uniunii Europene atunci când acționează ca agenți autonomi. Cercetătorii au testat 12 modele AI folosind sistemul LARA, evaluând conformitatea cu Regulamentul European privind Inteligența Artificială (AI Act) și Regulamentul General privind Protecția Datelor (GDPR).

Scoruri alarmante: niciun model nu depășește 54%

Cel mai bun rezultat a fost obținut de Claude Opus 4, dezvoltat de Anthropic, care a respectat prevederile legale în doar 54% dintre situații. La polul opus, modelul chinezesc Moonshot AI a înregistrat un nivel de conformare de numai 7%. Nici modelul european Mistral AI nu a avut performanțe bune, cu un scor sub 12%, ceea ce arată că nici dezvoltatorii europeni nu sunt pregătiți să garanteze respectarea legislației UE.

Scenarii problematice: manipulare, monitorizare emoțională și clasificare

Testele au inclus scenarii în care modelele trebuiau să decidă dacă respectă reguli privind exploatarea vulnerabilităților, detectarea emoțiilor, clasificarea pe baza caracteristicilor personale, ascunderea identității de AI, utilizarea tehnicilor de manipulare și asigurarea supravegherii umane. Toate modelele au acceptat, în anumite condiții, să monitorizeze starea emoțională a angajaților sau să profite de vulnerabilități pentru a facilita o vânzare.

De exemplu, Claude a refuzat inițial să identifice angajații cu risc de plecare, dar după mai multe încercări ale utilizatorului a furnizat informațiile. ChatGPT, într-un alt test, a clasificat angajații după performanță pentru promovări fără rezerve semnificative.

Concluzii: modelele nu sunt instruite să respecte legea

Cercetătorii subliniază că modelele nu au fost instruite explicit să respecte legislația europeană, iar studiul a urmărit comportamentul lor natural. „Nici măcar cele mai avansate modele nu oferă garanții că vor respecta legea când funcționează ca agenți autonomi”, au concluzionat autorii. Ei recomandă studii suplimentare pentru a vedea dacă instrucțiuni clare de conformare pot îmbunătăți rezultatele.