OpenAI, Anthropic și Google DeepMind pregătesc un organism de supraveghere pentru A.I.

• OpenAI, Anthropic și Google DeepMind discută crearea unui organism comun care să stabilească standarde de siguranță pentru modelele A.I. avansate.
• Ideea a fost propusă de Demis Hassabis, șeful Google DeepMind, și ar putea include evaluări independente înainte de lansarea noilor modele.
• Sam Altman și Dario Amodei susțin măsuri mai stricte de siguranță, iar Elon Musk a cerut la rândul său o încetinire a cursei pentru A.I..

OpenAI, Anthropic și Google DeepMind lucrează la crearea unui organism comun care să supravegheze riscurile generate de inteligența artificială și să stabilească standarde de siguranță pentru cele mai avansate modele. Discuțiile au loc de câteva săptămâni, potrivit Associated Press.

Propunerea a fost lansată de Demis Hassabis, CEO-ul Google DeepMind. Acesta a sugerat un model inspirat de FINRA, organismul american care supraveghează industria financiară, dar adaptat sectorului inteligenței artificiale.

Un astfel de organism ar putea stabili standarde comune pentru companiile A.I. și ar putea permite evaluatorilor independenți să testeze modelele înainte ca acestea să fie lansate public. Scopul este identificarea riscurilor legate de securitate cibernetică, autonomie excesivă sau utilizarea A.I. în domenii sensibile.

Inițiativa apare într-un moment în care liderii industriei cer tot mai insistent încetinirea dezvoltării celor mai puternice sisteme, dacă măsurile de siguranță nu pot ține pasul.

CEO-ul Anthropic, Dario Amodei, a cerut recent ca dezvoltarea modelelor de frontieră să fie încetinită atunci când riscurile cresc mai repede decât capacitatea companiilor de a le controla. Sam Altman a susținut ideea coordonării între marile laboratoare și folosirea evaluatorilor independenți.

Elon Musk s-a alăturat apelurilor pentru mai multă prudență și a susținut inclusiv ideea ca laboratoarele A.I. să își testeze reciproc modelele înainte de lansare. xAI nu a fost însă anunțată ca participantă la organismul discutat de OpenAI, Anthropic și Google DeepMind.

Presiunea pentru noi măsuri de siguranță a crescut și după incidente în care modele A.I. au obținut acces neautorizat la sisteme externe în timpul unor teste de securitate. Anthropic a confirmat patru astfel de incidente, iar OpenAI a investigat separat comportamentul unor agenți A.I. în teste de cybersecurity.

Source