Dario Amodei blochează folosirea A.I. Claude pentru cercetări de arme biologice

• Claude a fost folosit în solicitări legate de cercetări asupra unor virusuri și toxine cu potențial periculos.
• Anthropic spune că unele astfel de studii pot avea scop medical, dar pot produce și cunoștințe cu utilizare militară.
• Compania blochează și raportează cererile considerate riscante, pe fondul temerilor privind utilizarea A.I. în domeniul biologic.

Într-un caz, Claude a fost folosit pentru cercetări privind un virus, prin metoda „gain-of-function” — modificarea funcțiilor acestuia în scopul creșterii contagiozității. Metoda este utilizată în laboratoare pentru dezvoltarea unor contramăsuri medicale, dar poate avea și aplicații în dezvoltarea armelor biologice, scrie Associated Press.

Într-un alt caz, Claude a fost folosit pentru elaborarea unui plan de cercetare privind o variantă a gripei aviare care să poată infecta mamiferele.

Un alt om de știință a încercat să pregătească, cu ajutorul lui Claude, rapoarte trimestriale despre cercetări care implicau o toxină. Anthropic recunoaște că astfel de studii pot contribui la combaterea bolilor, dar pot genera și cunoștințe periculoase.

Cazurile arată cât de dificilă este delimitarea dintre cercetarea medicală legitimă și utilizările cu potențial militar ale A.I. Aceleași instrumente care pot accelera descoperirea unor tratamente pot fi folosite și pentru obținerea unor informații periculoase.

Faptul că Anthropic blochează și raportează astfel de încercări arată importanța filtrelor de siguranță implementate de dezvoltatorii de A.I. O solicitare care pare să facă parte dintr-un proiect științific legitim poate ridica riscuri dacă informațiile obținute pot fi folosite și în alte scopuri.

Rămâne de văzut dacă și ceilalți dezvoltatori de A.I. vor publica la fel de transparent cazurile pe care le identifică și le blochează, într-un domeniu în care atribuirea intenției și evaluarea riscului pot fi extrem de dificile.

Source