11 ore fa
1
Un gruppo di procuratori generali degli Stati Uniti ha inviato una lettera alle principali aziende di intelligenza artificiale chiedendo misure di sicurezza più stringenti per evitare gli effetti dannosi dei chatbot. La lettera è firmata anche dalla National Association of Attorneys General - che l'ha resa disponibile online - ed è indirizzata a colossi come Microsoft, OpenAI, Google, xAi, Anthropic, Meta, Apple e startup del settore tra cui Perplexity AI e Replika.
"L'intelligenza artificiale generativa ha il potenziale per cambiare in positivo come funziona il mondo", si legge nel testo, "ma ha anche causato - e ha il potenziale per causare - gravi danni, soprattutto alle persone più vulnerabili".
Il riferimento è agli episodi di suicidio avvenuti negli Usa negli ultimi mesi, con il caso più eclatante di una famiglia che ha fatto causa ad OpenAI attribuendo a ChatGpt la responsabilità del suicidio del figlio 16enne.
"In molti di questi incidenti, i modelli hanno generato risultati adulatori e deliranti", dicono i procuratori, suggerendo a chi sviluppa le IA di trattare chi ha problemi di salute mentale allo stesso modo in cui le aziende tecnologiche gestiscono le violazioni di sicurezza informatica, ovvero con politiche e procedure di segnalazione chiare e trasparenti.
"C'è bisogno di tempistiche di rilevamento e di risposta certe", recita la lettera, "per informare tempestivamente, chiaramente e direttamente gli utenti se sono stati esposti a risposte adulatorie o deliranti, potenzialmente dannose". Un'altra richiesta che arriva dalla lettera è che le aziende sviluppino "test di sicurezza ragionevoli e appropriati" sui modelli di intelligenza artificiale generativa, che "dovrebbero essere condotti prima che i modelli vengano offerti al pubblico".
Riproduzione riservata © Copyright ANSA
English (US) ·