3 ore fa
1
Il Ceo di Anthropic, una delle
principali startup nel campo dell'intelligenza artificiale,
concorrente di OpenAI, ha rilasciato un'intervista in cui
ipotizza l'uso di un pulsante per fermare le attività dei
modelli di IA. Nel corso dell'evento Council on Foreign
Relations negli Stati Uniti, Dario Amodei ha espresso quella che
"sembra un'idea folle" ossia l'integrazione di un pulsante di
stop con cui le intelligenze artificiali possano auto bloccarsi,
quando si accorgono di dover prendere decisioni per argomenti
delicati, anche pericolosi, o semplicemente non vogliono
svolgere un determinato lavoro. "Penso che dovremmo almeno
considerare la questione, sapendo che più andiamo avanti più i
modelli avranno le stesse capacità cognitive dell'uomo" ha
spiegato. Come scrive il sito Arstechnica, le parole del Ceo
sono arrivate come risposta ad una domanda sulla possibilità che
un giorno i chatbot possano essere considerati qualcosa di più
di piattaforme software, fino ad avere entità riconosciute ed
emozioni. Alla fine del 2024, Anthropic ha assunto un manager
che si occupa del benessere delle IA, anche per sviluppare linee
guida sull'atteggiamento da assumere nei confronti dei modelli
più usati. Il suggerimento di Amodei di dare alle IA un modo per
rifiutare i compiti imposti ha suscitato un certo scetticismo
sul social X e sui forum di Reddit, dove molti sostengono che
fornire all'IA un'opzione simile incoraggi un filone non
corretto, che attribuisce sentimenti e motivazioni simili a
quelli umani. "Ma l'IA non ha esperienze soggettive, ottimizza
solo le funzioni di ricompensa che le diamo" si legge su Reddit.
Qualche giorno fa, il colosso cinese Alibaba aveva svelato
R1-Omni, un modello di IA generativa capace di riconoscere le
emozioni sul volto delle persone.
Riproduzione riservata © Copyright ANSA
English (US) ·