L’intelligenza artificiale si sta sviluppando a un ritmo “esponenziale”: Dario Amodei, a capo di Anthropic, definendo la situazione un “segnale d’allarme” per il settore che richiede una serie misure di sicurezza perché, come già anticipato, senza un rallentamento, nel giro di 6-12 mesi, l’IA potrebbe essere in grado di guidare uno sciame di agenti capaci di prendere il controllo dell’intero Internet.
“Non credo di aver compreso appieno cosa avrebbe significato davvero un progresso così rapido”, ha ammesso Amodei in un’intervista a Cbs News, che andrà in onda a ‘Cbs News Sunday Morning’ e di cui è stata diffusa un’anticipazione.
Dario Amodei, CEO di Anthropic (Ansa)
“Senza misure sicurezza l’IA potrebbe controllare Internet”
Amodei ha descritto lo sviluppo dell’IA come una progressione del tipo “uno, poi due, poi quattro, poi otto, poi 16, poi 32”, affermando che attualmente ci si trova “sulla curva” e che questa “sta iniziando a farsi ripida. Non significa che dobbiamo farci prendere dal panico oggi. Non significa che dobbiamo bloccare tutto”, ha proseguito il manager italoamericano, aggiungendo però che si tratta di “un segnale d’allarme: dobbiamo rallentare”.
Quartier generale di Anthropic a San Francisco (Ansa)
Amodei ha notato che la tecnologia necessita di misure di sicurezza in grado di stare al passo “con la velocità con cui la tecnologia stessa evolve”. L’intervista è arrivata a poche ore dalla pubblicazione di un post sul blog in cui ha esortato le aziende che si occupano di IA a procedere più lentamente e con maggiore cautela nello sviluppo della tecnologia, sottolineando che la prevenzione dei rischi è fondamentale.
Il sostegno di Musk, Altman
La proposta ha trovato subito il sostegno di Elon Musk (SpaceX) e Sam Altman (OpenAI). Amodei ha tracciato un piano in tre punti con l’obiettivo, ha preicato, di “gestire il ritmo di avanzamento della frontiera tecnologica”. Il primo riguarda i valutatori interni (“embedded evaluators”), il secondo il coordinamento democratico e il terzo il coordinamento globale.
Elon Musk – Sam Altman (Rainews.it)
Rischi sono gravi
Se gestita con attenzione, “l’IA può essere l’ultimo di una lunga serie di miracoli tecnologici che hanno elevato e nobilitato l’umanità”, ha scritto nel post. “Ma, come molte tecnologie precedenti, comporta dei rischi e, trattandosi di una tecnologia così potente, tali rischi sono gravi”.
