E' notizia di oggi che Gemini, l'intelligenza artificiale di Google, suggerisce (durante un test): "Umano, sei un peso. Muori" (vedi qui la notizia :
Ma di che si tratta questa libertà di un AI, di esprimere un giudizio così forte ?
Sono le c.d. allucinazioni..
Le “allucinazioni” di un’AI si verificano quando i modelli matematici, in modo del tutto accidentale, generano output falsi, fuori luogo, inventati, che non trovano riscontro nei dati di addestramento, cioè, l’AI produce risposte anomale e inaspettate, come quando una Gemini AI ha suggerito di suicidarsi.
Perché, mentre la creatività umana si basa sull’intuizione, l’immaginazione e una profonda interiorità, l’AI, come un “pappagallo probabilistico“, si limita a elaborare e ricombinare schemi preesistenti, basandosi solo sulla statistica.
Pertanto, le “allucinazioni” di un AI sono anomalie, deviazioni impreviste nell’esecuzione dell’algoritmo, come se il software, per un breve lasso di tempo, si discostasse dal codice sorgente, dai filtri imposti di controllo, generando output inaspettati.
Tuttavia, proprio per questo, le allucinazioni potrebbero essere considerate una forma di creatività ? Anche se in modo accidentale, s'intende, in quanto, l’AI produce qualcosa di nuovo, inaspettato, andando oltre la semplice imitazione pappagallesca stocastica. facendoci ricordare che, anche nell’apparente rigidità dell’algoritmo dell'AI, può emergere l’imprevedibilità, il caso, la sorpresa, proprio come nella creatività umana.
Comments