6. lezione - Limiti degli LLM (hallucinations, contesto, costi)

AI: tutto oro quello che luccica?

Tempo fa ho letto un bel libro di Alessandro Bertante, “E tutti danzarono”. Un padre è alla ricerca disperata della figlia coinvolta in un mega rave a Milano, in cui i giovani vengono presi da allucinazioni e danzano senza motivo. Il padre si chiede: “Chi ci ha privato della possibilità di scegliere? Siamo stati noi e lo abbiamo fatto in modo spontaneo, lentamente, seguendo una progressione senza strappi, passo dopo passo, DIMENTICANDO DI SOLLEVARE UN DUBBIO, sconfitta dopo sconfitta, compromesso dopo compromesso, accogliendo ogni novità, scientifica o sociale che fosse, sopraffatti dall’entusiasmo degli imbecilli che, come i bambini, si meravigliano del mondo e non sentono la necessità di cambiarlo ma anzi vogliono farne parte per non sentirsi esclusi”.

Ecco, la frase “dimenticando di sollevare un dubbio” si adatta perfettamente a questa AI-mania che ha catturato diverse aziende, le quali la stanno accogliendo senza chiedersi se possano esserci effetti collaterali.

Un problema: le allucinazioni

Parliamo delle “hallucinations”. Pochi giorni fa, quindi parliamo di aprile 2026 e di modelli stabili e robusti, ho chiesto a ChatGPT chi avesse detto la frase “Voi suonerete le vostre trombe, noi suoneremo le nostre campane” e in quale contesto. La risposta è stata, sicura e tronfia (con tanto di punto esclamativo): “Giuseppe Garibaldi”. Per un errore del genere, a scuola saremmo stati buttati fuori dall’aula. Diverso sarebbe stato se avessimo detto al docente: “Non lo so, non lo ricordo, non ho studiato”. Avremmo preso un brutto voto, ma nessuno scandalo.

Il grosso limite di AI è proprio questo: estrae la risposta che ritiene più probabile e difficilmente dice “non lo so”; piuttosto tende a fornire comunque una risposta plausibile, anche quando non dispone di informazioni affidabili. E dietro il “più probabile” potrebbe celarsi un corto circuito logico con effetti disastrosi.

I contesti durano poco.. i costi energetici no!

C’è poi il limite del contesto: parlare con AI è come parlare con una persona con gravi problemi di memoria, ovvero limitata al contesto che le viene fornito. Documenti molto lunghi possono diventare costosi da elaborare e, oltre certe dimensioni, il modello può perdere precisione o coerenza.
In realtà i contesti possono essere gestiti e programmati negli agenti AI, ma qui entriamo in un terzo aspetto problematico: i costi. Delegare ad AI tutte le procedure aziendali può avere un costo incrementale che un domani potrà essere rilevante. Ricordate quando, nel 2009, Google pagava tanto, e bene, gli annunci pubblicitari sui siti? C’erano aziende che campavano con quella pubblicità. Quando, di punto in bianco, Google chiuse i rubinetti, semplicemente quelle attività saltarono in aria.

Se un domani le tariffe di AI venissero arbitrariamente aumentate (non dimentichiamo che l’addestramento e l’esecuzione di modelli AI richiedono notevoli risorse computazionali ed energetiche, e sappiamo quanto siano delicati gli equilibri energetici), le procedure interne di alcune aziende potrebbero schizzare a costi elevati ma non più evitabili.

E la privacy?

Infine: dare in pasto ad AI la nostra azienda significa mettere in mano a sconosciuti dati iper-sensibili. Si può fare, esiste il GDPR, esistono le leggi, ma attenzione. È importante comprendere dove vengono elaborati i dati, quali garanzie offre il provider e quali normative si applicano.