L’impostura dell’Intelligenza Artificiale Generale

Questo articolo fa parte di una serie di approfondimenti sull’AI — il link conduce a un indice aggiornato.

---

Amici e conoscenti, genitori che trovano ChatGPT nei cellulari dei bambini, perfino compagni di osteria, tutti mi chiedono se veramente le macchine stiano diventando più intelligenti di noi.

Circolano due racconti. Quello dei capitani dell’AI che continuano a drenare capitali cosmici senza avere reso praticamente nulla di concreto e quello di studiosi e specialisti dell’AI che gridano all’inganno. L’AGI è dietro l’angolo! — proclamano i primi — Guardatevi da loro! — inveiscono i secondi. ¹

Vabbè, siamo nell’era della post-verità no? No, siamo oltre: siamo nell’era dell’irrealtà. Che ce ne importa della prossima stupida magagna terrena, sostiene Musk. Ci stiamo preparando al viaggio su Marte, usiamo auto così intelligenti che possiamo disfarci di 3/4 dei sensori (Tesla), abbiamo chatbot che fanno il mazzo a dottori di ricerca e battono matematici nei problemi più difficili. Abbiamo insomma la magia, che ci importa della sporca terra, degli sfigati, degli oppressi. Gli Alpha ci servono, perché siamo gloriosamente entrati nello Strange New World dell’irrealtà generata dall’AI ² .

Poi si scopre ³ che recentemente la BBC ha chiesto a quattro chatbot di riassumere cento articoli pubblicati sul suo sito. Nel 51

Poi si scopre ⁴ che i migliori chatbot brillano su problemi matematici olimpionici ma naufragano miseramente su quesiti da terza elementare: Alice ha N fratelli e M sorelle. Quante sorelle hanno i fratelli di Alice? (Provate vari chatbot con diversi valori di N e M…)

Poi si scopre ⁵ che in uno studio su quesiti di tipo legale i chatbot hanno dato risultati inaffidabili in proporzioni che oscillano fra il 69

Poi si scopre ⁶ che un noto giornalista viene a sapere da un chatbot di essere un pedofilo e pericoloso criminale.

Eccetera.

Diamoci una calmata:

Tutta l’intelligenza artificiale generativa che c’è in giro lavora esclusivamente su schemi statistici appresi durante l’addestramento su domini molto ampi ma pur sempre finiti. Appena ci si allontana, anche di poco, dal dominio coperto dall’addestramento, le prestazioni crollano miseramente.

Relax, please,

1. Artificial General Intelligence (AGI), Intelligenza Artificiale Forte, Intelligenza Artificiale Generale: capacità di una macchina di svolgere gli stessi compiti intellettuali di un umano. ↩︎
2. Se solo Huxley potesse vedere… Grazie Will Lockett! Grande giornalista indipendente. ↩︎
3. BBC (2024) Representation of BBC News content in AI Assistants (2024) ↩︎
4. Nezhurina M. et al (2024) Alice in Wonderland: simple task showing complete reasoning breakdown in state-of-the-art Large Language Models, https://arxiv.org/pdf/2406.02061 ↩︎
5. Dahl M. (2024) Large Lergal Fictions: profiling legal hallucinations in Large Language Models https://arxiv.org/abs/2401.01301 ↩︎
6. Formiconi A.R. (2024) Un incidente che illustra bene la pericolosità delle allucinazioni dell’AI ↩︎