Andreas Formiconi

In autunno ci saranno altri incontri con i cittadini. Un amico mi chiede se non sia noioso ripetere sempre lo stesse cose. Tranquilli, qui è impossibile ripetersi. Quanto scritto e detto sinora continua a valere ma molte cose sono cambiate, nel giro di nemmeno un anno. Qualche problema è stato risolto, o ragionevolmente mitigato, ma al prezzo di generarne altri, magari più complessi. Gli argomenti non mancano. Riassumiamo i principali, a beneficio di chi vorrà partecipare ai prossimi incontri.

Finora qui si è parlato principalmente di LLM (Large Language Model), i motori “pensanti” dall’AI, e di chatbot, le interfacce che li fanno usare. Quasi tutti i problemi discussi erano inerenti alla natura degli LLM e in quanto tali non sono cambiati. Nuova è l’infrastruttura software che è stata aggiunta a mo’ di esoscheletro per rendere gli LLM più prevedibili e sicuri. Le magagne degli LLM sottostanti non sono sparite ma in molte applicazioni si sono ridotte sostanzialmente. Così sono nati strumenti come Claude Code, per lavorare localmente su codice e dati, e una moltitudine di “agenti”, entità software alle quali affidare compiti complessi. Usati accortamente sono utilissimi. A livello personale possono cambiare sostanzialmente il rapporto con il computer, purché si sappia esattamente cosa si vuole ottenere e si impari a collaborare con l’agente. Molto diverso da fare domande in libertà. Potremo fare una casistica degli impieghi possibili. Naturalmente tutta questa potenzialità viene con nuovi rischi. Al margine di tutto ciò, è proprio il successo di Claude Code ad avere spinto Anthropic al primo posto della classifica, portandosi alla valutazione di mille miliardi di dollari, superando così OpenAI, in questi giorni un po’ in affanno. Ma a ottobre chissà…

Sono di questi giorni le notizie su “agenti esperti in sicurezza” di OpenAI usciti dalla “gabbia” dove si dovevano esercitare, finendo col bucare le difese informatiche di qualche azienda. La portata di questi rischi non è ancora chiara. Per il momento il fatto ha messo in subbuglio sia gli staff delle aziende di AI che i governi.

Altro problema generato dall’evoluzione agentica è l’esplosione dei token, le parole o spezzoni di parole generate dagli LLM. Per funzionare gli agenti “pensano” molto, generando valanghe di token. Da principio il numero di token generati dagli impiegati nel loro lavoro veniva considerato un indicatore di produttività, e il TOKENMAXXING era diventato un obiettivo delle aziende che incoraggiavano a massimizzare l’uso dell’AI, sperando di incrementare la produttività e magari sfoltire un po’ i ranghi dei lavoratori. Ma l’incantesimo è durato poco — mesi? A fronte dell’esplosione delle utenze professionali i produttori di AI (Anthropic ecc.) si sono resi conto che con gli abbonamenti mensili avrebbero subito perdite pesanti e quindi sono passati istantaneamente al cottimo: ora, per i modelli più prestanti si paga a numero di token invece che a tempo. A loro volta, le aziende utenti si sono accorte che con queste nuove modalità di pagamento sarebbero state loro a fallire. Emergono così tecniche per non sprecare token e giocolare con modelli diversi. Nei forum degli sviluppatori software domina lo sclero, fra il martello delle specifiche di progetto e l’incudine del budget che limita i token. Tutto evolve molto in fretta e si dura sempre più fatica a distinguere progresso da incasinamento generalizzato.

Nebbia fitta sul fronte del lavoro. Ci sono aziende che hanno iniziato a potare la forza lavoro per poi accorgersi di non guadagnarci granché, anzi delle volte di dovere addirittura riassumere. Sicuramente certi tipi di mansioni verranno o sono già assorbite dall’AI ma in compenso occorrono nuove competenze perché pare sempre più chiaro che l’uso proficuo dell’AI richieda molto pensiero di buona qualità, pensiero umano intendo. Comunque le notizie si avvicendano frenetiche e contrastanti. Che è un problema di per sé, perché l’incertezza non piace a nessuno, specie in materia di lavoro.

Nel frattempo la black box rimane black e la cosa turba molti. In particolare si spende molto Anthropic con il suo Interpretability Team. Una ventina di specialisti che da oltre un lustro si avventurano per foreste di centinaia di miliardi di nodi alla ricerca di “circuiti” che evochino i meccanismi del pensiero. Dove il problema principale sono i circuiti perché chi ci dovrebbe dire quali sono i circuiti da cercare? I neuroscienziati ovviamente. Peccato che anche loro siano alla ricerca dei circuiti del pensiero, quelli biologici. Si va quindi ancora molto per congetture. Comunque esilarante: lo stesso Amodei (CEO di Anthropic) ammette di avere realizzato uno strumento straordinario ma purtroppo non abbiamo idea di come faccia a funzionare. Pare il destino dell’uomo del terzo millennio: creare tecnologie e teorie eccellenti in cui non ci raccapezziamo. Vedi il caso della meccanica quantistica (prima o poi ne parleremo).

Sul fronte “notizie in libertà”, la spettacolarizzazione mediatica di ogni risultato è nefasta, in particolare in campo scientifico. Per fare un esempio, molta ricerca in matematica e fisica teorica richiede defatiganti e tediosissimi calcoli, oppure ricerca di soluzioni in spazi troppo grandi per essere esplorati umanamente. Questi sono compiti perfetti per l’AI contemporanea. Gli scienziati ne sono tutti contenti e anche noi lo siamo. Evviva gli strumenti utili. Ma ciò non ha niente a che vedere con il guizzo di fantasia matematica che collega mondi ritenuti remoti, che sempre attiene alla ricerca dell’improbabile. Come il caso della scoperta strombazzata qualche mese fa con titoli tipo “l’AI capisce la fisica teorica”, dove poi se si va a leggere l’articolo originale si scopre che l’AI è stata usata per esplorare lo spazio delle possibili formulazioni di un problema molto ben circostanziato dai fisici, che sono quelli che la fisica la immaginano e la narrano — che è tutt’altra roba: la mente dello scienziato è guidata dall’immaginazione, non dalla mera giustapposizione di concetti probabili.

Questi i temi principali ma figuriamoci se non appare altro nel frattempo!