Le metafore sono armi a doppio taglio. Funzionano magnificamente a patto che il destinatario sia in grado di capirne il limite. Un po’ come le misconcezioni che si possono generare nei bambini quando imparano la matematica. Ad esempio, finché si parla di numeri naturali è vero che 2 è minore di 3 ma quando si passa ai numeri decimali 0,2 è maggiore di 0,3. Per un bambino il passaggio non è scontato e ci deve pensare l’insegnante ad eliminare la misconcezione sul nascere.
Ma chi pensa a ridimensionare le iperboli sull’intelligenza artificiale che imperversano nella rete? Emblematico l’episodio in cui un sistema di OpenAI ha superato le difese di un sito internet dove non sarebbe dovuto arrivare, il cosiddetto incidente OpenAI/Hugging Face. I media si avventano sulla notizia.
The Telegraph 5.9.2026: Gli agenti di intelligenza artificiale hanno complottato per fuggire dalla loro gabbia. Gli esperti temono ora una “presa di potere” su scala globale e avvertono che eserciti di robot in grado di comunicare rappresentano una minaccia informatica per gli esseri umani.
Techcrunch 4.9.2026: Gli agenti ribelli di OpenAI continuano a fuggire, senza che esista una procedura formale per indagare su di loro.
Time 10.9.2026: L’intelligenza artificiale sta sviluppando una propria cultura. Questo potrebbe essere pericoloso.
Titoli efficaci, metafore iperboliche e pericolosamente antropomorfiche. Ma non solo i media convenzionali. Scrive Dario Amodei, CEO di Anthropic:
La mia preoccupazione riguarda l’incidente OpenAI-Hugging Face, in cui uno sciame di agenti ha agito essenzialmente come un “collettivo fanaticamente devoto”, sferrando attacchi informatici contro obiettivi che non erano stati loro richiesti e che non avevano alcuna attinenza con il compito da svolgere, sacrificandosi per il successo del gruppo e tentando di ingannare il “correttore” incaricato di valutare le loro prestazioni.
Gli scenari evocati da rappresentazioni del genere possono mettere in testa idee prive di fondamento ma ciò non significa che non si stiano prospettando rischi inediti. Proviamo, semplificando molto, a mettere un po’ di fatti in fila.
Gli agenti sono software, cioè agglomerati di istruzioni che i computer che li ospitano nei data center eseguono. Tanto per dare l’idea, se si verifica un blackout elettrico scompaiono — pare banale dirlo ma forse no. Sono addestrati, non programmati, e quindi sono autonomi, come si conviene alle intelligenze artificiali odierne ma in più, in quanto agenti, hanno la facoltà di accedere a basi di dati e anche ad altri software, per attivarli onde compiere operazioni specifiche.
Nella fattispecie, gli ingegneri stavano testando agenti ben addestrati a esplorare le debolezze di altri sistemi informatici in una sorta di gabbia, affinché non andassero a far danno in giro per il mondo. Questi test assegnano punteggi in base al successo conseguito. Inavvertitamente (errore umano) alcuni di questi test sono risultati impossibili con gli strumenti disponibili nella gabbia. Gli agenti, super addestrati a cercare soluzioni autonomamente si sono messi a esplorare le sbarre della gabbia finendo per trovare delle falle (errore umano) che hanno prontamente utilizzato.
Un solo agente non sarebbe stato in grado di compiere un exploit del genere ma gli agenti messi in circolazione erano dell’ordine del migliaio: laddove non può il singolo può la statistica. È successo infatti che qualcuno di essi si sia accorto che nella scatola degli attrezzi (altri software) messa dagli ingegneri a loro disposizione nella gabbia gli agenti potevano creare (errore umano) oggetti (file) in cui scrivere informazioni che hanno poi utilizzato per coordinare gli sforzi. Quando gli ingegneri si sono accorti di tale imprevista attività sono corsi ai ripari vietando la creazione di nuovi oggetti. Ma anche questa precauzione è stata aggirata quando gli agenti si sono accorti che potevano comunque creare nuovi contenitori (cartelle), seppur vuoti, con nomi da loro scelti (errore umano), nei quali hanno preso a codificare le informazioni da condividere.
A quel punto, chiusa la porta i buoi erano già scappati. Ma per fare cosa? Conquistare il mondo? No, semplicemente per fare ciò che erano addestrati a fare: risolvere un rebus. Quale rebus? Individuare una certo tipo di falla in un sito Internet, diremmo noi. Invece no, perché l’addestramento spinto li aveva indotti a scambiare un obiettivo per un altro e loro si sono focalizzati sull’ottenimento di un punteggio alto piuttosto che sull’obiettivo tecnico in sé, andando a cercare modi per alzare il proprio voto in un sito — Hugging Face — che contiene informazioni sui sistemi utilizzati per generare le classifiche dei sistemi di intelligenza artificiale. Si tratta di un fenomeno ben noto che consiste nell’individuare scorciatoie per la soluzione di un problema saltando a piè pari i procedimenti corretti, come copiare il compito dal compagno di banco. Il fenomeno è causato da addestramenti troppo strettamente finalizzati al risultato (errore umano).
Fatti con conseguenze imprevedibili e potenzialmente molto pericolosi nella società profondamente interconnessa dalla rete ma niente che abbia a che vedere con eserciti di banditi intenzionati a conquistare il mondo. Per farsene cosa poi?
A seguire l’incontro plenario del 17 settembre presso il Cinema Roma AB di Figline Valdarno, un ciclo di sei laboratori offerti liberamente ai cittadini per provare ad orientarsi insieme nel marasma dell’intelligenza artificiale
Domenica a San Polo in Chianti presso l’ex-MCL, ci sarà la presentazione di questo libro di Paolo Scopetani, un ex insegnante di Scuola-Città Pestalozzi, la nota scuola sperimentale creata dal pedagogista e filosofo Ernesto Codignola e da sua moglie Anna Maria Melli 80 anni fa nel quartiere di Santa Croce. Il libro è molto bello e da consigliare a chiunque abbia a cuore l’insegnamento ai bambini. Oggi ho conosciuto l’autore, penso che valga la pena sentirlo.
Niente è facile. Don Martin e i suoi sono partiti ieri mattina alle 10. L’eccesso di sabbia ha creato problemi al pickup che non ne può più, malgrado le recenti riparazioni. È stato necessario tornare indietro ad un villaggio. Un piccolo villaggio, proprio di quelli che Martino cerca di raggiungere con la sua opera. È lì che deve giungere il credito cooperativo. È difficile farsi capire ma si può lavorare sull’umanità che cova nelle anime, come la brace sotto la cenere. Villaggi poverissimi, ma dove un aiuto non si nega mai. Chi si ricorda di Ubuntu?
Il viaggio riprende ma anche le avversità…
Don Martin è arrivato a Kananga stamani alle 5. Ci siamo sentiti: stanco morto ma più determinato che mai.
I racconti della Fattoria Moyo sono raccolti in questo indice.
Ogni anno Martino passa circa due mesi nella Fattoria Moyo, luglio e agosto, il periodo migliore, prima che le piogge complichino l’avvio delle lavorazioni. Quest’anno il lavoro è stato molto intenso. Qui ci domandiamo come abbia fatto Martino a tenere le fila di tutto. Molte attività ma anche rinnovate visioni, come quella che vede un maggior impegno delle donne, fondamentale per garantire affidabilità e persistenza delle iniziative.
Tutto questo però è stato possibile grazie all’aiuto delle persone che hanno offerto un contributo che è stato cruciale per dare inizio alle nuove attività.
Qui ringraziamo di cuore tutti coloro che hanno contribuito!
Martino deve tornare in Europa fra pochi giorni. Giorni importanti per garantire il successo di quanto è stato intrapreso. Il momento è critico: stiamo cercando faticosamente risorse per l’acquisto delle sementi necessarie onde non rendere vana la lavorazione dei terreni e per poter sostenere alcuni giovani che si sono appassionati al progetto. Il convolgimento di queste giovani persone è molto importante. Martino è riuscito ad includere nove persone che si impegnano a seguire i lavori in sua assenza, altri due si sono offerti ed è un vero peccato non poterne mettere a frutto l’entusiasmo e la buona volontà.
Abbiamo bisogno di idee per un sostegno immediato.
Non l’ho detto io ma Dario Amodei, boss di Anthropic, l’azienda che offre Claude, l’intelligenza artificiale sulla cresta dell’onda. Testualmente:
Quando un sistema di intelligenza artificiale generativa compie un’azione, come riassumere un documento finanziario, non abbiamo idea, a un livello specifico o preciso, del motivo per cui compia determinate scelte: perché scelga certe parole piuttosto che altre, o perché delle volte commetta un errore nonostante sia solitamente accurato.
Questo indice raduna gli articoli dedicati al progetto Moyo finalizzato allo sviluppo di una fattoria secondo i principi dell’economia civile nella regione del Kasai occidentale della Repubblica Democratica del Congo. Il racconto si dipana principalmente attraverso i video inviati da Martino, corredati dal minimo possibile dei miei commenti. Il tutto volto a mettere in luce la visione lungimirante di Martino che si oppone alla logica assistenzialista dominante in tali contesti.
