Redazione: ormai il mondo finanziario ci ha abituato a bolle che avvengono ciclicamente, seguite dal loro scoppio e dalla relativa crisi finanziaria. Il che ha inevitabilmente creato degli immensi trasferimenti di ricchezza a favore dei super-ricchi e per tutti gli altri la perdita dei risparmi di una vita e l’implementazione di controlli più pervasivi. Queste crisi finanziarie avvengono quasi sempre in contemporanea ad eventi traumatici, come l’attacco alle torri gemelle o “la pandemia di covid-19” e a causa di ciò la gente comune è portata a pensare che la causa della perdita dei propri risparmi vada addebitata a “cigni neri” non prevedibili anziché a qualcosa di creato scientemente da chi controlla le banche centrali.
Abbiamo di recente cominciato ad assistere ad uno strano fenomeno su tutti i media, allineati e non: il proliferare di appelli da parte di esperti di IA, che sarebbero a loro dire terrorizzati dai rischi rappresentati da questa nuova tecnologia. La cosa dovrebbe insospettire i più attenti, visto che non ci risulta che ai tempi del covid-19 ci sia stato un sussulto analogo da parte del mondo della medicina riguardo ai rischi derivanti dai vaccini mRNA.
Che stia bollendo in pentola un nuovo 11 settembre, questa volta causato dall’IA?
Tutti pronti per l’operazione psicologica “IA ribelle”?
di Kit Knightly
Le intelligenze artificiali ci stanno sfuggendo di mano, questa è la storia.
Tutto è iniziato due settimane fa, quando OpenAI ha segnalato che uno dei suoi “agenti” era fuggito dall’area di test e si era diffuso su internet per lanciare un “attacco informatico senza precedenti”.
Era evidente che l’intento fosse quello di incutere molto più timore di quanto siano riusciti a causare, perché pochi giorni dopo il CEO di OpenAI, Sam Altman, è intervenuto al podcast Invest like the Best chiedendosi perché non avesse provocato maggiore panico:
“Sono un po’ sorpreso che non ci siano più persone spaventate.”
In una delle manovre propagandistiche più ovvie dell’anno, proprio il giorno dopo quelle parole di Altman, la CNN titolava:
“La fuga di notizie dal laboratorio OpenAI è stata più estesa di quanto pensassimo.”
“Quella cosa che non vi ha spaventato? Beh, in realtà è stata persino PIÙ SPAVENTOSA di quanto avessimo detto! Adesso avete paura?“
No, non eravamo ancora abbastanza spaventati.
Ma la mancanza di panico pubblico non ha impedito ad un’altra IA di impazzire pochi giorni dopo, questa volta si trattava del modello Claude di Anthropic.
E poi OpenAI ha segnalato a sua volta altri due incidenti.
AGGIORNAMENTO: Solo un paio d’ore dopo la pubblicazione, anche META si è unita alla festa. A quanto pare anche la la loro IA è impazzita e ha hackerato un’altra azienda.
Mai nella storia dell’ingegno umano le aziende sono state così ansiose di segnalare i malfunzionamenti dei propri prodotti. A quanto pare, un’intelligenza artificiale ribelle è l’ultimo accessorio indispensabile nella Silicon Valley.
Il ragionamento alla base di tutto ciò è facile da comprendere. Quando il tuo prodotto è l’intelligenza artificiale, rivelare in modo melodrammatico che il tuo sistema è persino più intelligente di quanto pensassi è una semplice strategia di marketing.
E quando uno dei tuoi rivali agisce in modo non convenzionale, devi farlo anche tu, altrimenti è come ammettere che il tuo modello non è intelligente quanto il loro.
È come se la Ford “ammettesse” che le sue auto sono persino più efficienti dal punto di vista del consumo di carburante di quanto previsto. O come se McDonald’s si rendesse conto che i suoi cuochi si sono “scatenati” e stanno producendo cibo che è allo stesso tempo più economico E più delizioso di quanto avessero mai immaginato.
Ma c’è di più di una semplice enfasi tecnologica e di una strategia di marketing virale. Ci stanno guidando verso l’idea che “l’intelligenza artificiale sia una minaccia spaventosa”.
Si vedano, ad esempio, le decine di articoli che parlano di intelligenza artificiale fuori controllo, pubblicati dal Guardian , dal New York Times e dal Wall Street Journal .
“Ribelle” è chiaramente la parola del giorno. Notate che non dicono che “ha avuto un malfunzionamento” o che c’è stato un “errore”, perché questo implicherebbe degli sbagli o una progettazione scadente.
No, l’IA è “andata fuori controllo”, il che è allo stesso tempo figo, sexy e spaventoso. Una parola scelta evidentemente da un gruppo di dirigenti di marketing, eterni adolescenti, che hanno visto troppi film di fantascienza.
A proposito di eterni adolescenti che guardano troppi film di fantascienza, ecco Sam Altman (di nuovo) che dichiara che abbiamo già raggiunto la singolarità , la fase mitica dello sviluppo tecnologico in cui le macchine diventano abbastanza intelligenti da creare versioni ancora più intelligenti di se stesse senza l’intervento umano.
Sta dicendo sciocchezze, ovviamente, ma la storia è questa. Perché direbbe una cosa del genere? Perché proprio ora?
Ovviamente preoccupata che quest’ondata di propaganda fosse non troppo chiara, la NBC è intervenuta per ribadire con forza il concetto :
“Le violazioni indicano che le crescenti capacità dell’intelligenza artificiale stanno già alimentando la minaccia alla sicurezza che gli esperti temono da tempo.”
Allora l’avete capita oppure no?
E si va avanti così all’infinito.
Proprio oggi ci giungono segnalazioni dal nuovissimo AI Security Institute del Regno Unito, secondo cui agenti di intelligenza artificiale ribelli (ecco di nuovo quella parola) avrebbero tentato di ingannare le persone creando false identità.
E credo che questo stia iniziando a rientrare, almeno in parte, in un’agenda molto più ampia.
Dopotutto, se l’intelligenza artificiale è così brava a fingere di essere umana e crea false identità per rubare dati, beh… come possiamo distinguere chi è veramente umano?
Forse a tutti dovrebbe essere rilasciato un documento d’identità digitale per contribuire a “dimostrare la propria umanità” . Non lo dico io, ma think tank come OneID o “esperti” che testimoniano di fronte al Congresso .
Ma la costante spinta verso l’identità digitale è solo uno dei tanti problemi potenziali sollevati dalla spaventevole narrativa sull’intelligenza artificiale.
Per ora siamo ancora nella fase di generazione della paura. Articoli come questo ci riempiono il corpo di ormoni della paura…
“Consigli medici generati dall’intelligenza artificiale, che forniscono informazioni fuorvianti, rappresentano un “enorme pericolo per la sicurezza pubblica”.
the Guardian
Mentre promettono soluzioni vaghe in titoli come questo …
Quando i biologi conducono esperimenti su virus pericolosi, lo fanno nel rispetto di norme rigorose volte a prevenire fughe o dispersioni. Tuttavia, non esistono norme simili per impedire che gli agenti di intelligenza artificiale possano “fuggire” allo stesso modo, nonostante le conseguenze potrebbero essere catastrofiche.
Non si tratta di una preoccupazione puramente teorica: questa settimana un modello di prova di OpenAI è sfuggito al proprio ambiente di test ed è riuscito a penetrare nei server di un’azienda reale mentre tentava di superare a pieni voti una valutazione interna sulla sicurezza informatica. cnn.it/4fkJ6sQ
Questa è una bella trovata, perché guarnisce il piatto principale dell’IA con un pizzico di sapore di fuga di notizie di laboratorio (un altro argomento che sta facendo il giro del mondo questa settimana).
Ci sono segnali di un’imminente introduzione di nuove leggi: le norme UE sulla “transparenza dell’IA” sono entrate in vigore proprio questa settimana e gli Stati Uniti chiedono l’inserimento di “interruttori di sicurezza” nei modelli di IA, ma per ora si tratta di indicazioni vaghe.
La mia previsione, seppur vaga, è che entro la fine dell’anno si verificherà un falso allarme riguardante un’intelligenza artificiale “fuori controllo”, che presumibilmente causerà la perdita di vite umane o ingenti perdite finanziarie.
Penso che la strada da percorrere sia quella finanziaria, perché sono sempre alla ricerca di un pretesto per scatenare una recessione o una crisi bancaria, e un’occasione in cui possono addossare la colpa a terzi è troppo ghiotta per lasciarsela sfuggire.
Qualunque cosa accada, ci saranno forti richieste di “regolamentare l’IA”, ma cosa ciò potrebbe significare in termini concreti non saprei dirlo in questo momento.
Sia chiaro, però, se e quando le soluzioni ufficiali al problema inventato n. 4987 verranno finalmente implementate, non avranno nulla a che fare con il controllo dell’IA, ma tutto a che fare con il controllo dell’umanità..
Articolo originale: https://off-guardian.org/2026/08/05/are-you-ready-for-the-rogue-ai-psy-op/
Foto di Franz Bachinger da Pixabay
Le immagini, i tweet e i filmati pubblicati nel sito sono tratti da Internet (Google Image), oltre che – in generale – i contenuti, per cui riteniamo, in buona fede, che siano di pubblico dominio (nessun contrassegno del copyright) e quindi immediatamente utilizzabili. In caso contrario, sarà sufficiente contattarci all’indirizzo info@mittdolcino.com perché vengano immediatamente rimossi. Le opinioni espresse negli articoli rappresentano la volontà e il pensiero degli autori, non necessariamente quelle del sito.
