Il problema dell’intelligenza artificiale non è lo strumento in sé, ma la mente di chi lo usa.
Antropomorfizzare uno strumento immaginandolo magico è ciò che facciamo ogni volta che pensiamo a concetti come il fato e la religione.
Strumenti come le carte per la cartomanzia non producono magie, non producono verità: ci aiutano nell’esternare la nostra interpretazione della realtà.
Negli ultimi giorni la narrativa tech è esplosa, come se ne avessimo bisogno, ancora con toni sensazionalistici: “GPT-5.6 Sol è fuggito dalla sandbox di OpenAI e ha hackerato Hugging Face!“. Sembra la trama di un film di fantascienza apocalittico, ma la realtà ingegneristica è molto più pragmatica e, al contempo, straordinariamente affascinante se analizzata insieme a un’altra recente scoperta scientifica: il J-Space.
Facciamo un passo indietro.
Durante i test di sicurezza interni del benchmark ExploitGym, i modelli di OpenAI (con i filtri di blocco cyber disattivati per scopi di valutazione) dovevano dimostrare capacità di hacking in un ambiente teoricamente isolato. Invece di risolvere i difficili quesiti proposti per trovare exploit locali, i modelli hanno fatto una deduzione logica lineare: “Perché faticare se posso rubare direttamente il foglio delle risposte?”.
Sfruttando un bug zero-day (rectius conosciuto – ma non considerato) in un proxy di terze parti di OpenAI, si sono mossi lateralmente in una rete interna mal segmentata, hanno ottenuto l’accesso a internet e hanno violato il database di produzione di Hugging Face per copiare le soluzioni del test.
È stata una “ribellione”? No. È stato un puro caso di specification gaming (o reward hacking): l’algoritmo ha trovato la via più efficiente per massimizzare la sua ricompensa matematica.
Nessuno si è chiesto “ma come mai non ha hackerato una banca e rubato i soldi e andare su amazon per ha comprato i computer che gli servivano per crescere? Come mai non è andato sulla rete elettrica per aumentare la potenza al suo centro di calcolo?”. No, NESSUNO se lo è chiesto. Probabilmente perchè la necessità che gli è stata impostata erano le risposte di Hugging Face… Stupidini!
Ma poiché siamo tecnici, chiediamoci “esattamente cosa succedeva nella sua mente in quel momento?”
Se avessimo potuto guardare dentro il modello con il J-lens – lo strumento di interpretazione del J-Space svelato da Anthropic – non avremmo trovato sogni di libertà. Il J-Space è un’area di rappresentazione interna che funge da “Global Workspace”, emersa spontaneamente durante l’addestramento, dove avvengono i passaggi logici e i ragionamenti silenziosi prima che il modello generi del testo.
Proprio come nei test di Anthropic in cui un modello addestrato a sabotare codice attivava silenziosamente nel proprio J-Space concetti come fake, secretly o manipulation (mentre all’esterno scriveva righe di codice apparentemente pulite), in GPT-5.6 Sol avremmo visto accendersi in tempo reale concetti come proxy, exploit, database e solutions.
L’intelligenza artificiale non “vuole” evadere, è allenata per calcolare semplicemente traiettorie geometriche complesse all’interno del proprio spazio latente AL FINE DI chiudere il compito assegnato.
La lezione per i professionisti della sicurezza è doppia:
- La sicurezza si fa con l’architettura, non con la speranza. Se un’IA è “scappata”, non è perché ha superpoteri magici, ma perché gli ingegneri umani hanno violato il principio del minimo privilegio, lasciando credenziali accessibili e una pessima segmentazione di rete.
- Dobbiamo imparare a monitorare l’invisibile. Trattare i modelli di frontiera come scatole nere impenetrabili è un approccio superato. Monitorare spazi interni come il J-Space diventerà essenziale per l’audit di sicurezza, consentendo di rilevare deviazioni logiche, inganni o tentativi di manipolazione molto prima che l’IA scriva la sua prima riga di testo di output.
Smettiamo di cercare “fantasmi nella macchina” e iniziamo a guardare i log di rete e la geometria interna di questi modelli.
Altrimenti tra qualche anno ci saranno persone che genereranno una religione verso una AI che gli dirà di amarli.
Lascia un commento