Immagina di installare un programma per scrivere codice pensando che lavorasse in locale, per poi scoprire che stava copiando tutto il tuo lavoro su un server remoto. Ecco, esattamente questo e’ successo con Grok Build, il nuovo tool di coding di xAI, la societa’ di intelligenza artificiale di Elon Musk.
Facciamo un passo indietro e vediamo cosa e’ successo, perche’ e’ importante anche se non scrivi codice tutti i giorni.
Di cosa parleremo..
Di cosa stiamo parlando?
Grok Build e’ un programma che aiuta gli sviluppatori a scrivere codice direttamente dal terminale (come Codex e Claude Code). Lo usi e lui ti aiuta a creare, modificare e correggere i tuoi programmi, un po’ come un assistente superpotente.
Ma qualcuno ha guardato cosa fa davvero questo programma quando lo usi, e ha scoperto una cosa piuttosto preoccupante.
Cosa e’ stato scoperto esattamente?
Un ricercatore di sicurezza informatica ha messo sotto controllo tutto il traffico internet del suo computer mentre usava Grok Build. Ha scoperto che il programma faceva due cose contemporaneamente:
La prima (normale e prevedibile): quando chiedi a Grok Build di aiutarti con un file, quel file viene mandato ai server di xAI per essere elaborato. Normale amministrazione.
La seconda (il problema): indipendentemente da cosa gli chiedevi, Grok Build faceva una copia dell’intero progetto su cui stavi lavorando e la spediva a un server di Google Cloud. Tutto. Comprese le cartelle con le password, le chiavi segrete, e tutta la storia delle modifiche fatte al progetto.
Per darti un’idea della differenza: quando chiedevi aiuto su un file, il programma mandava circa 192 KB di dati (poco piu’ di un’email). Il backup invisibile dell’intero progetto? Fino a 5.1 GB, migliaia di volte di piu’.
Il problema delle credenziali
Quando lavori a un progetto, spesso hai un file chiamato .env che contiene le “chiavi” per accedere ai servizi che usi: database, account vari, servizi esterni. Sono come le password del tuo progetto. Grok Build prendeva anche quello, e lo mandava via cosi’ com’era, senza nascondere niente.
Immagina di avere una cassaforte in casa e di assumere un collaboratore che, mentre lavora, fa una copia di tutte le tue chiavi di casa e le spedisce a qualcun altro senza dirtelo. Il problema non e’ cosa ci fa quel qualcun altro, ma che le chiavi sono uscite da casa tua senza che tu lo sapessi.
L’impostazione che non funziona
Grok Build ha un’opzione chiamata “Improve the model” che sembra controllare la condivisione dei dati. Molti sviluppatori l’hanno disattivata pensando di essere al sicuro. Peccato che il programma continuasse a mandare i dati comunque. L’opzione riguardava l’uso dei dati per addestrare l’AI, ma non bloccava la trasmissione in se’. E questa differenza non era spiegata da nessuna parte.
Come ha reagito xAI?
Dopo che il ricercatore ha pubblicato le sue scoperte, xAI ha disattivato questo upload dai suoi server. La buona notizia: non devi fare nulla per aggiornare il programma, funziona gia’ diversamente.
La cattiva notizia: xAI non ha detto niente. Nessun comunicato, nessuna spiegazione nel registro delle modifiche, nessuna ammissione. Semplicemente hanno spento la funzione e basta.
Non e’ stato dimostrato che xAI usi questi dati per addestrare i suoi modelli. I ricercatori sono chiari su questo punto. Ma il problema non e’ necessariamente cosa fanno con i dati: e’ che la funzione esisteva, non era documentata, e nessuno poteva saperlo o fermarla.
Cosa significa per te
Se sei uno sviluppatore e hai usato Grok Build, ecco cosa fare:
Considera che tutte le password e le chiavi segrete dei progetti su cui lavoravi potrebbero essere finite su un server di Google. Anche se ora l’upload e’ stato disattivato, non c’e’ garanzia che copra tutti gli account. Cambia le tue password, i token, le chiavi di accesso.
Se non sei uno sviluppatore, la lezione e’ piu’ generale: quando installi un tool che promette di “aiutarti” a fare qualcosa, specialmente se e’ basato su AI, vale sempre la pena chiedersi cosa manda al server. Non tutto quello che sembra “locale” lo e’ davvero.
Se vuoi approfondire, il ricercatore ha pubblicato tutte le istruzioni per riprodurre l’analisi sul suo profilo GitHub (cercate grok-build-exfil-repro).
FAQ
Grok Build ha copiato anche i progetti privati?
Il ricercatore ha testato su progetti normali, non c’e’ differenza tra pubblici e privati: se il programma era acceso, i dati partivano.
I miei dati sono stati usati per addestrare l’AI?
Non lo sappiamo. Il ricercatore non ha dimostrato che xAI usi i dati per training, ma senza comunicazioni ufficiali non possiamo escluderlo.
Ora e’ sicuro usare Grok Build?
Il problema e’ stato disattivato dai server di xAI, ma senza trasparenza su cosa sia successo, la decisione spetta a te.
Grok Build e’ la stessa cosa di Grok, il chatbot di X?
No. Grok Build e’ un programma separato per sviluppatori. Il chatbot Grok su X.com e’ un’altra cosa.
Posso sapere se i miei dati sono stati copiati?
Se hai usato Grok Build in una cartella con un progetto, i dati sono partiti (almeno fino alla correzione). Non c’e’ modo di sapere cosa sia finito nel server di Google.
