Cifratura ostile, un altro passo verso Skynet?

[WinTricks]

Google insegna alle sue reti neurali a creare e usare un algoritmo unico di cifratura dei messaggi. Così le macchine imparano a non farsi capire da altre macchine, e dall'uomo
Milano - È una questione di ricerca scientifica, ma agli occhi degli appassionati di fantascienza non può che suonare sinistro: Google ha pubblicato su Arvix.org un documento che racconta gli esperimenti effettuati per dimostrare la capacità delle reti neurali di creare e usare una chiave crittografica per proteggere le proprie comunicazioni da altre reti neurali, lasciando all'oscuro i loro creatori. Esperimento riuscito, pare.

Quello che hanno fatto i ricercatori è piuttosto semplice: su di un server hanno implementato tre diverse reti neurali chiamate Alice, Bob ed Eve. Ciascuna di queste tre perfettamente funzionante, e con un protocollo di comunicazione interno specifico: Alice doveva scrivere messaggi segreti a Bob, Eve provare ad intercettarli. Alice e Bob condividevano una chiave di decodifica dei messaggi, mentre Eve ne era all'oscuro: messe alla prova, le tre reti hanno fornito risultati per certi versi sorprendenti.

Le reti neurali, spiegano i ricercatori, non sono particolarmente votate alla crittografia: proprio per questo, però, hanno voluto mettere alla prova il meccanismo del machine learning, ovvero hanno spiegato alle reti come effettuare la conversione in un codice crittografato del testo inviato tra di loro senza indicare un protocollo o algoritmo specifico, e sono rimasti a guardare il risultato. I primi 10mila tentativi sono stati infruttuosi: Alice e Bob non riuscivano a parlarsi affatto, oppure Eve riusciva tranquillamente a captare e decifrare i messaggi. Attorno alle 15mila iterazioni le cose hanno cominciato a cambiare.Alice e Bob si sono parlati, correttamente, in codice. Eve non riusciva più a tenere il passo, potendo decodificare solo in parte la conversazione. Missione compiuta, dunque: insegna a una rete neurale come cifrare i propri messaggi e chatterà tutta la vita. Si tratta senz'altro di una dimostrazione impressionante, ma con alcune precisazioni: il meccanismo di cifratura adottato da Alice e Bob è per lo più oscuro ai loro creatori, e andrebbe vagliato nel dettaglio per comprendere quanto sia efficace in realtà nel proteggere le informazioni oscurate con l'algoritmo elaborato. Non ci sono garanzie che sia un algoritmo efficace e solido, insomma, che sia all'altezza di quelli sviluppati dagli individui a base carbonio o che non possa essere decifrato facilmente da un essere umano con un minimo di impegno.

Tra i prossimi obiettivi dei ricercatori che hanno lavorato a questo documento c'è quello di insegnare ad Alice, Bob ed Eve nuove tecniche di offuscamento e cifratura dei mesaggi, così da rendere più sicuro l'algoritmo generato. Difficile però che diventino dei veri campioni in questo senso, non per ora almeno. Forse è ancora presto per iniziare a temere che le macchine comincino a parlare con una lingua tutta loro, incomprensibile per i loro creatori: di sicuro si tratta di un esperimento interessante, quello di Google, che potrebbe avere risvolti utili per le comunicazioni machine-to-machine e per le transazioni di relativa minore importanza da far viaggiare cifrate magari con chiavi usa e getta. Di sicuro Google pare decisamente interessata a portare avanti ricerche su reti neurali, AI e affini.