Polizia postale
Crema (Cremona), 27 ottobre 2020 - Due giovani cremaschi a caccia di deepfakes nella rete. Con successo. Sono loro che hanno scoperto il bot su Telegram che dà la possibilità a chiunque di caricare fotografie di una qualsiasi persona e denudarla utilizzando l’intelligenza artificiale. Sono Francesco Cavalli, di Offanengo, e Giorgio Patrini, di Crema. Il primo è in Olanda da un paio di anni e fa il “pendolare” con l’Italia, mentre il secondo vive in Olanda da anni e lavora come ricercatore in machine learning (intelligenza artificiale) all’Università di Amsterdam. A fine 2018 hanno fondato Sensity AI, una startup che di mestiere scopre deepfakes, ovvero contenuti audio-video manipolati tramite intelligenza artificiale. Recentemente sono comparsi sulle principali testate giornalistiche del mondo per avere scoperto il bot “deepnude” nato in Russia e diffuso su Telegram.
Come siete arrivati a trovare questo bot?
"Abbiamo costruito una piattaforma di intelligence che ci permette di analizzare dati da centinaia di siti, social, app in tutto il mondo anche nei meandri più oscuri e ‘illegali’ del web. In questo modo il nostro team è stato in grado di entrare in contatto con questo bot qualche mese fa. Da lì abbiamo iniziato gli approfondimenti".
Come funziona il bot denude?
"Utilizza degli algoritmi di intelligenza artificiale che, in base a particolari reali visibili in una fotografia, elaborano, con buona approsimazione, come potrebbe essere la parte del corpo nascosta e ne ricavano una foto verosimile. Una volta in rete, chi la vede difficilmente si farà la domanda se è la foto è reale o falsa". E qual è il vostro compito? "Il bot deepnude è solo una delle decine di minacce “visive” in cui le persone possono incappare online. Con l’intelligenza artificiale è possibile ricreare alla perfezione facce e voci e far dire alle persone qualsiasi cosa. Il nostro compito è intercettare tutte le minacce che derivano da questa tecnologia e creare degli algoritmi in grado di “contrattaccare” ovvero rilevare queste manipolazione al fine di preservare l’immagine, la reputazione e soprattutto la sicurezza di persone e aziende".
Chi sono i vostri clienti?
"Abbiamo diverse tipologie di clienti: da agenzie di comunicazione e studi legali di Hollywood che si occupano di preservare l’immagine di persone del mondo dello spettacolo, passando per altre aziende di sicurezza digitale, fino a organizzazioni governative e non governative che monitorarano la proliferazione di contenuti fasulli online. Ma il problema “deepfakes” sta rapidamente aggredendo molti altri settori. Abbiamo evidenze certe che i deepfakes bypassano i sistemi di riconoscimento facciale di tutte quelle aziende che hanno necessità di verificare l’identità delle persone online (banche, finanziarie, assicurazioni e altre) esponendole a grandi rischi".
È da molto che operate in questo campo?
Abbiamo fondato Sensity nel 2018. Oggi abbiamo sei collaboratori e abbiamo appena lanciato la nostra piattaforma di intelligence online che, da un lato,permetterà di capire in tempo reale quanti attacchi tramite deepfakes stanno subendo determinate aziende o personaggi pubblici. Dall’altro, permetterà di analizzare immagini, video e presto anche audio per accertare eventuali manipolazioni".