Come ormai di consueto, proseguiamo la serie di interviste a società italiane che operano nel mondo della cyber e più in generale delle nuove tecnologie, protagoniste nello scenario italiano. Oggi intervistiamo l'ingegner Davide Ariu, cofondatore della società Pluribus One.
Prima di parlare di cyber security e Intelligenza Artificiale può parlarci brevemente di lei, del suo ruolo in Pluribus One e della azienda che rappresenta?
Partirei da Pluribus One, azienda che ho contribuito a fondare e che guido da qualche anno. Nasce come azienda di tecnologia, con l’intento di portare sul mercato a partire dall’Italia soluzioni per la sicurezza delle applicazioni e dei servizi Web. Questo l’azienda lo fa a partire da un solido background tecnologico, considerato che nasce come spin-off dell’Università di Cagliari, da cui sia io che gli altri soci fondatori proveniamo.
Nonostante il contesto in cui ci muoviamo sia non quello della ricerca ma un contesto di business dove l’obiettivo è evidentemente quello di offrire soluzioni ai nostri clienti, abbiamo nel costruire l’azienda deciso di farlo mantenendo quello spirito da ricercatori che ci porta ad andare alla radice dei problemi. Ci siamo dati l’obiettivo di costruire un'offerta di valore basata su soluzioni commerciali interamente sviluppate da noi. Nella fattispecie l’ambito in cui interveniamo è quello della sicurezza delle applicazioni e servizi Web, dove abbiamo sviluppato una soluzione che consente la gestione end-to-end delle vulnerabilità applicative: dalla discovery fino alla mitigation.
Qualche giorno fa leggevo un articolo in cui si parlava di Adversarial Machine Learning e delle sfide che si presentano alle società che si occupano di intelligenza Artificiale. Ci può spiegare in parole semplici che cosa significa?
Di per sé la definizione di Adversarial Machine Learning o più genericamente di Adversarial AI è semplice e descrive l’insieme di tecniche che hanno lo scopo di inficiare e sovvertire il comportamento degli algoritmi di AI e Machine Learning, con l’intento ultimo di compromettere il normale funzionamento degli oggetti e soluzioni che ne fanno uso. Questo risultato viene raggiunto fornendo agli algoritmi degli input deliberatamente ostili (da qui l’aggettivo adversarial) costruiti tenendo conto di fattori quali la tipologia di algoritmi da attaccare, il momento in cui l’attacco può essere eseguito e l’intento che con l’attacco si intende perseguire.
Due fra gli esempi più classici sono da un lato gli attacchi che spingono i sistemi a prendere una decisione errata e dall’altro quelli che mirano a minare il processo di apprendimento durante il quale gli algoritmi apprendono dai dati, noto anche come fase di apprendimento (o learning o training). Dei primi si è tanto parlato e si continua a parlare ad esempio in relazione ai veicoli a guida autonoma: in rete si trovano numerosi esempi di vetture a guida autonoma il cui sistema di controllo è stato ingannato modificando la segnaletica stradale con degli adesivi debitamente posizionati. Dei secondi potremmo fornire un esempio in ambito malware detection, supponendo di avere un algoritmo deputato a riconoscere appunto i malware. Se l’attaccante avesse la possibilità di manipolare dei campioni di malware al punto di nascondere o modificare alcune delle caratteristiche che ne contraddistinguono il comportamento malevolo e poi di fare si che questi campioni vengano processati durante la fase di apprendimento, in fase di classificazione quegli stessi campioni o altri equivalenti non verrebbero riconosciuti come tali evadendo appunto l’algoritmo.
Va precisato che l’esistenza di questi problemi non rappresenta una novità assoluta, almeno per il mondo della ricerca, che ha iniziato a porseli e ad affrontarli circa 20 anni fa, seppur non su scala così diffusa così come è capitato negli ultimi 5-6 anni. Nei quali è tra l’altro cambiata radicalmente la prospettiva di utilizzo di AI in contesti reali e su larga scala, aspetto che evidentemente ci pone in maniera diretta di fronte alle possibili conseguenze e solleva una pressante esigenza di gestirli.
Pluribus One si occupa da anni dell'applicazione della ricerca sull'Intelligenza Artificiale nel campo della cyber security. Si tratta di un campo applicativo in cui occorre essere sempre attenti ai nuovi studi. Quali sono i rapporti della vostra società col mondo della ricerca?
Ho sempre sostenuto e continuo oggi più che mai a farlo che la cyber sia uno dei settori dove il confine fra la ricerca, anche di altissimo livello, e l'industria sia più sfumato. Perché la ricerca applicata che vive di dati può spesso avere luogo solo grazie a dati reali di cui l’accademia il più delle volte non dispone e che invece l’industria raccoglie naturalmente per poter condurre il proprio business. E viceversa, l’industria della cyber non può stare nel lungo termine sul mercato se non aggiornandosi e innovando e quindi attingendo continuamente dal mondo della ricerca.
Io ho alle spalle 15 anni di ricerca universitaria a monte e, forte di questa convinzione, ho sempre voluto che per Pluribus One la ricerca e sviluppo fossero una delle attività chiave. All’interno dell’azienda portiamo avanti tantissima ricerca e sviluppo all’interno di progetti di ricerca Europei, nell’ambito dei quali abbiamo la possibilità di far crescere e maturare le nostre soluzioni confrontandoci in un contesto internazionale fatto di decine e decine di partner da tutta Europa, dal Portogallo fino alla Romania. Significa lavorare congiuntamente con l’università per affrontare e risolvere anche i problemi pratici dei nostri clienti. Problemi su cui abbiamo svolto in passato - e continuiamo a svolgere oggigiorno - sia attività di ricerca, che quando possibile pubblichiamo in contesti internazionali, sia la parte di ingegneria e sviluppo per portare i miglioramenti che ne derivano a bordo delle nostre soluzioni. Vogliamo dimostrare che è fattibile anche in Italia e, seppur con le debite proporzioni, non solo all’interno dei colossi mondiali dell’IT.
Per raggiungere questo obiettivo l’azienda ha sempre investito importanti risorse e ha un continuo scambio anche di staff con il mondo dell’Università. Al punto che da questo 2023 finanzia anche una borsa di dottorato triennale presso l’Università di Cagliari.
Cosa ne pensa della necessità della diffusione della conoscenza nel campo dell'Intelligenza Artificiale e della Cyber security? Cosa fate voi per aumentare la diffusione della conoscenza in questo settore? Qual è la situazione in Italia?
Penso che sia un'attività fondamentale nel processo di trasformazione digitale della nostra società. Le tecnologie di AI e quelle del digitale più in generale ci offrono delle opportunità straordinarie. Ma possono proiettare almeno in parte le nostre vite verso scenari che nella migliore delle ipotesi non abbiamo fino ad oggi vissuto, e che nella peggiore abbiamo seria difficoltà ad immaginare per sviluppi e eventuali implicazioni, anche ma non solo, sotto il profilo cyber. Per evitare che come società camminiamo verso l’ignoto, è dunque importante che questi temi trovino sempre più spazio nella comunicazione di massa, considerati i possibili impatti sociali e dato che ci riguardano in qualche modo tutti. Negli ultimi anni le cose sono già cambiate: mai avrei pensato, neanche cinque anni fa, di sentire parlare di Cyber security durante il TG della sera. Ora fortunatamente capita, ed è senz’altro un bene.
Ma lancio una provocazione. Credo sarebbe opportuno ragionare a livello istituzionale su una campagna di alfabetizzazione di massa su questi temi, un pò come si fece nel primo dopoguerra per diffondere la formazione di base. Sarebbe un'azione di buon senso, considerato il ritmo poco connaturato all’essere umano con cui queste tecnologie vengono sviluppate e prendono piede.
Lato nostro, forse anche un pò per background, abbiamo sempre prediletto una comunicazione poco commerciale a favore di una orientata alla diffusione di competenze: in un momento in cui siamo target di campagne di comunicazione e marketing di ogni tipo, crediamo che il modo migliore di arrivare alle persone sia quello di portare valore e know-how.
Per questo motivo ad esempio nel corso del 2023 abbiamo dato vita ad un nostro format divulgativo, a cui abbiamo dato il nome di Cyber Journey (https://cyberjourney.it/). È un evento in presenza che abbiamo concepito come forma di viaggio attraverso i temi del panorama cyber, che ha un puro obiettivo di divulgazione e nell’ambito del quale abbiamo consentito al pubblico di Cagliari, gratuitamente, di conoscere e confrontarsi con relatori che rappresentano la frontiera internazionale della ricerca e dell’industria cyber. Nelle due edizioni 2023 abbiamo avuto speaker provenienti da ENISA, MICROSOFT, SAP, TRELLIX, CHECKMARX e da alcune delle più prestigiose università Europee, quali la Carlos III di Madrid e l’Università di Amsterdam.
Parallelamente abbiamo anche lanciato una community online, “Unboxed AppSec”, dove settimanalmente affrontiamo cercando di renderli accessibili, i temi della sicurezza applicativa. È un contenitore online, che ho preso l’impegno di alimentare personalmente con articoli e post che vanno dal mondo della ricerca fino alla descrizione dei framework e degli strumenti di lavoro di cui facciamo quotidiano uso nel garantire la sicurezza del software.
In una società come la vostra immagino sia necessario avere sempre nuove persone con cui sviluppare nuovi progetti. È difficile trovare personale preparato? Cosa fate poi per tenerlo con voi?
Un'azienda come la nostra vive di know-how e quindi le persone sono uno dei cardini fondamentali su cui l’azienda si regge. Pensi a cosa significhi portare, come facciamo noi nel caso del nostro Seer Box (http://seerbox.it), una soluzione di cybersecurity sul mercato.
Ci servono degli ottimi ingegneri del software per fare sì che la nostra soluzione sia efficiente e scalabile, possa essere installata con uguale efficienza e indifferentemente in una varietà di ambienti, dai più tradizionali on-premise ai moderni cloud-native basati su container. Ci servono competenze di offensive security per comprendere come le web application e le API che dovremo andare a proteggere con Seer Box potranno essere attaccate. E sul fronte opposto ci servono competenze di data science, data analytics & machine learning, e di defensive security per immagazzinare, analizzare e processare in maniera rapida e efficiente i dati utili a rilevare e bloccare gli attacchi. A questa aggiungiamo il fatto che proponiamo una soluzione che i clienti devono installarsi in casa, ed essendo un prodotto per la cybersecurity è esso per primo oggetto di valutazione e scrutinio da parte dei nostri clienti prima che decidano di installarlo nella loro infrastruttura. Ne consegue che dobbiamo porre massima attenzione agli aspetti di Quality Assurance, Testing, e DevSecOps.
Infine, considerato che la soluzione deve essere facilmente accessibile e utilizzabile, e consentire anche al personale tecnico che non abbia una specifica formazione su sicurezza Web di operare, dobbiamo prestare massima attenzione a tutti gli aspetti di User-Interface, User-Experience e di presentazione degli output.
Lo standard di partenza per il nostro team tecnico è dunque molto alto e non è facile reperire delle figure pronte sul mercato, soprattutto in un mercato italiano dove le aziende che sviluppano software sono poco orientate a realizzare soluzioni “a scaffale” e anche quelle che mantengono delle proprie soluzioni sono molto spesso nel mondo SaaS, che è completamente diverso dal nostro.
Ma potrei ripetere lo stesso discorso per tutte le skill relative ai progetti R&D europei.
Perciò se durante i processi di selezione ricerchiamo sempre dei profili che possano portare esperienze e know-how complementari rispetto a quelli che ci sono propri, dall’altro lato cerchiamo di favorire massimamente la crescita delle persone, e garantire la massima qualità dell’ambiente di lavoro.
Abbiamo previsto che il 10% dell’orario di lavoro settimanale debba essere allocato su attività di studio, eseguiamo formazione almeno bisettimanale sulle soft-skills, e abbiamo una gestione HR che sarebbe maniacale anche in aziende di dimensioni molto superiori alla nostra.
Questo perché come dico sempre alle persone del nostro team: “Vogliamo che restiate con noi il più a lungo possibile. Ma nel frattempo vogliamo che possiate formarvi e crescere in maniera che se domattina doveste decidere di lasciare Pluribus One non abbiate problemi a trovare una realtà anche più grande e prestigiosa che possa accogliervi”. Ovviamente spero sempre che non accada.
Per concludere, quali sono i progetti di Pluribus One per il 2024?
Sono tanti e ambiziosi, ma proverò a citarne tre.
Inizieremo subito a inizio dell’anno mettendo a disposizione una versione pubblica e gratuita della nostra soluzione Seer Box. Vogliamo dare la possibilità a tutti di provarla facilmente, conoscerla e utilizzarla per proteggere le proprie applicazioni e servizi Web. Crediamo fortemente nella qualità del lavoro che abbiamo svolto in tutti questi anni e vogliamo che possa essere apprezzato.
Entrerà poi nel vivo un progetto Europeo da 4M€, il progetto APPTake, che ci vede a capo di un consorzio di 14 aziende provenienti da 7 paesi differenti e che ha l’obiettivo di far crescere soluzioni made in Europe per il DevSecOps. Stante il ruolo di coordinatori che abbiamo è un progetto che ci pone davanti ad una responsabilità importante e ci aprirà al palcoscenico del mercato Europeo. Dunque una opportunità enorme.
E poi nel 2024 ripeteremo con una formula ancora più ambiziosa il nostro evento Cyber Journey.
I lettori di Difesa Online sono fin da ora tutti invitati a Cagliari a Giugno.
