Nasce oggi Immanence, società benefit fondata dalle italiane Diletta Huyskes e Luna Bianchi, che offrirà consulenza etica, sociale e legale ad aziende ed enti pubblici per supportarli nelle valutazioni dei rischi e degli impatti dei loro algoritmi, software e sistemi di intelligenza artificiale. L’obiettivo: promuovere una nuova cultura dell’innovazione, responsabile e rispettosa dei diritti fondamentali e dell’ambiente. Garantire lo sviluppo tecnologico nel pieno rispetto dei diritti umani è la più grande sfida da affrontare nei prossimi anni, e Immanence vuole affrontarla da subito.
Secondo la società di analisi DataRobot, quando all’uso dell’intelligenza artificiale, per errore o mancanza di controlli, consegue un’amplificazione delle discriminazioni sociali, le aziende coinvolte perdono in termini di immagine, fatturato e clienti. Non stupisce quindi che sempre più organizzazioni ritengano cruciale ragionare sulle modalità di sviluppo e adozione di queste applicazioni e sui dati utilizzati per addestrarne gli algoritmi. Questo anche grazie alla spinta del futuro Regolamento europeo sull’Intelligenza Artificiale (AI Act) che nei prossimi mesi imporrà a qualunque soggetto europeo sviluppatore o utilizzatore di rispettare diversi requisiti di conformità. Immanence risponde a queste necessità collocandosi, con un importantissimo approccio anticipatorio, in un settore nascente: è infatti tra le prime società in Europa a offrire servizi come la valutazione etica, la definizione di una governance del digitale appropriata al contesto e la formazione in materia di “Responsible AI” per centrare al meglio gli obiettivi europei. La società co-fondata e amministrata da Huyskes e Bianchi punta tutto sull’attenzione al contesto, e si differenzia dalle big della consulenza – e dall’approccio a “checklist” – per la cura nell’identificare i possibili impatti sociali rilevanti.
“L’etica, a differenza delle macchine, non è binaria, e nemmeno unica e globale. Va negoziata, adattata al contesto, fatta evolvere insieme ai valori delle società” –– Diletta Huyskes, CEO & Co-founder.
Proprio la volontà di contrastare i bias algoritmici, che possono codificare discriminazioni nei confronti di persone oppresse (tra cui, ancora, le donne) e minoranze, e altri danni indesiderati dovuti a una gestione non adeguata, ha spinto Diletta Huyskes, ricercatrice Ph.D. e studiosa di etica delle tecnologie, e Luna Bianchi, giurista, manager ed esperta di proprietà intellettuale, a fondare Immanence. Data la complessità e diversità nelle esigenze dei settori, Huyskes e Bianchi si avvalgono di consulenti in diverse aree rilevanti ai fini delle singole valutazioni da svolgere (diritti umani, fairness ed explainability algoritmica, privacy by design, data science, diritto amministrativo e cybersecurity), appoggiandosi a centri di ricerca, società di consulenza specializzate e studi legali.
Dai large language models come ChatGPT ai software usati per diagnosticare malattie, sempre più spesso ci si chiede se le intelligenze artificiali siano diventate coscienti o senzienti. Immanence nasce per prendere posizione su questo tema: come suggerisce il nome (dal latino immanere), la tecnologia sta all’interno della società, è radicata nell’esperienza e nella progettazione umana. Attraverso questa consapevolezza, è possibile perseguire un’innovazione democratica, che se governata in modo responsabile può portare enormi benefici alle nostre società.
“I rischi della tecnologia non derivano tanto da come la si usa quanto da come e con che valori la si costruisce” –– Luna Bianchi, CEO & Co-founder