approfondimenti e punti di vista 

"Il Centre for future generations ha proposto un piano dettagliato per la creazione di quello che definisce “un Cern per l’IA“, un’istituzione europea dedicata allo sviluppo di sistemi di intelligenza artificiale affidabili e all’avanguardia. 

L’approccio suggerito è quello di un modello basato sull’Arpa, con un focus sulla ricerca di base, lo scaling, le applicazioni pratiche e l’infrastruttura hardware. La governance sarebbe basata su trasparenza, responsabilità e un coinvolgimento strategico di membri UE e non-UE, garantendo la sicurezza e la competitività europea.

Secondo il rapporto, la realizzazione del Cern per l’IA costerebbe tra i 30 e i 35 miliardi di euro nei primi tre anni.  Questo investimento iniziale comprenderebbe circa 25 miliardi di euro destinati agli investimenti in datacenter.

Il finanziamento iniziale sarebbe assicurato da contributi dall’Unione Europea, dai Paesi Membri e da partner strategici del settore privato. 

Le aree di interesse del Cern per l’IA sono quattro:

• Programmi fondamentali: ricerca scientifica di base sull’IA general purpose, miglioramento di robustezza, affidabilità e trasparenza dei sistemi di IA- Almeno il 25% delle risorse dovrebbe essere dedicato a questo tipo di programmi.

• Programmi di scaling: implementazione su larga scala di metodi per migliorare l’affidabilità, aprendo la strada all’impatto sociale. Si potrebbero formare modelli specifici per settore da zero o curare set di dati ampi e di alta qualità per formare efficacemente i sistemi di IA.

• Applied program: sviluppo di sistemi di IA su misura per affrontare le sfide sociali critiche attraverso soluzioni pronte per il mercato.

• Progetti hardware: creazione dell’infrastruttura fisica necessaria per un’innovazione e un’adozione dell’IA affidabile e responsabile.

Gli applied program del Cern per l’IA si concentrano sullo sviluppo di sistemi di intelligenza artificiale (IA) personalizzati per affrontare sfide sociali critiche attraverso soluzioni pronte per il mercato. Questi programmi si basano sui sistemi creati nei “programmi di scaling”. Alcuni esempi di programmi applicati includono:

• IA per la cybersecurity: sfruttare modelli fondamentali per creare soluzioni di sicurezza informatica affidabili che salvaguardino le infrastrutture digitali.

• Robotica di laboratorio automatizzata: progettare sistemi robotici in grado di eseguire procedure di laboratorio complesse con precisione sovrumana, come la preparazione di campioni di sangue, l’analisi dei tessuti e altre attività diagnostiche complesse.

• Gestori di rete a zero emissioni nette: sviluppare sistemi di IA resilienti per gestire in modo efficiente reti elettriche rinnovabili al 100% su scala continentale. Questi sistemi sarebbero in grado di coordinare milioni di risorse energetiche distribuite, sistemi di stoccaggio e carichi flessibili con una precisione al millisecondo, migliorando sia l’efficienza che la resilienza della rete.

I progetti hardware

I progetti hardware del Cern per l’IA si concentrano sulla creazione dell’infrastruttura fisica necessaria per un’innovazione e un’adozione dell’IA affidabile e responsabile. Alcuni esempi di programmi hardware includono:

• Soluzioni di calcolo ad alta efficienza energetica: progettazione di architetture hardware specializzate, ottimizzate per gli algoritmi di IA, riducendo significativamente il consumo di energia e migliorando la sostenibilità.

• Integrazione di sensori ottimizzata per l’IA: sviluppo di hardware che integra le capacità di IA direttamente nelle tecnologie dei sensori, consentendo l’elaborazione dei dati in tempo reale a livello periferico per migliorare la privacy e ridurre la latenza.

• Meccanismi di supervisione abilitati via hardware: creazione di funzionalità di sicurezza basate su hardware a prova di manomissione che possono aiutare a verificare l’uso responsabile dell’hardware dell’IA.

"L'intelligenza artificiale migliorerà la nostra assistenza sanitaria, stimolerà la nostra ricerca e innovazione e rafforzerà la nostra competitività. Vogliamo che l'intelligenza artificiale sia una forza per il bene e per la crescita. Lo stiamo facendo attraverso il nostro approccio europeo, basato su apertura, cooperazione e talento eccellente. Ma il nostro approccio deve ancora essere potenziato. Ecco perché, insieme ai nostri Stati membri e ai nostri partner, mobiliteremo capitali senza precedenti attraverso InvestAI per le gigafactory europee dell'intelligenza artificiale. Questa partnership pubblico-privata unica, simile a un CERN per l'intelligenza artificiale, consentirà a tutti i nostri scienziati e alle nostre aziende, non solo alle più grandi, di sviluppare i modelli molto grandi più avanzati necessari per rendere l'Europa un continente di intelligenza artificiale".

"...

Il 22 ottobre lei ha cofirmato un articolo su «Nature» intitolato «Costruire un “telescopio” internazionale sull’intelligenza artificiale per frenare il potere delle big tech», che ha aperto un dibattito anche a Bruxelles. Ci può spiegare i dettagli della proposta?

La potenza di calcolo è un fattore abilitante per l’intelligenza artificiale. Ma non bisogna limitarsi all’hardware. Quello che io vedo, in Europa, e che ritengo sia da correggere, è la mancanza di una attività di ricerca pubblica che sia in grado di produrre applicazioni pratiche nell’intelligenza artificiale. La ricerca accademica è rimasta indietro in assenza di una struttura organizzativa. Non vedo per esempio un large language model (LLM) capace di competere con quelli americani e cinesi che sia stato progettato da ricercatori europei. Per colmare questo divario penso, come ho scritto anche su «Nature», che sia necessario creare un centro europeo dedicato all’intelligenza artificiale, organizzato e gestito sul modello del Cern. Questo è quello che ritengo assolutamente necessario.

La presidente della Commissione Europea Ursula Von der Leyen ha proposto un piano per l’IA da 200 miliardi, di cui 50 pubblici, facendo anche un riferimento alla storia di successo del Cern. C’è poi l’alleanza OpenEuroLLM: unisce centri di ricerca, imprese e istituti di calcolo per dar vita a un LLM europeo. L’Europa è l’unico continente al mondo ad avere una legge sull’IA. 

Tutto questo è meritorio. Ma se non siamo in grado di capire come funziona nel profondo un LLM, o quello che verrà dopo, non siamo nemmeno bene in grado di capire come si possa fare una regolamentazione. Ripeto: è assolutamente fondamentale, per non rimanere schiacciati tra americani e cinesi, che ci sia uno sviluppo della ricerca pubblica europea sull’intelligenza artificiale. Concentrata in un unico luogo: un centro di ricerca pubblico e aperto, capace di attirare i migliori scienziati e di portare avanti studi teorici avanzati. Proprio come il Cern. Un luogo dove possano lavorare, fianco a fianco fisici, informatrici, matematici, linguisti: ovvero gli scienziati di tutte le discipline che oggi convergono nella ricerca per l’intelligenza artificiale."

...

Tornando all’esperienza del calcolatore APE, voi andaste al Cern con il progetto di un computer che non esisteva, per fare calcoli fisici che fino a quel momento era impossibile fare. Se fosse già una realtà, cosa suggerirebbe di studiare nel Cern dell’IA? 

Per progredire servono idee nuove. È possibile che fra cinque anni i large language model siano qualcosa di abbandonato. Per questo bisogna fare ricerca pura sul nuovo che deve ancora arrivare. Nella mia visione, dentro al Cern dell’IA i ricercatori europei dovrebbero rimboccarsi le maniche e iniziare a condurre studi teorici e pratici su software e algoritmi della prossima intelligenza artificiale. Quella che ancora non c’è.

"...una proposta che periodicamente emerge nel dibattito pubblico è quella di creare il ‘CERN dell’AI’, un centro di ricerca europeo dedicato all’intelligenza artificiale. L’idea, promossa da più parti nel panorama politico e accademico, rappresenterebbe non solo un’opportunità per l’Unione Europea di assumere una posizione di leadership tecnologica globale, ma anche un’occasione per consolidare un modello di sviluppo che rispetti i principi democratici, etici e costituzionali che sono il cuore pulsante dell’Europa. Il riferimento al CERN, centro di eccellenza internazionale per la ricerca nucleare, sottolinea l’ambizione di questo progetto: creare una vera e propria “unione” di sforzi scientifici e tecnologici che possa competere con le potenze tecnologiche mondiali, come Stati Uniti e Cina, ma in un’ottica orientata alla tutela dei diritti umani, della privacy e delle libertà individuali.

L’urgenza di tale iniziativa è stata recentemente ribadita da Giorgio Parisi, Premio Nobel per la Fisica, che ha sottolineato come l’Europa debba sviluppare capacità autonome nell’ambito dell’AI per svincolarsi dalla dipendenza dai giganti tecnologici globali. Parisi ha evidenziato il rischio che l’Europa, se non intraprende azioni decisive, possa rimanere intrappolata in un ruolo di subalternità tecnologica, incapace di influenzare le grandi scelte in un settore cruciale per il futuro. La creazione di un centro di ricerca come il CERN dell’AI, quindi, non sarebbe solo una risposta a un bisogno tecnologico, ma una vera e propria mossa geopolitica, con l’obiettivo di riaffermare la sovranità tecnologica dell’Europa.

Le raccomandazioni del Rapporto Draghi

Questa prospettiva si allinea con le raccomandazioni contenute nel Rapporto Draghi, presentato nel 2024 e redatto da un gruppo di esperti sotto la guida dell’ex-presidente del Consiglio italiano. Il Rapporto sollecita l’Unione Europea a investire in poli di eccellenza in grado di integrare innovazione tecnologica, ricerca scientifica e competitività economica, al fine di contrastare il predominio delle grandi potenze tecnologiche e posizionarsi come un attore di riferimento nel panorama globale dell’AI. Secondo il Rapporto, l’Europa ha tutte le carte in regola per diventare un leader mondiale nel campo dell’AI, ma solo se sarà in grado di costruire alleanze strategiche, sostenere l’innovazione e, soprattutto, garantire una regolamentazione etica che preservi la centralità dell’essere umano in un contesto tecnologico sempre più complesso.

Infrastrutture e politiche per il CERN dell’AI

In questo scenario, la creazione di un CERN dell’AI rappresenterebbe dunque non solo un investimento in ricerca, ma anche un simbolo di una nuova visione dell’Europa come motore di progresso tecnologico responsabile, capace di orientare l’evoluzione dell’AI verso modelli che non mettano in discussione i diritti fondamentali dei cittadini e la giustizia sociale.

L’idea di un CERN europeo per l’AI si inscrive in una visione più ampia di rafforzamento dell’ecosistema tecnologico europeo, che mira a colmare il divario tra l’Europa e le principali potenze tecnologiche mondiali, come Stati Uniti e Cina. Questo centro di ricerca sarebbe un polo multiculturale e interdisciplinare, in grado di ospitare i migliori ricercatori europei e internazionali, offrendo loro infrastrutture all’avanguardia, risorse finanziarie e condizioni di lavoro ottimali. L’obiettivo primario sarebbe sviluppare un’intelligenza artificiale che sia inclusiva, affidabile e umanocentrica, allineata ai valori democratici e ai principi di protezione dei diritti fondamentali, elementi che definiscono l’identità dell’Europa."

“…C’è una proposta per fare una sorta di Cern dell’intelligenza artificiale. Credo sia necessario, perché regolarla è fondamentale ma va prima capito come funziona. Non parlo dei principi generali, ma di come lavora un modello grosso come Gemini, per capirlo serve realizzarlo. Su questo bisogna muoversi”.

L’Europa dovrebbe creare un centro di ricerca sull’IA sul modello del CERN, per studiarne le potenzialità, mitigarne i rischi e sviluppare un’IA “spiegabile” e sicura. L’opinione di Gianni Manco, referente per la Campania degli Stati Generale dell’Innovazione (SGI).

“…realizzare certe politiche globali su materie che investono sfide come quelle indotte dall’IA, non è facile. Ma l’Europa settant’anni fa (nel 1954), raccogliendo la proposta di valorosi scienziati, ha dato vita ad un esempio di successo, il CERN di Ginevra, con lo scopo di renderla competitiva nel mondo della fisica delle particelle, riportare a casa gli scienziati europei emigrati con la seconda guerra mondiale e mettere la scienza al servizio del bene comune e della pace (per inciso il web è nato al CERN nel 1989 ad opera di Tim Berners).

Per l’IA, come già proposto in questi ultimi anni da alcuni ricercatori e organizzazioni (un esempio è il rapporto sull’IA di Aspen Institute Italia-Intesa San Paolo del 2024), serve un centro UE sul modello del CERN e come tale aperto a paesi anche non europei e all’utilizzo delle sue infrastrutture di supercalcolo.”

"...Un CERN per l'IA potrebbe fornire all'Europa l'infrastruttura computazionale per costruire i propri modelli di IA di frontiera e per stimolare un fiorente ecosistema di startup e scale-up ad alta tecnologia, sostenuto da talenti che sarebbero incentivati ​​a lavorare in e per l'Europa. Un tale ecosistema andrebbe a vantaggio non solo del settore privato, ma anche di quello pubblico. Uno sforzo paneuropeo su larga scala promuoverebbe ulteriormente l'autonomia strategica dell'Unione e consentirebbe lo sviluppo di risposte più affidabili e assistite dall'IA alle minacce esterne in settori come la guerra informatica.

Infine, e forse più significativamente, rendere l'IA di frontiera sicura e affidabile resta un  problema scientifico irrisolto . L'UE non può scommettere su aziende straniere orientate al profitto per risolvere questo problema, né può contare solo sulla regolamentazione. La storia ha dimostrato che ambiziosi sforzi di ricerca europei, come il CERN originale, possono espandere rapidamente la frontiera scientifica. Un'IA affidabile può essere inventata in Europa.

L'idea, quindi, è convincente, ma progettare e creare un'istituzione come questa richiederà una pianificazione approfondita, un'allocazione strategica delle risorse e una seria ambizione a Bruxelles e oltre. Per avere successo, un CERN per l'IA dovrebbe avere:

• Percorsi multipli per un'intelligenza artificiale affidabile:  fare della risoluzione del problema scientifico dell'intelligenza artificiale affidabile la propria missione principale e affrontarlo attraverso molteplici scommesse di ricerca mirate;

• Calcolo competitivo:  stanziare un budget di 35 miliardi di euro in tre anni per garantire l'accesso a un'infrastruttura di calcolo competitiva.

• Leadership di livello mondiale:  nominare una leadership in grado di attrarre rapidamente i migliori talenti e di iniziare subito a lavorare;

• Governance agile e democratica:  bilanciare risolutezza e controllo nella struttura di governance;

• Sicurezza multilivello:  impegnarsi per l'apertura e la trasparenza laddove responsabile e per la sicurezza laddove necessario;

• Coinvolgimento del settore privato:  consentire al settore privato di basarsi sulla ricerca pubblica e fondazionale e accettare il suo cofinanziamento dopo un rigoroso screening;

• Hub di talenti e di elaborazione:  creare un unico hub di talenti dedicato, accompagnato da 1-5 hub di elaborazione separati;

• Partenariati internazionali:  rimanere aperti a partenariati con paesi extra UE che condividono gli stessi ideali; e

• Condivisione dei benefici:  garantire una struttura di condivisione dei benefici tra i governi e le aziende partecipanti."

Lungo articolo di Gary Marcus apparso ad sul Guardian sulla inaffidabilità di Sam Altman.

Molto interessante la conclusione che auspica la realizzazione di un “cross national effort”, uno sforzo transnazionale,  simile al consorzio CERN. In sostanza solo la costituzione di un nuovo soggetto sovranazionale è pensabile possa condizionare/contrastare soggetti sovranazionali che per svilupparsi e drenare crescenti risorse umane e finanziarie sono indotti a dare immagini false delle loro attività. Sarebbe un primo passo per sostenere lo sviluppo di un nuovo set di tecniche di IA che appartengano all'umanità e fondare un’etica che, nel tutelare l’umanità, favorisca sviluppi di algoritmi evoluti, più efficaci ed efficienti anche in termini di consumi energetici di quelli attualmente utilizzati.

"Da quando il mese scorso abbiamo pubblicato i nostri consigli sull'intelligenza artificiale (IA) nella scienza , si è sviluppato un acceso dibattito.

È interessante notare che la comunità di ricerca parla con una sola voce su gran parte di ciò. Sappiamo che l'IA ha il potenziale per rivoluzionare la scoperta, accelerare il progresso e dare impulso all'innovazione, anzi, ha già iniziato a cambiare il modo in cui viene svolto il lavoro della scienza. E riconosciamo le sfide e le opportunità: la mancanza di trasparenza dei modelli commerciali dominanti; l'emergere dell'IA come risorsa geopolitica che definisce quali parti del mondo ne trarranno beneficio e quali rimarranno indietro; e l'urgente necessità di ricerca sulle questioni filosofiche, legali ed etiche che accompagnano le nuove tecnologie.

Su gran parte di questo, le prove sono chiare, anche se la tecnologia stessa si evolve a una velocità mozzafiato. Ma quando si tratta dei dettagli della governance europea, ovvero quali politiche e istituzioni sono necessarie a livello UE per sfruttare i vantaggi dell'IA e affrontarne le sfide, c'è, forse non sorprendentemente, più disaccordo.

Si tratta ovviamente di considerazioni politiche, ma anche in questo caso le prove possono essere utili. Ecco perché la vicepresidente esecutiva dell'UE Margrethe Vestager ha chiesto al Meccanismo di consulenza scientifica raccomandazioni specifiche sulla governance e sui contenuti.

È chiaro che dobbiamo dare alle università e agli istituti di ricerca in tutta Europa un accesso equo alle strutture di intelligenza artificiale all'avanguardia. Proponiamo che un nuovo istituto europeo per l'intelligenza artificiale nella scienza possa fornire un'enorme potenza di calcolo ad alte prestazioni, un'infrastruttura cloud sostenibile e programmi di formazione sull'intelligenza artificiale per gli scienziati.

Parallelamente, un Consiglio europeo per l'IA nella scienza offrirebbe finanziamenti dedicati ai ricercatori di tutte le discipline per esplorare e adottare l'IA nei loro campi. Queste istituzioni garantirebbero inoltre che l'IA nella ricerca sia in linea con i valori fondamentali dell'UE.

Queste non sono idee nuove, ovviamente: si basano sulle migliori prove disponibili dalla comunità scientifica, riunite in una revisione delle prove SAPEA redatta da esperti provenienti da accademie di tutta Europa. E mentre nessuno sta seriamente contestando la necessità di una solida configurazione istituzionale, non tutti sono d'accordo con la nostra proposta specifica che questo dovrebbe essere un istituto distribuito, che chiamiamo EDIRAS, ovvero European Distributed Institute for AI in Science.

Il giorno in cui abbiamo pubblicato il nostro rapporto, Holger Hoos della Confederazione dei laboratori per la ricerca sull'intelligenza artificiale in Europa, essa stessa un'organizzazione distribuita che si batte per quello che chiama un "CERN per l'intelligenza artificiale", ha scritto su Science|Business esprimendo i suoi dubbi su un modello distribuito, sostenendo che "qualsiasi sforzo ambizioso necessita di un punto focale visibile".

Nel preparare il nostro consiglio, non abbiamo trovato alcun consenso su questo tema tra gli scienziati. A parte le argomentazioni politiche, ci sono ragioni oggettive per credere che un modello decentralizzato e distribuito sarebbe meglio equipaggiato per raggiungere la sua missione rispetto a un istituto monolitico che sventola la bandiera dell'IA in Europa.

Una ragione importante è che abbiamo bisogno di un'ampia collaborazione, aperta a tutta la comunità di ricerca europea, per realizzare il vero potenziale dell'IA in tutte le discipline di ricerca: nelle scienze fisiche e biologiche, nelle scienze sociali, nelle arti e nelle discipline umanistiche, e non solo nella ricerca sull'IA. Ciò significa consentire a tutte le nostre università, istituti e singoli studiosi un accesso equo alla nuova significativa potenza di fuoco che EDIRAS rappresenterebbe, oltre a riunire molte iniziative esistenti.

C'è anche il fatto che le nostre raccomandazioni non sono considerate frammentarie dai decisori politici, ma come parte di un mix di politiche complessivo. Creare quel "punto focale visibile" potrebbe allontanare i nostri migliori collaboratori dalle loro università e aziende, richiedendo a sua volta altre politiche di decentramento per compensare.

Una terza importante prova è la dura critica rivolta al fiore all'occhiello dell'intelligenza artificiale centralizzata del Regno Unito, l'Alan Turing Institute. Un comitato di revisione ha scoperto di recente che la struttura di governance centralizzata dell'istituto era " un ostacolo " perché "non era rappresentativa dell'intera comunità" e ha raccomandato cambiamenti significativi, tra cui "una maggiore diversità nella composizione del consiglio rappresentativa dell'ecosistema più ampio.

L'Europa non deve commettere lo stesso errore. È chiaro che l'UE sta prendendo molto sul serio la sfida dell'IA nella ricerca: ecco perché la Commissione ci ha chiesto consiglio in primo luogo.

L'Europa si sta muovendo rapidamente per garantire che non solo gli scienziati, ma tutti noi, possiamo prosperare in un mondo in cui l'IA gioca un ruolo sempre più importante. Dobbiamo prendere altrettanto seriamente la necessità che le strutture di governance di domani siano trasparenti, aperte a studiosi di tutte le aree e discipline e lavorino a beneficio dell'intera comunità."

Scientific Advice Mechanism è un gruppo di consulenti scientifici impegnato a fornire prove ed evidenze scientifiche indipendenti e raccomandazioni politiche alle istituzioni europee su richiesta del Collegio dei Commissari.

“Una delle sfide più urgenti e importanti riguarda l'incapacità dei ricercatori pubblici di IA di accedere a risorse computazionali e set di dati di alta qualità per intraprendere ricerche all'avanguardia sull'IA. Questa è ora ampiamente dominata da laboratori scientifici privati ​​ospitati da Big Tech, che non sono tenuti a perseguire ricerche che siano in linea con i principi dell'impegno scientifico, in particolare quelli di comunicazione aperta e patrimonio comune. La disuguaglianza risultante limita sostanzialmente la capacità dei ricercatori pubblici di IA di offrire alternative di interesse pubblico, di testare e valutare i modelli di IA prodotti da Big Tech (perché non hanno accesso al codice sottostante o ai dati di origine) o di intraprendere ricerche preziose che servano l'interesse pubblico e che altrimenti verrebbero trascurate perché non sono sufficientemente redditizie da attrarre l'interesse del settore privato. Inoltre, l'eccessiva dipendenza dei ricercatori dai modelli di IA commerciali può esacerbare la crisi di riproducibilità, perché i modelli sottostanti stessi non sono aperti al controllo pubblico e quindi non sono stati sottoposti a valutazione peer-review aperta per identificarne la validità e i limiti. Ciò pone la ricerca pubblica sull'IA in una posizione di svantaggio comparativo.

Diversi paesi hanno annunciato iniziative per aumentare il calcolo disponibile per la ricerca e il mondo accademico, tra cui la US National AI Research Resource , la Canada's Digital Research Infrastructure Strategy e la Swiss AI Initiative . Queste si aggiungono alle iniziative per fare il punto sulla capacità e le esigenze di calcolo, comprese quelle dei ricercatori, come la Canadian Digital Research Infrastructure Needs Assessment (Pérez-Jvostov et al, 2021) e la revisione del Regno Unito del 2022 Future of Compute . Queste iniziative sono in linea con l'osservazione dell'OCSE secondo cui, senza un maggiore accesso al calcolo ad alte prestazioni e al software per supportare lo sviluppo dell'IA nella scienza, i gruppi di ricerca meno finanziati sono svantaggiati perché le risorse di calcolo all'avanguardia sono proibitivamente costose per molti ricercatori (OCSE, 2023).

Di conseguenza, una possibile via da seguire per la Commissione europea da considerare è quella di investire, istituire e fornire finanziamenti continui per una struttura all'avanguardia per la ricerca accademica in Europa, che fornirebbe il livello di risorse necessario per consentire alle risorse pubbliche di impegnarsi nella ricerca all'avanguardia sull'intelligenza artificiale, rendendo al contempo queste strutture disponibili agli scienziati pubblici che cercano di utilizzare l'intelligenza artificiale per la ricerca scientifica. Questo super-centro europeo per l'intelligenza artificiale fornirebbe agli scienziati e ai ricercatori pubblici (ovvero, quelli impiegati da università e istituti di ricerca finanziati con fondi pubblici che operano su base non-profit) l'accesso alle infrastrutture e agli input necessari per intraprendere la ricerca all'avanguardia sull'intelligenza artificiale. Questa struttura sarebbe composta da quanto segue:

• enorme potenza di calcolo

• infrastruttura cloud sostenibile

• repository di set di dati di alta qualità, puliti, raccolti e curati in modo responsabile

• un'unità di consulenza scientifica e di competenze in materia di intelligenza artificiale impegnata nello sviluppo di standard di ricerca sulle migliori pratiche per l'intelligenza artificiale e nello sviluppo e nell'erogazione di programmi di formazione e sviluppo delle competenze adeguati per affrontare l'attuale mancanza di consapevolezza e competenze in merito alle questioni discusse in Migliori pratiche, linee guida, protocolli e formazione .

La missione principale di questo super-centro europeo di IA proposto sarebbe un impegno per una ricerca di IA responsabile all'avanguardia che abbia integrità scientifica al servizio del bene pubblico. Così intesa, non intende competere o replicare la ricerca di IA intrapresa da Big Tech, che è guidata da imperativi commerciali riflessi nella sua mentalità di "muoversi velocemente e rompere le cose". Se questo dominio di ricerca è caratterizzato come una gara, allora la scienza pubblica è già svantaggiata, in quanto è vincolata da norme più rigorose di integrità e responsabilità verso i valori pubblici che non sono vincolanti per le istituzioni commerciali a scopo di lucro. Allo stesso tempo, ci sono rischi sistematici associati alla crescente dipendenza da Big Tech e alla loro appropriazione e sfruttamento della conoscenza scientifica, attraverso lo sfruttamento della conoscenza e del lavoro di altri che non ricevono una quota proporzionale dei profitti risultanti.

È inoltre importante sottolineare la collaborazione transnazionale che questa iniziativa dovrebbe avere, soprattutto alla luce dello stato avanzato della ricerca sull'IA in paesi extra-UE come Regno Unito e Svizzera. Inoltre, il ruolo di questo centro potrebbe anche essere quello di collegarsi a esperienze simili, con gli stessi valori fondanti, da paesi extra-europei, rafforzando i collegamenti di ricerca sull'IA responsabile nella comunità accademica su scala globale.”

“Molte delle argomentazioni che avevo inizialmente avanzato a favore di un CERN per l’intelligenza artificiale sono ancora valide. Ciò che ho notatonel 2017(all’epoca concentrandomi sull’intelligenza artificiale per la medicina piuttosto che sulla sicurezza dell’intelligenza artificiale in sé) è che alcuni problemi nell’intelligenza artificiale potrebbero essere troppo complessi per i singoli laboratori e non di sufficiente interesse finanziario per le grandi aziende di intelligenza artificiale come Google e Facebook. (ora Meta), che dopo tutto sono guidati dai profitti piuttosto che dall’interesse pubblico. Questo è ancora vero. 

Abbiamo bisogno di progressi nella ricerca per risolvere alcune delle sfide tecniche odierne nella creazione di un’intelligenza artificiale con obiettivi sicuri ed etici. È improbabile che alcune di queste sfide possano essere risolte semplicemente rendendo i sistemi di intelligenza artificiale più capaci.“

(contenuto riservato)