Mozilla vuole costruire un’AI open source, affidabile e con tutti i meccanismi necessari per rimanere in un ambito d’uso etico.
Mozilla investirà 30 milioni di dollari per lanciare Mozilla.ai, una nuova startup con la missione di costruire un’AI affidabile e in linea con i suoi principi fondativi. Il fine è creare app e prodotti di intelligenza artificiale all’interno di un ecosistema indipendente e decentralizzato rispetto allo scenario che vede le big tech, come Microsoft e Google, spartirsi attualmente il mercato con i loro progetti.
Mozilla ha fornito pochi dettagli sul lancio di Mozilla.ai ma il sito web fa riferimento alla costruzione di “un ecosistema AI open source affidabile” che miri non solo a sviluppare prodotti ma anche a capire come poter rendere trasparenti i processi che governano gli algoritmi.
Mark Surman, presidente esecutivo di Mozilla e responsabile di Mozilla.ai, ha affermato: ‘’Lavoro ad un’AI affidabile da quasi cinque anni e ho costantemente sperimentato un misto di eccitazione e ansia per le potenzialità di queste tecnologie. Sta emergendo una tecnologia davvero interessante: nuovi strumenti che hanno immediatamente stimolato artisti, imprenditori…tutti i tipi di persone a fare cose nuove. L’ansia arriva quando ti rendi conto che quasi nessuna di queste applicazioni ha dei solidi guard-rails pensati per impedire derive pericolose’’.
È evidente a cosa si riferisca Surman. Il sito Tech Crunch ricorda, ad esempio, che alla sua uscita ChatGPT di OpenAI è stato utilizzato per scrivere malware, identificare exploit nel codice open source e creare siti di phishing che assomigliavano a siti molto visitati. Modelli come Stable Diffusion, invece, sono stati usati per creare deepfake pornografici e violenti.
Gli autori di questi modelli affermano di adottare misure per frenare gli abusi, ma Mozilla ritiene i loro sforzi non adeguati, o comunque non sufficienti. Da qui l’intenzione di scendere in campo per creare alternative etiche affidabili e supervisionare, in generale, la direzione intrapresa dal settore delle IA generative.
(G.S)