Roma, 6 mar. (askanews) - Identificare l'origine di contenuti, spesso indistinguibili, come potenzialmente generati da sistemi di intelligenza artificiale. Come ormai è spesso cronaca. E' questa la mission di IdentifAI, startup innovativa con sede a Milano, che guarda al mercato europeo con voglia di crescere e in particolare al mondo dei media, così come a dello dell'alta dirigenza. Per evitare di raccontare come vere realtà che di vero non hanno nulla, identificando contenuti immagine e video generati artificialmente.IdentifAI intende infatti fornire ad ogni individuo, cittadino, consumatore, decisore politico o aziendale, il potere di distinguere con chiarezza se ciò che osserva è frutto di un'intelligenza artificiale o di creatività umana. In tal modo vuole garantire che le tecnologie emergenti servano il bene comune e non diventino strumenti di destabilizzazione, anche grazie a tecnologie altrettanto efficaci in grado di limitare questi rischi.Marco Ramilli, fondatore e presidente di IdentifAI ci racconta come:"Oggi grazie all'intelligenza artificiale generativa è possibile creare un contenuto che è indistinguibile all'occhio umano, non riuscendo a capire se un'immagine, un video o anche un suono, una voce siano stati creati o generati. E sono elementi fondamentali per convincerci ad esempio a fare una determinata attività. Ed è dunque altrettanto fondamentale informare l'utente finale, perchè sappia distinguere. Avvisandolo di contenuti creati dall'IA quindi non reali. Qui entriamo in gioco noi".E il raggio di applicazione è enorme, di fatto ovunque ci sia un'immagine da controllare:"Dai documenti d'identità, alle truffe assicurative, o in termini di reputazione su contenuti creati per screditare, esempio nei confronti di un manager di un'azienda concorrente. Oggi le informazioni che prendiamo per decidere possono non essere di qualità, finte, mai esistite, leggermente modificate, Quindi tutti dovremmo avere strumenti per capire. Le Big Tech hanno lasciato a tutti di dire e raccontare la propria realtà e di modificarla a proprio piacere. Allora noi, manager, studenti, giornalisti dobbiamo avere grande responsabilità, i media devono mantenere alta l'attenzione usando la tecnologia per arrivare alla realtà".Garanzia di risultati?"L'IA è una scienza probabilistica quindi non ha certezze per definizione ma l'attività che noi facciamo è il reverse di questa attività probabilistica, li chiamiamo modelli degenerativi in contrasto con i modelli generativi che conosciamo. Sempre probabilistica, ma con un livello di accuratezza che a giugno 2024 per noi a livello internazionale era dell'88%. Oggi siamo molto vicini al 94%".
Categoria
🗞
NovitàTrascrizione
00:00Identificare l'origine di contenuti spesso indistinguibili come potenzialmente generati
00:05da sistemi di intelligenza artificiale, come ormai è spesso cronaca, è questa la mission
00:09di Identify, startup innovativa con sede a Milano che guarda al mercato europeo con voglia
00:14di crescere e in particolare al mondo dei media, così come quello dell'alta dirigenza,
00:18per evitare di raccontare come vera realtà che di vero non hanno nulla, identificando
00:22contenuti, immagini e video generati artificialmente.
00:26Identify intende infatti fornire ad ogni individuo, cittadino, consumatore, decisore
00:30politico o aziendale, il potere di distinguere con chiarezza se ciò che osserva è frutto
00:34di un'intelligenza artificiale o di creatività umana, in tal modo vuole garantire che le
00:38tecnologie emergenti servano al bene comune e non diventino strumenti di destabilizzazione
00:43anche grazie a tecnologie altrettanto efficaci in grado di limitare questi rischi.
00:47Marco Ramilli, fondatore e presidente di Identify ci racconta come.
00:51Oggi grazie all'intelligenza artificiale generativa è possibile creare del contenuto
00:58che è indistinguibile all'occhio umano, quindi un essere umano non può più capire
01:03se un contenuto, per esempio un'immagine, un video o anche un suono e quindi una voce
01:08è stato creato oppure è stato generato, ecco quindi in quel momento essendo noi un
01:13po' come il San Tommaso, quindi quando osserviamo qualcosa, ci crediamo un po' di più, l'immagine,
01:18il suono, il video diventano elementi fondamentali, diventano elementi fondamentali per convincerci
01:23a fare delle attività, diventano elementi fondamentali per aiutare a cambiare il nostro
01:28modo di essere, perché ci convingono a fare magari cose che non vorremmo fare pian piano
01:33nel tempo, ecco allora che risulta molto importante riuscire a distinguere, a informare, a dire
01:39all'utente finale ehi stai attento, guarda che questo contenuto non è reale, è stato
01:43generato da un'intelligenza artificiale, qui entriamo in gioco noi, ci chiamiamo Identify
01:49con la AI finale che sta per Artificial Intelligence e l'obiettivo di Identify è quello di informare
01:56appunto, quindi di identificare dove l'intelligenza artificiale si nasconde, certo il problema
02:01è un problema già noto, nel senso che una decada fa si utilizzava il Photoshop equivalente
02:07per fare attività di questo tipo, ma erano pochi quelli capaci di modificare le immagini,
02:13i video con Photoshop così bene al punto da riuscire a ingannare l'occhio umano, oggi
02:18chiunque con un'applicazione, con mid-journey, con un mobile phone, con un tablet è in grado
02:23di modificare un'immagine, un video, un contenuto e renderlo indistinguibile da occhio umano,
02:28ecco lì in quel momento c'è bisogno di informazione e c'è bisogno di Identify o di tecnologie
02:35simili capaci di appunto andare a vedere là dove il contenuto è stato generato o meno.
02:41Il raggio di applicazione enorme di fatto ovunque ci sia un'immagine da controllare.
02:45I documenti d'identità, quindi per esempio per l'onboarding, a dove le immagini giocano
02:50un ruolo importante anche a livello economico, pensiamo magari a delle assicurazioni che
02:58elargiscono del contributo o un rimborso in funzione a un danno che c'è stato in un edificio,
03:05in una casa piuttosto che in un incidente automobilistico.
03:09Passando poi per la reputazione, provate a immaginare che cosa può succedere se magari
03:15un competitor crea un video dell'amministratore delegato di un competitor appunto del suo
03:20rivale che magari fa delle azioni non socialmente accettabili, ecco questo sono solo alcuni
03:30di tanti casi in cui identifichi e in cui la generazione di immagini artificiali può
03:35intervenire.
03:36Garanzia di risultati?
03:38L'intelligenza artificiale è una scienza probabilistica, quindi essendo probabilistica
03:43è una scienza che non ha certezze per definizione.
03:47L'attività che noi facciamo che è di fatto il reverse di questa attività probabilistica
03:54e quindi noi li chiamiamo modelli degenerativi che stanno in contrasto dei modelli degenerativi
03:59che sono quelli che sentiamo sulla stampa tutti i giorni, è anch'essa probabilistica,
04:04quindi quello che noi raccontiamo diciamo c'è una certa probabilità.
04:08Ora la probabilità ha una accuratezza, cioè quanto è accurata, cioè quante volte sbaglia
04:14questa probabilità.
04:15A giugno 2024 abbiamo partecipato ad un challenge internazionale, a livello appunto internazionale,
04:22dove ci hanno certificato un'accuratezza dell'88%, questo accadeva a giugno del 2024,
04:28oggi dopo sei mesi che ci lavoriamo con i nostri test interni siamo molto vicini al 94%.