Pangram, nota per il suo strumento di rilevamento dei testi generati dall’IA, ha ampliato i propri servizi per identificare video e immagini generati o modificati con l’IA. Le nuove funzionalità sono disponibili per gli abbonati; gli utenti con un account gratuito possono controllare un numero limitato di immagini senza sottoscrivere un piano a pagamento.
Gli utenti possono caricare un video per ottenere una valutazione sull’eventuale uso dell’IA per crearlo o modificarlo. Pangram afferma che lo strumento sa distinguere tra clip generate in parte con l’IA e clip realizzate interamente con l’IA e include una mappa di calore che evidenzia le aree probabilmente interessate dall’IA. L’azienda riferisce che, in un test interno, il suo modello video ha identificato contenuti generati dall’IA con un’accuratezza superiore al 98% e afferma che nei suoi test ha ottenuto risultati migliori rispetto ad altri strumenti di rilevamento.
Il rilevatore di immagini di Pangram, offerto in precedenza come anteprima di ricerca, è ora disponibile tramite la sua estensione Chrome, che può analizzare le immagini mentre gli utenti navigano. Nei test dell’azienda, il modello ha segnalato più del 99% delle immagini generate dall’IA, con un tasso di falsi positivi dello 0,27%. Pangram avverte che i risultati relativi alle immagini con dimensioni inferiori a 512 per 512 pixel potrebbero essere meno affidabili.
L’azienda ha anche sottolineato quanto sia difficile distinguere le immagini generate dall’IA dalle foto autentiche elaborate dal software delle fotocamere. Il CEO di Pangram, Max Spero, ha affermato che le fotocamere dei telefoni possono usare l’elaborazione post-scatto basata sull’IA per aggiungere dettagli, perciò il modello ha dovuto tenere conto di questo aspetto, distinguendo tale elaborazione dalle modifiche effettuate con l’IA e dalle immagini generate interamente. Spero ha inoltre dichiarato a Pirate Wires che Pangram ha ritardato il rilascio del modello per le immagini dopo che, inizialmente, aveva segnalato come generate dall’IA le foto scattate con le fotocamere degli iPhone 18 Pro.
Fonti: Engadget.