Pangram, conocida por su herramienta para detectar textos generados por IA, ha ampliado sus servicios para identificar videos e imágenes generados o editados con IA. Las nuevas funciones están disponibles para los suscriptores; quienes tienen una cuenta gratuita pueden comprobar un número limitado de imágenes sin contratar un plan de pago.
Los usuarios pueden subir un video para evaluar si se utilizó IA para crearlo o editarlo. Pangram afirma que la herramienta puede distinguir entre clips generados parcialmente con IA y otros creados por completo con IA, e incluye un mapa de calor que resalta las áreas que probablemente involucren IA. La empresa informa que, en una prueba interna, su modelo de video identificó contenido generado con IA con una precisión superior al 98% y afirma que obtuvo mejores resultados que otras herramientas de detección en sus pruebas.
El detector de imágenes de Pangram, que anteriormente se ofrecía como vista previa de investigación, ya está disponible a través de su extensión de Chrome, que puede analizar imágenes mientras los usuarios navegan. En las pruebas de la empresa, el modelo marcó más del 99% de las imágenes generadas con IA, con una tasa de falsos positivos del 0,27%. Pangram advierte que los resultados pueden ser menos fiables en imágenes de menos de 512 por 512 píxeles.
La empresa también ha señalado lo difícil que resulta distinguir las imágenes generadas con IA de las fotos auténticas procesadas por el software de las cámaras. El director ejecutivo de Pangram, Max Spero, dijo que las cámaras de los teléfonos pueden utilizar posprocesamiento con IA para añadir detalles, por lo que el modelo tuvo que tenerlo en cuenta al diferenciar ese procesamiento de las ediciones con IA y las imágenes generadas por completo. Spero también contó a Pirate Wires que Pangram retrasó el lanzamiento del modelo de imágenes después de que este marcara inicialmente como generadas con IA las fotos tomadas con cámaras iPhone 18 Pro.
Fuentes: Engadget.