A Pangram, conhecida por sua ferramenta de deteção de textos gerados por IA, ampliou seus serviços para identificar vídeos e imagens gerados ou editados com IA. Os novos recursos estão disponíveis para assinantes, enquanto usuários de contas gratuitas podem verificar um número limitado de imagens sem um plano pago.
Os usuários podem enviar um vídeo para avaliar se a IA foi usada para criá-lo ou editá-lo. A Pangram afirma que a ferramenta consegue distinguir entre clipes parcialmente gerados por IA e aqueles feitos inteiramente com IA, além de incluir um mapa de calor que destaca áreas com probabilidade de envolver IA. A empresa informa que seu modelo de vídeo identificou conteúdo de IA com mais de 98% de precisão em um teste interno e afirma que, nos testes da empresa, teve desempenho melhor do que outras ferramentas de deteção.
O detector de imagens da Pangram, anteriormente oferecido como uma versão de prévia para pesquisa, agora está disponível por meio de sua extensão para Chrome, que pode analisar imagens enquanto os usuários navegam. Nos testes da empresa, o modelo identificou mais de 99% das imagens de IA, com uma taxa de falsos positivos de 0,27%. A Pangram alerta que os resultados para imagens com menos de 512 por 512 pixels podem ser menos confiáveis.
A empresa também destacou a dificuldade de separar imagens geradas por IA de fotos genuínas que foram processadas pelo software da câmera. O CEO da Pangram, Max Spero, disse que as câmeras dos celulares podem usar pós-processamento de IA para adicionar detalhes, por isso o modelo precisava levar isso em conta ao distinguir esse processamento de edições com IA e de imagens totalmente geradas. Spero também disse ao Pirate Wires que a Pangram adiou o lançamento do modelo de imagens depois que, inicialmente, ele identificou como geradas por IA fotos tiradas com câmeras do iPhone 18 Pro.
Fontes: Engadget.