Pangram, bekannt für sein Tool zur Erkennung KI-generierter Texte, hat sein Angebot erweitert und kann nun KI-generierte oder bearbeitete Videos und Bilder erkennen. Die neuen Funktionen stehen Abonnenten zur Verfügung; Nutzer kostenloser Konten können auch ohne kostenpflichtigen Tarif eine begrenzte Anzahl von Bildern prüfen.
Nutzer können ein Video hochladen und prüfen lassen, ob bei seiner Erstellung oder Bearbeitung KI zum Einsatz kam. Pangram zufolge kann das Tool zwischen Clips unterscheiden, die teilweise mit KI erstellt wurden, und solchen, die vollständig KI-generiert sind. Außerdem enthält es eine Heatmap, die Bereiche hervorhebt, in denen wahrscheinlich KI zum Einsatz kam. Das Unternehmen berichtet, dass sein Videomodell in einem internen Test KI-Inhalte mit einer Genauigkeit von mehr als 98 % erkannte, und gibt an, in seinen Tests besser abgeschnitten zu haben als andere Erkennungstools.
Pangrams Bilderkennung, die zuvor als Forschungsvorschau angeboten wurde, ist jetzt über die Chrome-Erweiterung verfügbar, die Bilder während des Surfens scannen kann. Bei Tests des Unternehmens erkannte das Modell mehr als 99 % der KI-generierten Bilder; die Falsch-Positiv-Rate lag bei 0,27 %. Pangram weist darauf hin, dass die Ergebnisse bei Bildern mit weniger als 512 × 512 Pixeln weniger zuverlässig sein können.
Das Unternehmen hat außerdem auf die Schwierigkeit hingewiesen, KI-generierte Bilder von echten Fotos zu unterscheiden, die mit Kamerasoftware bearbeitet wurden. Pangram-CEO Max Spero erklärte, dass Smartphone-Kameras mithilfe von KI bei der Nachbearbeitung Details hinzufügen können. Das Modell musste dies daher berücksichtigen und zugleich solche Bearbeitungen von KI-Änderungen und vollständig generierten Bildern unterscheiden. Spero sagte Pirate Wires außerdem, dass Pangram die Veröffentlichung des Bildmodells verzögert habe, nachdem es zunächst Fotos, die mit iPhone-18-Pro-Kameras aufgenommen worden waren, als KI-generiert eingestuft hatte.
Quellen: Engadget.