Anthropic entwickelt FlashProve, ein System, das überprüfen soll, ob eine Antwort von dem KI-Modell generiert wurde, dessen Einsatz ein Unternehmen angibt. Es nutzt Kryptografie, um einen mathematischen Beweis zu erzeugen, der eine Ausgabe mit einem bestimmten Modell verknüpft.
Der Vorschlag könnte Nutzern dabei helfen, zu überprüfen, ob sie mit der beworbenen KI statt mit einem anderen oder weniger leistungsfähigen System interagieren. Anthropic zufolge könnte der Ansatz es Anbietern außerdem erschweren, heimlich zu günstigeren Modellen zu wechseln oder Leistungswerte auf Grundlage eines Modells anzugeben, das sie gar nicht verwendet haben.
FlashProve nutzt das, was die Forschenden „nachweisbare Inferenz“ nennen. Modellentwickler würden für jedes System einen digitalen Fingerabdruck veröffentlichen, der anschließend mithilfe kryptografischer Methoden mit dessen Ausgaben abgeglichen werden könnte. Die Fingerabdrücke würden nicht die Gewichte eines Modells offenlegen – die internen Werte, die sein Verhalten prägen –, und die Überprüfung soll auf einem lokalen Gerät ausgeführt werden.
Das System könnte auch über direkte KI-Dienste hinaus relevant sein. So könnte ein Entwickler beispielsweise die Behauptung überprüfen wollen, dass ein fortgeschrittenes Cybersicherheitsmodell eine Softwarebibliothek auf Schwachstellen untersucht hat. Ein Unternehmen könnte außerdem bestätigen lassen wollen, dass ein geeignetes KI-Modell seinen Geschäftsplan geprüft hat.
Anthropic stellte das Projekt am Dienstag, dem 3. November, in einer Unternehmensveröffentlichung vor und stellte eine ausführliche technische Spezifikation sowie Teile des Codes unter einer Open-Source-Lizenz zur Verfügung. Das Unternehmen hat keine Pläne angekündigt, FlashProve in seinen eigenen Diensten oder auf anderen KI-Plattformen einzusetzen. Die Forschenden des Unternehmens bezeichneten die Veröffentlichung als Zwischenschritt in der Forschung und luden andere Teams ein, den Vorschlag zu prüfen und zu verbessern.
Quellen: Olhar Digital.