Amazons Bee Frontier: KI-Zusammenfassungen lassen eine Rezensentin an ihren eigenen Erinnerungen zweifeln

Victoria Song, leitende Rezensentin bei The Verge, sagt, Amazons Wearable Bee Frontier habe sie dazu gebracht, an ihren Erinnerungen zu zweifeln, statt ihr dabei zu helfen, Gespräche im Blick zu behalten. In einem persönlichen Bericht für den Newsletter Optimizer der Publikation beschreibt sie, wie die Transkripte, Zusammenfassungen und KI-generierten Erkenntnisse des Geräts wiederholt im Widerspruch zu ihrer eigenen Wahrnehmung der Geschehnisse standen.

Bee zeichnet Gespräche auf, transkribiert und fasst sie zusammen und schlägt Aufgaben sowie Empfehlungen zur persönlichen Weiterentwicklung vor. Song schreibt, die Leistung des Geräts habe sich seit ihrem ersten Test verbessert, unter anderem bei der Unterscheidung ihrer Stimme von Dialogen im Fernsehen. Außerdem kann es auf Informationen aus ihrem Kalender und ihren Fotos zurückgreifen. Song sagt, das Gerät habe ihr manchmal geholfen, sich an Gesprächspunkte für die Arbeit zu erinnern, sie aber häufiger hinsichtlich seiner Interpretationen verunsichert.

Zu den Fehlern, von denen sie berichtet, gehört, dass Bee Song ein Gespräch über den Ehepartner eines Kollegen zuschrieb, obwohl sie nach eigenen Angaben diese Person nie getroffen hat. Außerdem verwechselte das Gerät die Spitznamen ihrer Katzen mit den Namen weiterer Haustiere. Noch beunruhigender waren für sie Zusammenfassungen ernster Gespräche, darunter Therapiesitzungen, die ihrer Ansicht nach ihre Gefühle und die von ihr erinnerten Ereignisse falsch darstellten.

Nach einer Sitzung erstellte Bee eine Zusammenfassung eines Gewalterlebnisses in der Familie aus Songs Kindheit und bat sie, eine damit verbundene „Tatsache“ zu bestätigen. Es belastete sie, dass das Ereignis auf eine kurze Aussage reduziert wurde, und sie widersprach der Darstellung ihrer Stimmung in der Zusammenfassung. Song erinnert sich an die Sitzung als befreiend und sagt, sie habe sich danach leicht gefühlt, während die KI sie als trauernd und wütend beschrieb.

Außerdem vergaß sie, das Wearable während eines jährlichen Arzttermins auszuschalten. Bee zeichnete Einzelheiten zu ihrer Allergiebehandlung und ein Gespräch über ihren verstorbenen Hund auf, doch die emotionale Beschreibung des Geräts stimmte nicht mit Songs Erinnerung überein. Sie merkt an, dass die Vorlage des Geräts für Arztbesuche eine sachlichere Darstellung ergab als die standardmäßige Zusammenfassung. Das zeige, wie sich seine Schlussfolgerungen je nach gewähltem Format unterscheiden können.

Bees Funktion Grow nutzt den Gesprächsverlauf, um Möglichkeiten vorzuschlagen, wie Nutzerinnen und Nutzer sich weiterentwickeln könnten, und empfiehlt Aufgaben. Song sagt, die Funktion habe aus einem Einrichtungsgespräch über ihre Hobbys geschlossen, dass es ihr an Durchhaltevermögen mangele und sie sich auf eine einzige Aktivität konzentrieren sollte. Sie widerspricht dieser Einschätzung und verweist auf ihre Lektüre, Kalligrafie und Kreuzstichprojekte. Außerdem sagt sie, Hobbys müssten keine vorzeigbaren Ergebnisse hervorbringen. Eine weitere Empfehlung, die auf einem politischen Gespräch mit ihrem Ehepartner beruhte, forderte sie zu einer politischen Aktion auf. Song sagt, der Austausch sei als Scherz gemeint gewesen und die Einschätzung habe ihre Erfahrung als Wahlkampfhelferin und Gewerkschaftsorganisatorin außer Acht gelassen.

Song schreibt, nicht alle Fehler des Geräts seien gleich schwerwiegend gewesen. Doch immer wieder Interpretationen als Tatsachen präsentiert zu sehen, habe sie überfordert und manchmal gekränkt. In der Therapie fragte sie ihre Therapeutin, wie es sei, ihr bei der Nutzung von Bee zuzusehen. Deren Einschätzung laut Songs Bericht war, dass das Vertrauen auf ein solches Gerät das Vertrauen in die eigenen Instinkte schwächen und Erkenntnisse hervorbringen könne, denen es an emotionalem Einfühlungsvermögen mangele. Das könne Grübeln und Perfektionismus möglicherweise verstärken.

Song und ihre Therapeutin scherzten, sie solle das Wearable aus dem Fenster werfen. Beide waren erleichtert bei dem Gedanken, dass sie es zur nächsten Sitzung nicht tragen würde. Bee erfasste diesen Austausch nicht als vorgeschlagene Aufgabe. Stattdessen empfahl es Song zufolge, Nagelkleber zu kaufen, und verlinkte auf Amazon.

Quellen: The Verge.