Victoria Song, recensora senior di The Verge, afferma che il dispositivo indossabile Bee Frontier di Amazon l’ha portata a mettere in dubbio i propri ricordi, anziché aiutarla a tenere traccia delle conversazioni. In un racconto personale per la newsletter Optimizer della testata, descrive come le trascrizioni, i riepiloghi e le analisi generate dall’IA del dispositivo siano entrati ripetutamente in conflitto con la sua interpretazione di quanto accaduto.
Bee registra le conversazioni, le trascrive e le riassume, e propone attività e consigli per lo sviluppo personale. Song scrive che le sue prestazioni sono migliorate da quando ha provato il dispositivo per la prima volta, anche nel distinguere il suo parlato dai dialoghi televisivi. Può inoltre attingere a informazioni del suo calendario e delle sue foto. Song afferma che a volte il dispositivo l’ha aiutata a ricordare i punti da affrontare al lavoro, ma più spesso l’ha lasciata incerta sulle sue interpretazioni.
Tra gli errori che racconta, Bee le ha attribuito una conversazione sul coniuge di un collega, benché lei affermi di non aver mai incontrato quella persona, e ha scambiato i soprannomi dei suoi gatti per i nomi di altri animali domestici. Per lei, però, sono stati più preoccupanti i riepiloghi di conversazioni serie, comprese le sedute di terapia, che riteneva descrivessero in modo inesatto le sue emozioni e gli eventi che ricordava.
Dopo una seduta, Bee ha prodotto un riepilogo di un’esperienza di violenza domestica vissuta durante l’infanzia e ha chiesto a Song di confermare un «fatto» correlato. Vedere l’evento ridotto a una breve affermazione l’ha turbata e non era d’accordo con la descrizione del suo stato d’animo contenuta nel riepilogo. Song ricorda la seduta come catartica e afferma di esserne uscita sentendosi leggera, mentre l’IA la descriveva come addolorata e arrabbiata.
Si è anche dimenticata di spegnere il dispositivo indossabile durante una visita medica annuale. Bee ha registrato dettagli sulle sue cure per le allergie e una conversazione sul suo cane defunto, ma la descrizione delle emozioni non corrispondeva ai ricordi di Song. Nota che il modello per le visite mediche del dispositivo ha prodotto un resoconto più fattuale rispetto al riepilogo predefinito, mostrando come le sue conclusioni possano variare in base al formato selezionato.
La funzione Grow di Bee utilizza la cronologia delle conversazioni per suggerire come gli utenti potrebbero svilupparsi e propone attività consigliate. Song afferma che, sulla base di una conversazione iniziale sui suoi hobby, il dispositivo ha dedotto che le mancasse la costanza e che dovesse concentrarsi su un’unica attività. Contesta questa valutazione citando la lettura, la calligrafia e il ricamo a punto croce, e afferma che gli hobby non devono necessariamente produrre risultati da condividere. Un altro consiglio, basato su una discussione politica con il coniuge, la esortava a intraprendere un’azione politica; Song dice che lo scambio era uno scherzo e che la valutazione ignorava la sua esperienza come volontaria per la campagna elettorale e organizzatrice sindacale.
Song scrive che gli errori del dispositivo non erano tutti altrettanto gravi, ma che vedere ripetutamente interpretazioni presentate come fatti l’ha fatta sentire sopraffatta e a volte offesa. Durante la terapia, ha chiesto alla sua terapeuta cosa provasse nel vederla usare Bee. Secondo il racconto di Song, la terapeuta riteneva che affidarsi a un dispositivo del genere potesse indebolire la fiducia nei propri istinti e generare interpretazioni poco in sintonia con le emozioni, intensificando potenzialmente il rimuginio e il perfezionismo.
Song e la sua terapeuta hanno scherzato sul fatto che avrebbe dovuto gettare il dispositivo indossabile dalla finestra, ed entrambe si sono sentite sollevate all’idea che Song non lo indossasse alla seduta successiva. Bee non ha registrato lo scambio tra le attività suggerite; invece, racconta Song, le ha consigliato di comprare della colla per unghie e ha inserito un link ad Amazon.
Fonti: The Verge.