Victoria Song, reseñadora sénior de The Verge, afirma que el dispositivo portátil Bee Frontier de Amazon la ha hecho dudar de sus recuerdos, en lugar de ayudarla a llevar un registro de las conversaciones. En un relato personal para el boletín Optimizer de la publicación, describe cómo las transcripciones, los resúmenes y las conclusiones generadas por IA del dispositivo entraban repetidamente en conflicto con su interpretación de lo ocurrido.
Bee graba conversaciones, las transcribe y resume, y ofrece tareas sugeridas y recomendaciones para el desarrollo personal. Song escribe que su rendimiento ha mejorado desde que lo probó por primera vez, incluso a la hora de distinguir su voz del diálogo de la televisión. También puede recurrir a información de su calendario y sus fotos. Dice que a veces el dispositivo la ha ayudado a recordar puntos que quería mencionar en el trabajo, pero que con mayor frecuencia la ha dejado insegura respecto de sus interpretaciones.
Entre los errores que relata, Bee atribuyó a Song una conversación sobre la pareja de un compañero de trabajo, aunque ella afirma que nunca ha conocido a esa persona, y confundió los apodos de sus gatos con los nombres de otras mascotas. Lo que más le preocupó fueron los resúmenes de conversaciones serias, incluidas las sesiones de terapia, que, a su juicio, tergiversaban sus emociones y los hechos que recordaba.
Después de una sesión, Bee generó un resumen de una experiencia de violencia doméstica durante su infancia y le pidió a Song que confirmara un «hecho» relacionado. Le resultó perturbador ver el episodio reducido a una breve afirmación y no estuvo de acuerdo con la descripción de su estado de ánimo que ofrecía el resumen. Song recuerda la sesión como catártica y dice que salió sintiéndose ligera, mientras que la IA la describió como afligida y enfadada.
También olvidó apagar el dispositivo portátil durante una cita médica anual. Bee grabó detalles sobre su tratamiento para las alergias y una conversación acerca de su difunto perro, pero su descripción emocional no coincidía con los recuerdos de Song. Señala que la plantilla del dispositivo para consultas médicas generó un relato más factual que el resumen predeterminado, lo que ilustra cómo sus conclusiones pueden variar según el formato seleccionado.
La función Grow de Bee utiliza el historial de conversaciones para sugerir formas en que los usuarios podrían desarrollarse y ofrece tareas recomendadas. Song dice que, a partir de una conversación inicial sobre sus aficiones, dedujo que le faltaba compromiso y que debía centrarse en una sola actividad. Ella cuestiona esa evaluación y menciona sus proyectos de lectura, caligrafía y punto de cruz; además, afirma que las aficiones no tienen por qué producir resultados que se puedan compartir. Otra recomendación, basada en una conversación política con su pareja, la instó a emprender una acción política. Song dice que aquel intercambio había sido una broma y que la evaluación pasó por alto su experiencia como activista puerta a puerta y organizadora sindical.
Song escribe que los errores del dispositivo no eran todos igual de graves, pero que ver una y otra vez sus interpretaciones presentadas como hechos la hacía sentirse abrumada y, en ocasiones, ofendida. En terapia, le preguntó a su terapeuta qué le parecía verla usar Bee. Según relata Song, la terapeuta opinó que depender de un dispositivo así podía debilitar la confianza en los propios instintos y generar conclusiones poco sensibles a las emociones, lo que podría intensificar la rumiación y el perfeccionismo.
Song y su terapeuta bromearon con que debía tirar el dispositivo portátil por la ventana, y ambas sintieron alivio ante la posibilidad de que no lo llevara a la siguiente sesión. Bee no registró ese intercambio entre sus tareas sugeridas; en cambio, cuenta Song, le recomendó comprar pegamento para uñas y enlazó a Amazon.
Fuentes: The Verge.