Victoria Song, revisora sênior do The Verge, diz que o dispositivo vestível Bee Frontier, da Amazon, a fez questionar as próprias lembranças, em vez de ajudá-la a acompanhar conversas. Em um relato pessoal para o boletim Optimizer da publicação, ela descreve como as transcrições, os resumos e as percepções geradas por IA do dispositivo entraram repetidamente em conflito com sua compreensão do que havia acontecido.

O Bee grava conversas, transcreve e resume o conteúdo e oferece sugestões de tarefas e recomendações para o desenvolvimento pessoal. Song escreve que o desempenho do dispositivo melhorou desde que ela o testou pela primeira vez, inclusive na distinção entre sua fala e o diálogo da televisão. Ele também pode usar informações do calendário e das fotos dela. Ela diz que, às vezes, o dispositivo a ajudou a se lembrar de pontos de discussão para o trabalho, mas, com mais frequência, deixou-a insegura quanto às interpretações dele.

Entre os erros que relata, o Bee atribuiu a Song uma conversa sobre o cônjuge de um colega de trabalho, embora ela diga que nunca conheceu essa pessoa, e confundiu os apelidos de seus gatos com os nomes de animais de estimação adicionais. Mais preocupantes para ela foram os resumos de conversas sérias, incluindo sessões de terapia, que, segundo ela, caracterizaram de forma errada suas emoções e os acontecimentos de que se lembrava.

Depois de uma sessão, o Bee produziu um resumo de uma experiência de violência doméstica vivida na infância e pediu a Song que confirmasse um “fato” relacionado. Ela achou angustiante ver o acontecimento reduzido a uma breve declaração e discordou da maneira como o resumo descrevia seu estado de espírito. Song se lembra da sessão como catártica e diz que saiu se sentindo leve, enquanto a IA a descreveu como triste e com raiva.

Ela também se esqueceu de desligar o dispositivo vestível durante uma consulta médica anual. O Bee registrou detalhes sobre o tratamento contra alergia dela e uma conversa sobre seu falecido cachorro, mas a descrição emocional do dispositivo não correspondia à lembrança de Song. Ela observa que o modelo para consultas médicas do dispositivo gerou um relato mais factual do que o resumo padrão, ilustrando como as conclusões podem variar conforme o formato selecionado.

O recurso Grow do Bee usa o histórico de conversas para sugerir maneiras pelas quais os usuários podem se desenvolver e oferece tarefas recomendadas. Song diz que, com base em uma conversa de configuração sobre seus hobbies, o dispositivo concluiu que ela não tinha dedicação e deveria se concentrar em uma só atividade. Ela contesta essa avaliação, citando seus projetos de leitura, caligrafia e ponto cruz, e diz que os hobbies não precisam produzir resultados que possam ser compartilhados. Outra recomendação, baseada em uma conversa política com seu cônjuge, incentivou-a a tomar uma atitude política; Song diz que a conversa era uma brincadeira e que a avaliação ignorou sua experiência como organizadora de campanha e sindical.

Song escreve que os erros do dispositivo não eram todos igualmente graves, mas que ver repetidamente interpretações apresentadas como fatos a fazia se sentir sobrecarregada e, às vezes, ofendida. Na terapia, ela perguntou à terapeuta como era observá-la usando o Bee. Segundo o relato de Song, a terapeuta considerou que depender de um dispositivo como esse poderia enfraquecer a confiança nos próprios instintos e gerar percepções que não fossem emocionalmente sensíveis, intensificando potencialmente a ruminação e o perfeccionismo.

Song e sua terapeuta brincaram que ela deveria jogar o dispositivo vestível pela janela, e ambas se sentiram aliviadas com a possibilidade de ela não usá-lo na sessão seguinte. O Bee não registrou essa conversa nas tarefas sugeridas; em vez disso, diz Song, recomendou que ela comprasse cola para unhas e incluiu um link para a Amazon.

Fontes: The Verge.