Um hotel processado por intoxicação alimentar em massa foi descrito como “impecável”, enquanto um resort onde os hóspedes reclamaram de assédio sexual por parte dos funcionários foi elogiado pelo serviço “amigável” por uma inteligência artificial projetada para resumir milhões de avaliações do Tripadvisor.
Uma visão geral do feedback dos clientes, de acordo com uma pesquisa realizada pelo grupo de campanha do consumidor Which?, minimizou reclamações graves que vão desde o cheiro de mofo até a falta de água corrente.
As avaliações geradas por IA aparecem nas páginas dos hotéis em sites de viagens para ajudar os turistas a decidir onde reservar. Num caso, o resumo da AI descreveu o Riu Palace Santa Maria de Cabo Verde como popular, com quartos espaçosos, um “restaurante diversificado” que recebeu “ótimas críticas” e uma limpeza impecável.
No entanto, os clientes relataram que lhes foi servido frango cru, compartilharam fotos de moscas e pássaros no bufê e relataram “ratos assados mortos na área de estar”. “Este lugar vai estragar o feriado”, escreveu um hóspede cuja família inteira adoeceu.
A cadeia hoteleira está a ser processada no Tribunal Superior por centenas de hóspedes, alegando doenças relacionadas com padrões de higiene deficientes e questões de segurança alimentar.
As avaliações de hotéis em Cabo Verde geradas por IA não estão mais disponíveis. O seu operador RIU Hotels & Resorts afirmou: “Operamos com os mais elevados padrões de profissionalismo e serviço, tendo a saúde e a segurança como a nossa principal prioridade”.
A AI elogiou um hotel independente na República Dominicana pelas suas instalações “abundantes”, mas apenas reconheceu a limpeza “inconsistente” e os “problemas de manutenção”. Mas os convidados relataram usar água engarrafada no chuveiro porque a torneira principal secou e outras pessoas na grande festa de casamento ficaram doentes.
Enquanto isso, hóspedes de um hotel na Turquia escreveram que se sentiam inseguros devido ao assédio sexual repetido por funcionários masculinos do hotel, incluindo pedidos para serem contatados nas redes sociais, mas um resumo da IA descreveu o serviço como “amigável” e disse apenas que “um pequeno número de pessoas notou falhas (no serviço)”. Qual? estabelecido.
O Tripadvisor disse que está monitorando e melhorando suas ferramentas de inteligência artificial e “investigando casos em que as avaliações não correspondem ao conteúdo pretendido”. Mas a empresa disse que “acredita que esses recursos fazem exatamente o que foram projetados para fazer: ajudar os viajantes a compreender rapidamente a amplitude do feedback e, ao mesmo tempo, facilitar a exploração completa de possíveis avaliações”.
A empresa disse que os resumos gerados pela IA não substituem as avaliações dos viajantes e que os clientes têm o bom senso de verificar quaisquer recomendações da IA em relação à sua coleção de bilhões de avaliações e contribuições.
Rory Boland, “Qual?” “A plataforma tem a responsabilidade de reexaminar a precisão de seus resumos de IA e chatbots de IA. Enquanto isso, os usuários devem percorrer esses resumos e verificar as avaliações dos hóspedes, especialmente as classificações de uma estrela, bem como as avaliações em outros sites para garantir que sua próxima estadia seja segura”, disse Travel, editor da Travel.
Postagem de promoção do boletim informativo
O Tripadvisor disse que seu sistema suprime automaticamente trechos de IA quando os viajantes alertam sobre graves incidentes de segurança, como morte, abuso de drogas ou agressão sexual, “ajudando a garantir que nossa comunidade esteja altamente preocupada com esse conteúdo”.
Duncan Brumby, professor de interação humano-computador na University College London, disse que o caso se encaixa com sua própria pesquisa sobre o uso de inteligência artificial na academia durante processos de revisão por pares. Ele descobriu que a inteligência artificial tende a “eliminar e suavizar as arestas das críticas contundentes”, possivelmente porque grande parte do material de treinamento contém observações mais prosaicas.
“Aqui estava um cliente descrevendo uma experiência muito negativa, mas a IA decidiu minimizá-la”, disse ele. “Como se fosse educado.”
Outra investigação descobriu que as técnicas concebidas para resumir opiniões muitas vezes apresentam pontos cegos, o que significa que reduzem a riqueza do feedback do consumidor e tornam as emoções superficiais.
Este ano, o Google removeu alguns de seus resumos de saúde de IA depois que uma investigação do Guardian descobriu que as pessoas corriam o risco de serem prejudicadas por informações falsas e enganosas.
