据美联社报道,随着生成式人工智能(AI)工具的兴起,商家、服务提供商和消费者正面临前所未有的挑战。这些工具能够让人们高效地生成新颖且详尽的在线评论,几乎无需任何人工操作,导致虚假评论问题愈发严重。
报告指出,虚假评论长期以来一直困扰着亚马逊和Yelp等知名电商平台。这些评论通常在私密的社交媒体群组中交易,由虚假评论经纪人和愿意付费的商家之间进行。有时,商家还会通过提供礼品卡等奖励来鼓励顾客撰写正面评价。
然而,以OpenAI的ChatGPT为代表的AI文本生成工具的普及,使得欺诈者能够更快、更大量地生成虚假评论。据科技行业专家称,这种欺骗行为在美国是非法的,并且全年都在进行,但在假日购物季期间,虚假评论对消费者造成的损害尤为严重,因为许多人依赖评论来帮助他们购买礼物。