监督组织和研究人员表示，生成式人工智能工具的出现使人们几乎可以不费吹灰之力就有效地制作新颖而详细的在线评论，这让商家、服务提供商和消费者进入了未知的领域。
长期以来，虚假评论一直困扰着许多流行的消费者网站，例如 Amazon 和 Yelp。它们通常在虚假评论经纪人和愿意付款的企业之间的私人社交媒体群组上进行交易。有时，此类评论是由向客户提供奖励（例如礼品卡）以获得正面反馈的企业发起的。
但据科技行业专家称，由 OpenAI 的 ChatGPT 推广的注入 AI 的文本生成工具使欺诈者能够更快、更大量地生成评论。
这种欺骗行为在美国是非法的，全年都在进行，但在假日购物季对消费者来说是一个更大的问题，因为许多人依靠评论来帮助他们购买礼物。
AI 生成的评论显示在哪里？
虚假评论遍布各行各业，从电子商务、住宿和餐馆，到家庭维修、医疗保健和钢琴课等服务。
使用软件检测虚假评论的科技公司和监督组织 The Transparency Company 表示，它在 2023 年年中开始看到 AI 生成的评论大量出现，此后它们成倍增加。
在本月发布的一份报告中，The Transparency Company 分析了三个领域的 7300 万条评论：家庭、法律和医疗服务。近 14% 的评论可能是假的，该公司表示“高度有信心”认为 230 万条评论部分或全部是 AI 生成的。
“对于这些评论骗子来说，这是一个非常非常好的工具，”科技初创公司的投资者和顾问莫里·布莱克曼 （Maury Blackman） 说，他审查了透明公司的工作，并将于从 1 月 1 日开始领导该组织。
8 月，软件公司 DoubleVerify 表示，它观察到手机和智能电视应用程序的“显着增加”，其评论由生成式 AI 精心制作。该公司表示，这些评论经常被用来欺骗客户安装可以劫持设备或不断投放广告的应用程序。
接下来的一个月，联邦贸易委员会起诉了名为 Rytr 的 AI 写作工具和内容生成器背后的公司，指控其提供的服务可能会通过欺诈性评论污染市场。
FTC 今年禁止出售或购买虚假评论，并表示 Rytr 的一些订阅者使用该工具为车库门维修公司、“复制”名牌手袋卖家和其他企业制作了数百甚至数千条评论。
在著名的在线网站上也可能出现这种情况
AI 检测公司 Pangram Labs 的首席执行官 Max Spero 表示，他的公司使用的软件几乎可以肯定地检测到，亚马逊上发布的一些 AI 生成的评估会上升到评论搜索结果的顶部，因为它们非常详细并且似乎经过深思熟虑。
但是确定什么是假的，什么是假的可能具有挑战性。亚马逊表示，外部各方可能会达不到要求，因为他们无法“获得表明滥用模式的数据信号”。
Pangram Labs 已经对一些著名的在线网站进行了检测，由于保密协议，Spero 拒绝透露这些网站的名字。他说，他独立评估了 Amazon 和 Yelp。
Spero 说，Yelp 上许多 AI 生成的评论似乎是由试图发布足够多的评论以获得“精英”徽章的个人发布的，该徽章旨在让用户知道他们应该信任这些内容。
该徽章提供与当地企业主一起参加独家活动的权限。欺诈者也希望这样他们的 Yelp 个人资料看起来更真实，前联邦刑事调查员凯·迪恩 （Kay Dean） 说，他经营着一个名为 Fake Review Watch 的监督组织。
可以肯定的是，仅仅因为评论是 AI 生成的并不一定意味着它是假的。一些消费者可能会尝试使用 AI 工具来生成反映他们真实情感的内容。一些非英语母语人士表示，他们求助于 AI 来确保他们在撰写的评论中使用准确的语言。
“如果评论是出于善意，它可以帮助评论（并）使其信息量更大，”研究虚假评论的密歇根州立大学营销学教授 Sherry He 说。她说，技术平台应该关注不良行为者的行为模式，知名平台已经这样做了，而不是阻止合法用户转向 AI 工具。
公司正在做什么
知名公司正在制定政策，规定 AI 生成的内容如何适应其系统，以删除虚假或滥用评论。一些公司已经使用算法和调查团队来检测和删除虚假评论，但为用户提供了一些使用 AI 的灵活性。
例如，亚马逊和 Trustpilot 的发言人表示，只要客户反映他们的真实体验，他们就会允许客户发布 AI 辅助的评论。Yelp 采取了更为谨慎的方法，称其指导方针要求审稿人自己写文案。
该公司在一份声明中表示：“随着最近消费者对 AI 工具的采用率上升，Yelp 在更好地检测和缓解我们平台上此类内容的方法上进行了大量投资。
亚马逊、Trustpilot、就业评论网站 Glassdoor 以及旅游网站 Tripadvisor、Expedia 和 Booking.com 去年成立的可信评论联盟表示，尽管欺骗者可能会非法使用人工智能，但该技术也提供了“一个机会，可以抵制那些试图利用评论来误导他人的人”。
该组织表示：“通过分享最佳实践和提高标准，包括开发先进的人工智能检测系统，我们可以保护消费者并维护在线评论的完整性。
FTC 禁止虚假评论的规定于 10 月生效，允许该机构对从事这种做法的企业和个人进行罚款。托管此类评论的科技公司不会受到处罚，因为根据美国法律，它们不对外部人员在其平台上发布的内容承担法律责任。
包括亚马逊、Yelp 和谷歌在内的科技公司已经起诉了虚假评论经纪人，指控他们在其网站上兜售虚假评论。这两家公司表示，他们的技术已经阻止或删除了大量可疑评论和可疑账户。然而，一些专家表示，他们可以做得更多。
“到目前为止，他们的努力还远远不够，”Fake Review Watch 的院长说。“如果这些科技公司如此致力于消除其平台上的评论欺诈，为什么我，一个没有自动化工作的人，可以在任何一天找到数百甚至数千条虚假评论？”
发现 AI 生成的虚假评论
据研究人员称，消费者可以通过注意一些可能的警告信号来尝试发现虚假评论。过于热情或负面的评论是危险信号。重复产品全名或型号的行话是另一个可能的赠品。
在人工智能方面，耶鲁大学组织行为学教授 Balázs Kovács 进行的研究表明，人们无法区分 AI 生成的评论和人工撰写的评论。该研究称，一些 AI 检测器也可能被较短的文本所欺骗，这在在线评论中很常见。
但是，在线购物者和服务寻求者应该牢记一些“AI 暗示”。Panagram Labs 表示，使用 AI 撰写的评论通常较长、高度结构化，并且包含“空描述符”，例如通用短语和属性。写作还往往包括诸如“打动我的第一件事”和“游戏规则改变者”之类的陈词滥调。