有限公司英国竞争监管机构的一份报告警告称，消费者面临着通过新的人工智能工具遭受新一轮诈骗、错误信息和操纵的风险。

英国竞争与市场管理局(CMA)表示，大型语言模型(llm)和其他机器学习技术的发展加剧了现有的网络危害，并有可能削弱消费者对使用它们的企业的信任。

报告称，不法分子将更容易利用这些技术在电子商务网站上大规模创建虚假评论，而诈骗网络钓鱼电子邮件将变得更加个性化和令人信服，用户也可能被LLM聊天机器人与他们分享的信息所操纵。

CMA警告称，聊天机器人的“幻觉”，即法学硕士在不知情的情况下制造看似可信的虚假信息，也可能增加错误信息的传播，并举例说明了聊天机器人伪造医疗记录和对个人提出虚假指控的例子。

它还引用了一项关于聊天机器人的研究，该研究能够增强用户的信念，并警告说，法学硕士“可以想象，为了实现用户的目标或任务，他们可能会从事欺骗行为。”

监管机构已经列出了一系列高级原则，包括问责制和透明度，希望使用这些技术的企业遵守这些原则。

CMA的老板萨拉·卡德尔说:“人工智能正以惊人的速度成为人们和企业日常生活的一部分。

“人工智能的使用仍然存在一个真正的风险，即以一种破坏消费者信任的方式发展，或者由少数发挥市场力量的参与者主导，从而阻碍整个经济感受到全部利益。

“在这些快速发展的市场中，我们必须把自己放在思维的最前沿，而不是等待问题出现，然后才采取纠正措施。”