(路透社)-亚马逊正试图通过一款新的企业聊天机器人来吸引大企业客户使用其AWS云计算服务，并提出保护他们免受人工智能输出可能带来的法律和声誉损害。

该公司周二在拉斯维加斯举行的年度云计算会议上宣布，这款名为Q的新型聊天机器人旨在帮助员工总结重要文件、支持票务，并通过Slack等通信应用程序进行聊天，从而提高工作效率。该公司表示，该软件还可以自动更改业务源代码，加快开发速度。

大约一年前，OpenAI的ChatGPT突然出现，引发了对生成型人工智能初创公司的投资狂潮。Alphabet和其他公司已经宣布了自己的聊天机器人，它们可以与用户进行类似人类的对话，以帮助完成日常任务。

在拉斯维加斯举行的亚马逊年度云计算大会上，AWS首席执行官亚当·塞利普斯基宣布了一项新的保护措施，以防止生成式人工智能应用程序上出现令人反感的内容，该措施被称为“Bedrock护栏”。他说，这项服务允许用户过滤掉有害内容。

因为生成式人工智能是在公开可用的内容上进行训练的，所以攻击性词汇或其他令人反感的内容可能会溜进用户提示的结果中。在全球冲突时期或选举期间，这对年轻用户来说尤其成问题，因为生成式人工智能在搜索结果中的输出可能会影响民意。

安全倡导者警告说，生成式人工智能可能会在人类创造者的控制之外运行，并产生越来越危险的内容，或者在没有监督的情况下运行整个系统。他们尤其担心，这款软件会把有影响力的、令人信服的内容放在X和Facebook等社交媒体网站上。

塞利普斯基表示，这项新服务对客户来说很重要，他们可以对自己使用的生成式人工智能进行限制。

塞利普斯基说:“例如，银行可以配置一个在线助手，使其避免提供投资建议。“或者，为了防止不恰当的内容，电子商务网站可以确保其在线助手不会使用仇恨言论或侮辱。”

亚马逊表示，作为吸引企业的一部分，Q聊天机器人将提供企业限制，这样它就可以不让不应该访问敏感数据的员工获得敏感数据。起价为每位用户每年20美元。

同样在大会上，亚马逊宣布将赔偿客户因滥用受版权保护的材料而受到的诉讼。例如，图片库公司Getty Images今年早些时候起诉了Stability AI，称其未经许可从其网站上抓取图片。

亚马逊表示，Bedrock的护栏今天在有限的预览中。这家西雅图公司没有提供有关其赔偿政策的更多细节。

(Greg bensinger报道，margarita Choy编辑)