人工智能领域已经成为一个专注于在风险、危害和利益之间保持平衡的领域。如果没有监管，这种技术可能会变得灾难性，比所谓的奇点可能性要真实得多，也微妙得多。所谓奇点是指超级智能的人工智能毁灭人类。

专家们对人工智能将继续增强的一系列现实世界危害(不是威胁，而是主动危害)表示担忧。其中包括全自动化劳动力的经济影响，以及随之而来的不平等，以及不良行为者可能造成的宣传和欺诈方面的损害。但每个人最担心的是人工智能的偏见和幻觉。

不要错过:美国专家警告一个被忽视的人工智能风险

注意到这些偏见问题带来的风险越来越大，机器学习工程师李然·哈森(Liran Hason)意识到，确保大规模采用人工智能的唯一方法就是以某种方式在模型周围安装护栏。于是，他创办了一家名为Aporia的科技公司，其使命就在于此。

Aporia提供了一款人工智能观察软件，该软件为客户提供了工具，可以查看“正在做出的决策，并在出现偏见或潜在错误时获得实时警报”。

然后，该软件允许客户调查他们的人工智能模型可能造成的任何偏见、幻觉或错误的根本原因，以便他们能够迅速纠正任何问题。

“在公司的早期，我们一直在考虑人工智能为人工智能服务的想法。但我们意识到这不应该是这样的;为了真正实现负责任的人工智能，我们必须拥有确定性软件，”哈森说。“如果你依靠人工智能来观察人工智能，那么你就会遭遇同样的裂痕和问题。”

人工智能的更多业务:

• 以下是可能赢得比尔·盖茨人工智能竞赛的初创公司
• 见见你的新行政助理，一个名叫阿特拉斯的强大人工智能
• ChatGPT背后的公司现在面临着一场大规模的诉讼

与“以水救火”的想法一致的是，哈森认为所有的人工智能模型都应该被监控:通过设计客观的第三方。

虽然哈森看好人工智能可能给社会带来的好处，但他承认，风险也非常普遍。关键是找出负责任地减轻风险的方法，使好处真正惠及人们。

哈森说:“老实说，我认为人工智能既可能是发生在人类身上的最好的事情，也可能是最坏的事情。”他补充说，即使没有像《终结者》那样不太可能出现的结果，许多负面影响仍然存在。

“试想一下，在一个医院由人工智能管理的世界里，癌症患者。因此，每一次血液肿瘤和癌症的检测都是由这些系统驱动的。”“错了怎么办?”

但对他来说，停止这项技术是不现实的;人工智能就在这里，它不会去任何地方。现在唯一要做的就是找到最好的方法来减轻它带来的风险，并迅速采取行动，使社会免受这些风险的影响。

“我认为我们无法阻止技术的发展，”他说。

哈森设想，未来5到10年，人工智能将无处不在。与此同时，人工智能监管也得到了精心巩固。

“一方面，我希望看到人工智能参与到我们生活的方方面面。另一方面，我希望——我正在全天候工作——确保每个系统都有适当的护栏，”哈森说。他希望“到那时，各国政府已经制定了规章制度，以确保公司不会对这项技术肆意妄为。”

The Arena Media Brands, LLC THESTREET是THESTREET, Inc.的注册商标。