大型游戏创作平台《罗布乐思》使用机器学习AI进行语音评论已有一年时间。由于该游戏拥有大量的儿童用户，该公司非常重视评论。在最近举行的GDC2024游戏开发者大会上，罗伯斯高级技术总监KiranBhat和语音安全负责人HannesHeikinheimo透露，虽然AI审查取得了很好的结果，但有时真人仍然可以更好地完成这项工作。
哈特在演讲中说：“实时监听声音听起来很难，因为监听声音不仅要知道对方在说什么，还要捕捉对方讲话的语气和强度，以确定某一段落是否真的恶意。
“语境也是决定文章是否具有冒犯性的一部分。因此，这是一个非常困难的问题。”
他接着解释说，该公司对这些问题的回应是将违规行为分成四个主要类别，称85%的违规行为属于这些类别，可以使用50个关键字来捕获“绝大多数”。他说：“如果你已经涵盖了这些类别中排名前50的关键词，你就做得很好。”
语音安全负责人Heikinheimo声称，AI监督取得了令人印象深刻的成果：经过一年的运行，该系统已经覆盖了31个国家和地区，而且每一次活跃聊天时间报告的违规数量减少了一半。使用人工智能的一个优势是它们没有情绪，不会疲惫不堪，所以在非常明显的违规行为中，机器比人类更有效和稳定。然而，路有一尺高，魔鬼有一尺高。为了真正理解意图并做出判断，他认为“人类仍然比机器更强大”。
Heikinheimo说：“人类在可能非常接近判断边缘的事情上仍然表现得更好。或者在非常罕见的情况下，我们没有那么多数据供机器学习系统训练。所以人类在这些情况下仍然表现得更好。”
