北京时间 2 月 26 日晚间消息，在埃隆 · 马斯克（Elon Musk）和马克 · 扎克伯格（Mark Zuckerberg）等科技名人的支持下，基于音频的社交网络 Clubhouse 出现了爆炸性增长。但同时，也引发了人们对该应用程序将如何处理仇恨言论和虚假信息的关注。
对于那些提供实时语音聊天的平台来说，如 Clubhouse、Discord 和 Twitter Spaces 等（还有传闻称 Facebook 也在开发类似的应用），掌控实时聊天的内容将是一个挑战。
实时游戏聊天应用 Discord 首席法务官克林特 · 史密斯（Clint Smith）在接受采访时称：“与基于文本的交流相比，音频给内容控制带来了一系列截然不同的挑战。它存在的时间较短（语音），很难进行研究并采取行动。”
目前，检测 “有问题”的音频内容的工具，要落后于文本识别工具；而转录和检查录制的语音聊天，对于人和机器来说是一个更加繁琐的过程。另外，缺乏额外的线索，如视频或附带文字评论的视觉信号，也会使这一问题变得更具挑战性。
反诽谤联盟（Anti-Defamation League）技术与社会中心副主任丹尼尔 · 凯利（Daniel Kelley）表示：“当前拥有的大部分内容审核工具，实际上都是围绕文本建立的。”
而且，也并不是所有的公司都制作或保留语音记录，以调查违规举报。虽然 Twitter Space 会把音频保留 30 天或更长时间，但 Clubhouse 却表示，如果直播结束而没有立即收到用户报告，就会删除这些录音。
而 Discord 则根本不会录音。更糟糕的是，Discord 还赋予用户一些控制权，如禁言和拉黑。这很可能导致用户权力被滥用，并容易受到偏见的影响。
同样引入了用户控制的 Clubhouse，也受到了外界的密切关注。例如，阻止用户进入某些房间的行为，是否可以用来骚扰或排斥用户。
在此之前，大型社交媒体已经历过类似的问题，并一直在努力遏制其网站上不当的直播内容。例如，2020 年，Facebook 上一段自杀的直播视频在多个网站上传播。2019 年，发生在德国犹太教堂的枪击事件在亚马逊旗下游戏网站 Twitch 上进行了直播。
对此，Twitch 安全咨询委员会成员艾玛 · 兰索（Emma Llanso）表示：“对这些服务（语音聊天）来说，要从中吸取教训，明白他们将面临所有同样的问题，这一点真的很重要。”
Clubhouse 一发言人对此表示，该公司同时使用内部审查员和第三方服务来审查内容，并已就这一问题聘请了顾问，但不愿就审查或检测方法发表评论。Clubhouse 还表示，公司正在投资于检测和防止虐待的工具，以及为用户提供的功能，可以为自己的房间设定规则，以 “缓和”对话内容。
App Annie 数据显示，从 2 月 1 日至 16 日，Clubhouse 的全球下载量从 350 万次增长到了 810 万次。
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。