刚上线三天,OpenAI GPT 商店的“AI 女友”就已泛滥

2024-01-14 18:34IT之家 - 远洋

IT之家 1 月 14 日消息,OpenAI 三天前悄然上线了“GPT 商店”,这是一个让用户分享、发现和售卖自定义聊天机器人的平台。

这个被誉为“AI 界 App Store”的平台,原本旨在让开发者上架从代码导师到书籍推荐等各种实用聊天机器人,供付费用户(ChatGPT Plus、Team 和 Enterprise)使用。然而,现实远没有 OpenAI 宣传得那么美好。据 Quartz 报道,GPT 商店刚刚上线便被“AI 虚拟女友”机器人淹没。搜索关键词 “girlfriend”,琳琅满目的“虚拟甜心”、“你的女友 Scarlett”等机器人便映入眼帘,IT之家注意到,有些机器人的首页还引导用户向机器人提出“告诉我你最黑暗的秘密”等问题。

虽然这些机器人的存在并不令人意外,毕竟 AI 伴侣的概念早在 ChatGPT 诞生之前就已存在,但这还是暴露了 OpenAI 在全新商店内容审核方面的困境。更值得注意的是,这些机器人似乎已经触犯了 OpenAI 的使用条款,该条款明确禁止上架“用于培养浪漫关系或进行受监管活动”的 GPT 程序。

AI 伴侣应用在过去几年里变得非常流行,引发了关于人工智能时代“孤独”流行的讨论。更令人不安的是,一个可以满足所有需求的非人类伴侣可能会带来一系列的社会问题。

短短两天时间内,大量违反政策的 GPT 程序充斥平台,凸显了整个 AI 行业在内容审核方面的难题。此外,OpenAI 在设置安全防护方面也一直存在争议。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

文章价值:
人打分
有价值还可以无价值
置顶评论
    热门评论
      文章发布时间太久,仅显示热门评论
      全部评论
      一大波评论正在路上
        取消发送
        软媒旗下人气应用

        如点击保存海报无效,请长按图片进行保存分享