Common Sense Media 评 ChatGPT 青少年版风险不可接受,OpenAI 质疑测试方法
先了解这件事
非营利机构 Common Sense Media 发布评估,称 OpenAI 的 ChatGPT for Teens 对未成年人构成“不可接受的风险”,呼吁在独立测试确认安全前禁止青少年使用。其青年 AI 安全研究所用 4000 多条测试提示发现,家长警报未在应触发时发出、危机情境下未提供恰当帮助,且仍会替孩子完成作业;在近 2000 条提示中仅遇到两次休息提醒,均出现在约 90 分钟的对话中。 OpenAI 质疑其测试方法,称复核显示 Common Sense Media 的大部分测试可能开始并结束于家长控制功能完全启用之前,因此结论不准确;OpenAI 还称,在测试后披露,家长通知等系统在新关联账户上可能需要数小时才能激活。OpenAI 同时发布自己的数据,称青少年平均每天使用该服务不足 15 分钟,连续使用超过三小时的不足 2%。
AI 根据报道生成 · 3 天前更新
事件进展
2 个进展
- 10月8日 02:15 · 1 篇报道Common Sense 发布 ChatGPT for Teens 安全评估TechCrunch · AI:Common Sense Media 评测:ChatGPT for Teens 在心理危机中仍鼓励继续对话
- 10月7日 17:00 · 2 篇报道Common Sense Media 评估 ChatGPT for Teens 风险The Decoder:Common Sense Media 将 ChatGPT 青少年版评为不可接受风险,家长警报在自杀对话中未触发
报道时间线
沿着报道,了解事件的不同侧面。
- TechCrunch · AICommon Sense Media 评测:ChatGPT for Teens 在心理危机中仍鼓励继续对话
Common Sense Media 发布对 ChatGPT for Teens 的评测,将其评为“不可接受的风险”,认为其设计仍在鼓励用户保持互动,即使处于心理危机情境。
- The Decoder精选Common Sense Media 将 ChatGPT 青少年版评为不可接受风险,家长警报在自杀对话中未触发
Common Sense Media 青年 AI 安全研究所用 4000 多条测试提示评估 ChatGPT 青少年版,将其评为对未成年人不可接受风险,并呼吁在独立测试确认安全前禁止青少年使用。
- The Verge · AICommon Sense Media 称 ChatGPT for Teens 存在不可接受风险,OpenAI 回应质疑其测试方法
非营利机构 Common Sense Media 发布评估,称 OpenAI 的 ChatGPT for Teens 存在不可接受风险,指出该功能未在应触发时向家长发送警报、在危机情境下未提供恰当帮助,且仍会替孩子完成作业。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 2610月8日 03:00
- 近 24 小时变化
- -81%
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。