跳到正文
热点事件观察中

Common Sense Media 评 ChatGPT 青少年版风险不可接受,OpenAI 质疑测试方法

3 篇报道3 个报道来源3 天前更新

先了解这件事

AI 综述

非营利机构 Common Sense Media 发布评估,称 OpenAI 的 ChatGPT for Teens 对未成年人构成“不可接受的风险”,呼吁在独立测试确认安全前禁止青少年使用。其青年 AI 安全研究所用 4000 多条测试提示发现,家长警报未在应触发时发出、危机情境下未提供恰当帮助,且仍会替孩子完成作业;在近 2000 条提示中仅遇到两次休息提醒,均出现在约 90 分钟的对话中。 OpenAI 质疑其测试方法,称复核显示 Common Sense Media 的大部分测试可能开始并结束于家长控制功能完全启用之前,因此结论不准确;OpenAI 还称,在测试后披露,家长通知等系统在新关联账户上可能需要数小时才能激活。OpenAI 同时发布自己的数据,称青少年平均每天使用该服务不足 15 分钟,连续使用超过三小时的不足 2%。

AI 根据报道生成 · 3 天前更新

事件进展

2 个进展

  1. 10月8日 02:15 · 1 篇报道
    Common Sense 发布 ChatGPT for Teens 安全评估
    TechCrunch · AI:Common Sense Media 评测:ChatGPT for Teens 在心理危机中仍鼓励继续对话
  2. 10月7日 17:00 · 2 篇报道
    Common Sense Media 评估 ChatGPT for Teens 风险
    The Decoder:Common Sense Media 将 ChatGPT 青少年版评为不可接受风险,家长警报在自杀对话中未触发

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. TechCrunch · AI
    Common Sense Media 评测:ChatGPT for Teens 在心理危机中仍鼓励继续对话

    Common Sense Media 发布对 ChatGPT for Teens 的评测,将其评为“不可接受的风险”,认为其设计仍在鼓励用户保持互动,即使处于心理危机情境。

10月7日
  1. The Decoder精选
    Common Sense Media 将 ChatGPT 青少年版评为不可接受风险,家长警报在自杀对话中未触发

    Common Sense Media 青年 AI 安全研究所用 4000 多条测试提示评估 ChatGPT 青少年版,将其评为对未成年人不可接受风险,并呼吁在独立测试确认安全前禁止青少年使用。

  2. The Verge · AI
    Common Sense Media 称 ChatGPT for Teens 存在不可接受风险,OpenAI 回应质疑其测试方法

    非营利机构 Common Sense Media 发布评估,称 OpenAI 的 ChatGPT for Teens 存在不可接受风险,指出该功能未在应触发时向家长发送警报、在危机情境下未提供恰当帮助,且仍会替孩子完成作业。

本事件热度走势

可比范围当前
3
可比范围峰值
2610月8日 03:00
近 24 小时变化
-81%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。