鼓狮财经8月18日报道,OpenAI宣布将限制青少年使用全新的ChatGPT版本,该版本将着重加强心理健康保护,并引入鼓励批判性思维的功能。此举恰逢外界对人工智能影响年轻群体日益关注,以及OpenAI面临相关争议之际。
8月18日周二,OpenAI在其官网上发布公告,宣布即日起在全球范围内正式推出面向13至17岁用户的专属ChatGPT版本,并对图像生成及负面内容实施更为严格的管控。
目前,OpenAI正面临多起来自家庭的诉讼,指控子女因使用ChatGPT而受到伤害。与此同时,公司正筹备首次公开募股,预计交易将在未来一年内完成。此外,随着英国等各国逐步推进禁止16岁以下青少年使用社交媒体的政策,尽管这些政策通常未涵盖AI聊天机器人,但外界对人工智能影响年轻人的审视力度正在加强,这给科技公司带来了更大的监管压力。
“安全工作永远没有终点,”OpenAI青少年与家庭业务负责人Lauren Jonas在接受采访时表示,“我们一直在不断学习和改进,致力于识别青少年是否遇到困难,并为他们提供所需的适当资源。”
目前,ChatGPT已提供家长控制功能,能在高风险情况下发送安全提醒。此次推出的青少年版本将进一步增加针对饮食失调和暴力内容的警示。针对为何直至此次更新才加入这些功能,Jonas解释道:“这需要在保护青少年隐私与确保安全之间取得平衡。”
根据OpenAI的政策,13岁以下儿童禁止使用聊天机器人,而18岁以下用户需获得父母同意。公司会结合用户自行申报的年龄及其使用行为中的多项信号,来判断何时向用户提供青少年版本。
面向青少年的ChatGPT将引导用户更多地使用教育类功能,并新增休息提醒及“安静时段”。用户或家长可自行设定这些时段,在此期间ChatGPT将无法被使用。
Jonas指出,OpenAI“目前尚未发现ChatGPT存在严重的过度使用问题,也未发现长期持续使用的迹象”。不过,鉴于相关研究仍有限,公司采取了较为谨慎的态度。
OpenAI此前曾被质疑,为青少年提供直接答案可能削弱其批判性思维和学习能力,这种现象被称为“认知卸载”。对此,OpenAI表示,新版本将升级“学习模式”,引导青少年逐步解决问题,而非直接给出答案。
Jonas提到,ChatGPT上的青少年用户中约有90%将其用于学习,公司“希望能继续在这一体验的基础上进行完善,将其打造成为一种优质的学习工具”。
