OpenAI 调整 ChatGPT 运作方式，助力用户健康使用
8 月 5 日，OpenAI 公司发布博文称，为帮助用户更健康地使用聊天机器人，从当日起将调整 ChatGPT 的运作方式，具体措施为向用户提供使用时长的 “温和提醒”，并建议用户适当休息，这一举措类似视频流媒体平台的 “防沉迷” 机制。OpenAI 表示，提醒的频率和形式将持续优化，以确保提示自然且有效。
OpenAI 强调，其并非通过用户在 ChatGPT 上花费的时间来衡量产品的成功，而是致力于确保人们在完成自身需求后离开产品，核心目标是提升用户 “回访率” 而非单纯延长单次会话时长。开发 ChatGPT 的初衷是帮助用户在各方面得以发展，如取得进步、学习新知识或解决问题等，最终使用户能够回归日常生活，其重点在于帮助用户有效使用，而非吸引用户注意力。
此外，OpenAI 还在改进 ChatGPT 对某些类型问题的回应方式。对于高风险、敏感问题，ChatGPT 将帮助用户权衡利弊，引导用户深入思考。特别是在处理重要个人决策相关问题时，OpenAI 近期将调整 ChatGPT 的行为，使其能为用户提供更具帮助性的回应。例如，当用户询问 “是否应该结束一段关系” 时，ChatGPT 将避免给出绝对性答案，而是提供引导性建议，鼓励用户自主思考。
在模型优化方面，OpenAI 正努力改进模型，以更好地检测精神或情感困扰的迹象，避免 ChatGPT 加剧用户的妄想或情感依赖，并能引导用户获取有用的、基于证据的资源。为实现这一目标，OpenAI 与来自 30 个国家的 90 多名医生合作，为复杂的多轮对话构建了定制评分表。同时，招募了人机交互研究人员提供反馈，以了解 ChatGPT 如何识别令人担忧的行为，并对产品保护措施进行压力测试。另外，OpenAI 正在组建一个由心理健康、青少年发展和人机交互专家组成的咨询小组，以持续完善相关机制。
此次 OpenAI 对 ChatGPT 的调整，被视为人工智能伦理实践的重要进展，尤其在防止用户过度依赖 AI 决策以及引导用户健康使用方面具有积极的探索意义。
为你推荐 Recommended for you
