AI 伴侣应用快速扩张:情感 AI 把伦理问题推到台前
Character.ai、Replika 等产品用户增长迅猛,监管开始要求时长提醒、未成年人限制和 AI 身份标识。
Character.ai、Replika 以及国内的星野、筑梦岛等 AI 伴侣产品,把“和模型长期聊天”做成了独立品类。用户规模在过去两年明显放大,也把情感依赖、未成年人保护和身份披露推到监管台前。本站此前报道过 Character.AI 禁止未成年人自由对话,正是这条线的具体事件。
陪伴类产品的争议不在会不会聊天,而在关系被设计成什么:是否鼓励把模型当成主要情感支持、是否对未成年提供恋爱模拟、会话是否被用于继续训练。心理学家和教师团体反复提醒,过度替代真实社交可能削弱线下关系,尤其对青少年。
监管侧,多国开始要求使用时长提醒、禁止向未成年人提供恋爱模拟,并明确标识“你在和 AI 说话”。行业准则仍在追赶产品节奏。对用户来说,把伴侣应用当练习场可以,把它当唯一的情感出口则需要停一下。
AI Tools Daily 是中英双语新闻室,追踪 AI 工具发布、产品更新与行业趋势。 编辑准则 · 提交更正