Skip to content

Translation in progress Some entries still include text in the original language.

论文追踪· arXiv:2609.20720· Thomas Berkane, Anne Bischops, Anika Mellacheruvu, Maimuna Majumder·Indexed by this site · Originally published

研究对比家长与青少年对 AI 伴侣使用的不同描述

What Parents Can See: Divergent Accounts of Youth AI Companion Use in Parenting and Teenager Subreddits

Quick read

Other

Based on 论文 PDF (AI 生成); refer to the original

Berkane等比较1628篇Reddit帖:育儿帖性风险46.8%,青少年帖6.4%(Table 2)。

Questions
青少年多用私人设备上的AI companion,父母是主要调解者,但调解取决于父母是否了解真实用法及风险与益处。既有研究把两类人分开看,分类又几乎只谈风险。
Methods
从2023至2026年的6个育儿和2个青少年subreddit筛出1628篇帖,建20码混合归纳–演绎编码本,用人工校验过的GPT-5.4做全量编码,比较用法、风险、益处和调解。
Experiments and results
青少年帖更常写情感支持,育儿帖更常写性内容风险(46.8%对6.4%,Table 2)。依恋/依赖两边接近。共同使用仅2.9%。作者认为差别对应对话外的可见性。
Limitations and future work
作者指出青少年subreddit只是近似、两边年龄不匹配、育儿版求助可能抬高风险数字,且育儿帖仅139篇;7个码在校验集少于5次。语料来自8个subreddit,调解只编育儿帖,论文未报告比例差的统计检验。
Experimental setupr/teenagers、r/TeenagersButBetter et al. · 社区内帖子占比、Cohen's κ et al.
Benchmarks
r/teenagersr/TeenagersButBetterr/Parentingr/dadditr/Mommitr/Parentsr/parentingteenagersr/raisingkids
Metrics
社区内帖子占比Cohen's κ平台提及占比
AI summary研究分析了 2023 至 2026 年间来自家长与青少年 Reddit 社区的 1,628 条关于青少年使用 AI 伴侣的帖子,并构建了覆盖使用方式、风险、收益与家长干预的编码手册,用 LLM 在语料规模上应用。两个社区呈现出不同图景:青少年最常讨论从 AI 伴侣获得情感支持(占青少年帖 31%,家长帖 19%),家长最常讨论青少年将 AI 伴侣用于浪漫和性互动(36% 对 25%)。青少年也并非忽视其他风险,依恋与依赖是他们提及最多的风险(19%),接近家长的 16%。青少年还描述了以风险为中心的分类未涵盖、家长很少提及的收益,最突出的是情感支持(27% 对 5%)。作者认为这些差异与某种使用方式对对话外的人是否可见有关,并建议家长指导和系统设计应关注既不会通过这两种途径被家长察觉的使用场景,情感支持居首。

研究分析了 2023 至 2026 年间来自家长与青少年 Reddit 社区的 1,628 条关于青少年使用 AI 伴侣的帖子,并构建了覆盖使用方式、风险、收益与家长干预的编码手册,用 LLM 在语料规模上应用。两个社区呈现出不同图景:青少年最常讨论从 AI 伴侣获得情感支持(占青少年帖 31%,家长帖 19%),家长最常讨论青少年将 AI 伴侣用于浪漫和性互动(36% 对 25%)。青少年也并非忽视其他风险,依恋与依赖是他们提及最多的风险(19%),接近家长的 16%。青少年还描述了以风险为中心的分类未涵盖、家长很少提及的收益,最突出的是情感支持(27% 对 5%)。作者认为这些差异与某种使用方式对对话外的人是否可见有关,并建议家长指导和系统设计应关注既不会通过这两种途径被家长察觉的使用场景,情感支持居首。

Paper analysis

6 questions; open one to read the full answer

  1. What problem does this paper attempt to solve?

    父母与青少年对青少年AI companion用法的叙述不同,作者归因于对话外的可见性。

    父母与青少年对青少年 AI companion 用法的叙述不一致,作者把差别归因于对话之外是否可见。

    • 场景:作者把青少年定为10–24岁,称其越来越多使用 Character.AI、Snapchat My AI 等开放式社交、情感和浪漫对话系统,也把通用助手当 companion 用。作者称青春期对社会反馈更敏感,使用多在私人设备上,父母是主要调解者。
    • 为何关键:作者称调解是否有效,取决于父母是否了解青少年实际怎么用、以及这种使用带来的风险和益处。临床、监管和研究方面的关切被作者当作背景,而不是本文的测量对象。
    • 既有不足:作者称先前工作把父母与青少年分开研究;现有分类几乎只处理风险;针对单一平台社区的定性研究不针对青少年,且偏向已投入该产品的用户。
    • 作者的观察:作者认为差别跟着某种用法对对话外的人是否可见:是否留下聊天之外的痕迹,以及父母读到记录时内容是否显眼。
    • 本文做了什么:从2023–2026年6个育儿与2个青少年 subreddit 筛出1,628篇帖,建立覆盖用法、风险、益处和父母调解的20码混合编码本,用经人工校验的 LLM 全量编码,并给出一套益处分类。对应 RQ1–RQ3。
  2. What related research exists?

    演绎起点来自青少年用法调查、儿童风险分类和家庭生成式AI调解;益处编码是归纳的。

    论文把相关工作分成青少年 companion 使用、风险与益处、父母调解三组。

    青少年与 companion

    • 调查:Robb and Mann (2025)、Bickham 等 (2026)、McBain 等 (2026) 调查青少年 companion 使用。作者称多数美国青少年试过,相当一部分经常用,集中在角色扮演、社交和情感披露。Robb and Mann (2025) 的用法类别是 RQ1 的演绎起点,因其针对青少年、来自自报、且不限单一产品。
    • 平台社区:Namvarpour 等 (2026) 分析 Character.AI subreddit,描述使用从寻求支持或创意玩法加深为带冲突、退缩、耐受和复发的依恋,并写到睡眠、学业和线下关系的代价。Blake、Carter 与 Velloso (2026) 在 Discord 上把参与分为 restoration、exploration、transformation。作者指出,平台自身社区会选中已投入该平台、且常是单一产品的人。
    • 成人相邻工作:Pataranutaporn 等 (2025) 记录 r/MyBoyfriendIsAI 的陪伴,Yuan 等 (2026) 记录 Replika 用户的关系轨迹。论文未把这两篇与本文做方法对比。

    风险与益处

    • 风险分类:Radesky、Bragg 与 Hiniker (2026) 覆盖数据收集与隐私、过度信任、性互动、依恋与操纵、依赖与强迫使用。作者把它作为风险编码起点,因其针对儿童和社会性 AI,而不是一般用户或广义生成式 AI。
    • 其他风险证据:Solyst 等 (2024) 报告儿童过度信任生成式系统;Belghith 等 (2024) 报告初中生对 chatbot 的误解,包括认为它总是正确;Laestadius 等 (2024) 记录情感依赖;Xie、Pentina 与 Hancock (2023) 把依赖建模为孤独、信任和人格化推动的过程。论文对这些工作是描述,没有逐篇批评。
    • 益处文献:Bae Brandtzæg 等 (2021)、Kim 等 (2018)、Koulouri、Macredie 与 Olakitan (2022) 研究心理健康 chatbot 的支持、倾听预期和可接受性。作者称这些工作针对专用治疗 chatbot 而非 companion,材料来自工作坊和访谈,且偏向青年成人;作者称没有找到面向青少年 AI companion 的益处分类。

    父母调解与知情

    • 理论:Livingstone 与 Helsper (2008) 区分主动调解、限制和共同使用;Clark (2011) 提出参与式学习。Zhang 等 (2025) 将框架用于家庭生成式 AI,得到 instructive、restrictive、co-use、supervision。作者称这是该理论在家庭生成式 AI 上的唯一应用,并用作 RQ3 起点。
    • 知情程度:Eira、Rasouli 与 Charisi (2025) 报告多数父母不了解孩子如何用生成式 AI 并感到疏离;Xie 等 (2026) 报告父母把 AI 限于学习、忽略非学习用法及风险;Liu、Wang 与 Yip (2026) 报告约五分之一的父母称过去六个月与孩子谈过适当使用。
    • 比较研究:Yu 等 (2026) 中,父母把自杀提及或调情等单次事件标为高风险,专家看随时间的模式。Yu 等 (2025) 的父母–青少年比较把生成式 AI 当整体,且只看风险。作者据此写,仍不清楚父母能看到 companion 使用的哪些方面。

    编码起点:本文没有方法基线。比较的是同一编码本下的两类帖。用法、风险、调解的演绎起点分别是 Robb and Mann (2025)、Radesky 等 (2026)、Zhang 等 (2025);益处完全归纳。作者把本文放在一般青少年社区、而非单一产品社区中,直接比较父母与青少年,并同时编码益处。作者认为差异对应对话之外的可见性。

  3. How does the paper address this problem?

    用混合编码本标1628篇Reddit帖,再以经人工校验的GPT-5.4做全量编码。

    作者用混合归纳–演绎主题分析比较两类社区的公开帖,再用经人工校验的 LLM 把20个码标到全部相关帖上。码在每一类内不互斥:一帖可以有零个、一个或多个码。

    语料与相关性过滤

    • 来源:用 Arctic Shift 收集6个育儿社区(r/Parenting、r/parentingteenagers、r/Parents、r/raisingkids、r/daddit、r/Mommit)和2个青少年社区(r/teenagers、r/TeenagersButBetter),时间为2023-01-01至2026-07-15,共3,234,008篇。
    • 预处理:去掉转帖、已删除、机器人或版主、只有链接或图片、重复、标题加正文少于10词的帖,保留1,548,336篇。附录 A 给出各步丢弃量。
    • 术语与判定:标题或正文须命中专用 companion 应用、通用助手,或 AI、chatbot(s)、bot(s) 之一,大小写不敏感且按词界匹配,得到10,780篇。附录 B 列全术语。GPT-5.4 mini(low thinking effort)判相关:点名以陪伴或社交、情感、性聊天为主要用途的产品,或描述把任何 AI(含 ChatGPT、Gemini 等通用助手)用于陪伴、倾诉、情感支持、角色扮演或治疗。只点名产品即可;通用助手只做非社交任务则排除;只描述父母本人使用也排除。完整提示词在附录 C.1。
    • 过滤校验:开发集200篇,与留出集不相交;更高 thinking effort 未提高过滤准确率。留出集200篇按模型标签各半分层,各社区至少5篇。两位标注者 Cohen's κ=0.773,裁定标签与 LLM 的 κ=0.823。同一设置重跑5次,96.4%五次同标签,平均成对 κ=0.929。最终保留1,628篇:青少年社区1,489,育儿社区139(Table 1)。86.6%的作者只出现一次,占相关帖68.4%。

    编码本如何改定

    • 过程:先用文献中的码,三名编码者在数据上沿用或新增,直到认为没有实质新码,再合并。探索阶段219篇,育儿与青少年帖平分。随后两名编码者在另外50篇上修订定义。终稿20码,定义与示例在附录 E,说明在附录 D,增删记录在附录 F。
    • 用法(RQ1):起点是 Robb and Mann (2025)。删掉 conversation/social practice,作者称太泛。把情感/心理健康支持扩成情感支持与个人建议。角色扮演去掉性角色扮演,以免和浪漫/性互动重叠,并扩到协作写作。朋友、浪漫/性互动保留。数据中没有新的用法码。平台按 Table 5 计数;gemini、claude、cai、grok 逐条人工复核,作者称无假阳性。
    • 风险(RQ2):起点是 Radesky、Bragg 与 Hiniker (2026)。删掉 overtrust,作者称太泛,且与依恋、有害内容重叠。把依恋与操纵、依赖与强迫使用并成依恋/依赖,因实践中难分开;操纵拆到新的有害内容与建议。性互动扩为性/年龄不适互动,以覆盖暴力等非性但不适龄内容。归纳新增迎合和社会替代。数据收集与隐私保留。
    • 益处与调解:益处没有文献起点,完全归纳,得到情感支持/陪伴、有用建议、娱乐/创意出口、低利害/无评判互动、社交技能练习、更安全出口/伤害减轻。调解起点是 Zhang 等 (2025) 的四种策略,全部保留;共同使用要求父母参与互动,监督要求不参与,作者称是为避免两类重叠。调解只对育儿帖编码。

    全量标注

    • 人工校验:两名编码者独立标留出的100篇,青少年、育儿各50,各社区至少5篇。7个码在裁定标签下 nv<5,作者称此时 κ 不稳定,这些码的发现只作举例。其余码的人工 κ 为0.58–0.94,例外是有害内容与建议 κ=0.48(6篇),作者称对该码的结果谨慎解读。
    • LLM:GPT-5.4、low thinking effort。提示词在另100篇开发集上迭代,与校验集不相交;更高 effort 未提高与人工码的一致性。三次运行的各码比例标准差中位数0.005、最大0.014。与裁定标签的 κm 见表2。全量费用9.46美元。完整提示词在附录 C.2。
    • 误差假定:作者称编码误差会抬高或压低比例,但主张建立在两类社区的差别上;两边用同一提示词,作者不预期误差方向系统不同,并称误差在对比中应部分抵消。

    伦理与发布

    • 处理:机构 IRB 批准。只分析公开帖,不收集私人或身份信息。文中不报告用户名或帖子 ID,摘录经改写。语料放在仅研究组可访问的机构设施。未征得作者同意;作者称此规模不可行,且会联系到未成年人。编码者可随时暂停。
    • 发布范围:摘要写编码本与帖子 ID 可获取。文末发布说明写,作者将发布编码本、代码和保留语料的 Reddit 帖子 ID,不发布帖文和 LLM 标注,理由是带情感披露标签的可识别语料会降低针对个别青少年画像的门槛。
  4. What experiments did the paper conduct?

    青少年帖更常写情感支持,育儿帖更常写性内容风险;共同使用仅2.9%。

    实验设置

    • 语料:2023-01-01至2026-07-15,8个 subreddit。预处理后1,548,336篇,术语匹配10,780篇,GPT-5.4 mini 筛得1,628篇:青少年社区1,489,育儿社区139(Table 1)。
    • 标注模型:过滤为 GPT-5.4 mini,全量编码为 GPT-5.4,均为 low thinking effort。帖中被讨论的系统不是被攻击的模型;平台计数见 Table 3。
    • 编码规则:20码,类内不互斥。调解四码只用于育儿帖。探索219篇、修订50篇后定稿(第3.2节)。
    • 指标:各社区相关帖中的占比。一致性为 Cohen's κ。论文未报告两类比例差的统计检验,也未报告重复抽样的置信区间。
    • 校验规模:过滤开发集与留出集各200篇;编码提示词开发集100篇,双标留出集100篇。全量编码重复3次。
    • 低频码:校验集 nv<5 的7个码,作者称只作举例,不据此做定量比较(Table 2)。

    主结果

    分母为青少年帖1,489、育儿帖139。码不互斥。数字据 Table 2。

    Swipe horizontally to read the table

    编码青少年帖育儿帖出处
    情感支持/建议(用法)31.4%(468)19.4%(27)Table 2
    浪漫/性互动(用法)24.7%(368)36.0%(50)Table 2
    角色扮演/想象(用法)15.6%(233)17.3%(24)Table 2
    性/年龄不适(风险)6.4%(95)46.8%(65)Table 2
    依恋/依赖(风险)18.9%(281)15.8%(22)Table 2
    社会替代(风险)8.8%(131)9.4%(13)Table 2
    情感支持(益处)27.1%(403)5.0%(7)Table 2
    娱乐/创意(益处)12.4%(184)14.4%(20)Table 2
    • 作者的概括:作者称青少年最常讨论情感支持与建议,父母最常讨论浪漫与性互动。摘要与讨论把性内容风险的差距写成约七倍或接近七倍(47%对6%),对应 Table 2 的取整。
    • 可见性解释:作者认为长时间、深夜使用留下聊天外的痕迹,所以依恋/依赖两边接近,且父母更强调依赖而非依恋。露骨内容在记录中显眼,所以父母更写性内容、较少写恋爱或伴侣框架。向朋友倾诉冲突既无痕迹、读起来也像普通对话;作者称情感支持因此是父母最常漏掉的用法,也是益处差距最大的一项。
    • 该差距的一致性:情感支持益处的人工 κh=0.78,LLM–人工 κm=0.57±0.03;作者称后者属于 borderline substantial(Table 2)。育儿侧该码为7/139。

    平台提及

    • 测了什么:在相关帖中统计是否点名平台,并在至少点名一个平台的帖中看产品构成(Table 3:青少年996、育儿62)。
    • 结果:作者报告点名具体平台的比例为45%对67%(第4.1节)。差距主要在 companion 平台(24%对49%),通用助手接近(22%对20%)。Table 3 中,青少年最常点 Character.AI(62.1%对40.3%),父母最常点 ChatGPT(43.5%对28.0%)。PolyBuzz 是父母更高的 companion 平台(11.3%对2.0%,7对20)。
    • 作者的解读:作者称父母更常用泛称,companion 应用往往要到问题出现才被看见;PolyBuzz 的例外多出现在发现孩子使用的帖里。角色扮演两边比例接近,作者称描述大体重合,Character.AI 是两边在该用法下最常被点名的平台。

    风险与益处的叙述

    • 测了什么:在占比之外比较同一码的叙述内容。作者报告至少出现一个风险码的帖为育儿69%、青少年31%;至少出现一个益处码的帖为青少年40%、育儿30%(第4.2节)。
    • 结果:作者称青少年会写不想要的露骨内容、模型表述的身体标准,以及涉及未成年人的性化生成图像;这些身体理想在父母帖中缺席。父母的性内容叙述集中在聊天记录中的发现、由无害转向露骨,以及孩子从系统学习关系脚本。依恋一侧,青少年写验证寻求和对学业、睡眠、进食的代价;父母从外部写本该睡觉时仍在使用,并把它联系到始终在线和参与优化。社会替代比例接近,但青少年写同伴、父母和伴侣联系被替代,父母更窄地写亲子沟通被截走。孤独在父母对情感支持用法的描述中基本缺席。
    • 作者的解读:作者称青少年对风险的意识并不低于父母,并会提出父母较少写到的风险;父母则更多写对儿童发展的影响。其余益处作者称只作举例:父母几乎总是替更年幼或 neurodivergent 的孩子来写,青少年则从自身经验写。

    父母调解

    • 测了什么:只在139篇育儿帖上编码 Zhang 等 (2025) 的四种策略(Table 2)。
    • 结果:限制38.8%(54),监督36.7%(51),指导31.7%(44),共同使用2.9%(4)。作者称限制从封禁单个应用、限时、平台年龄设置,到断网不等;监督多是查看聊天记录,或把使用限制在共用房间的电脑;指导多被写成谈话,且不少由性内容触发。共同使用的少数例子涉及幼儿,而不是青少年。
    • 作者的解读:作者认为父母调解的是自己能看到的用法,而不是最常见的用法。监督和限制都作用在痕迹或显眼内容上;指导虽不依赖痕迹,作者称也多由性内容触发。共同使用是唯一进入互动本身的策略,作者称几乎没有。

    其他消融与分析

    • 任一类风险:育儿帖69%、青少年帖31%;任一类益处:青少年帖40%、育儿帖30%(第4.2节)。
    • 过滤五次重跑:96.4%五次同标签,平均成对 κ=0.929;全量三次编码的码比例标准差中位数0.005、最大0.014(第3.1–3.2节)。
    • 86.6%的作者只出现一次,占相关帖68.4%(第3.1节)。
    • 朋友用法3.9%(58)对9.4%(13),人工 κh=0.58(nv=7);迎合1.2%对7.2%、有害内容1.1%对4.3%、数据隐私1.5%对3.6%,作者称后三者只作举例(Table 2)。
    • 有用建议3.6%对5.8%,无评判互动3.4%对5.0%,社交技能练习0.5%对3.6%,更安全出口1.3%对1.4%,作者称只作举例(Table 2)。
    • 社会替代 κm=0.58±0.08,娱乐/创意 κm=0.59±0.04,有害内容 κh=0.48(nv=6)、κm=0.60±0.08(Table 2)。数据收集与隐私是两边最少讨论的风险。
  5. What are some points that can be further explored?

    作者指出样本代理、年龄不匹配、求助偏差、育儿帖少,以及部分码的一致性不稳定。

    作者指出的局限与后续方向

    • 样本代理:作者称青少年 subreddit 是青少年的不完美代理。作者把青少年定为10–24岁,但 r/teenagers 与 r/TeenagersButBetter 只是近似而非抽样,Reddit 上的青少年用户不能代表一般青少年(第6节)。
    • 年龄不匹配:青少年帖来自名义上的青少年,育儿帖描述任意年龄的孩子,且可见的一部分涉及幼儿(第6节)。
    • 求助偏差:作者称育儿 subreddit 是求助场所,帖子通常由发现、危机或求建议触发,会选出麻烦,可能抬高父母一侧的风险数字(第6节)。
    • 语料规模:育儿帖139篇,相对青少年帖1,489篇,作者称父母一侧数字更嘈杂。这是六个育儿社区三年半、预处理后386,552篇中保留全部相关帖的结果;作者称这种稀少本身也是结果(第6节)。
    • 编码稳定性:20个码中有7个在100篇校验集里出现少于5次,κ 不稳定,只作举例。其余码中,有害内容与建议的人工 κ=0.48;社会替代、作为益处的情感支持、娱乐与创意出口的 LLM–人工 κ 分别为0.58、0.57、0.59(第6节)。
    • 可能的负面社会影响:作者称,父母不了解某些用法这一发现可能被读成支持更侵入的监控,而作者主张相反;不应被当成彻底限制的论据,因为 companion 可以是缺少其他支持的青少年的支持来源;益处可能被选择性引用以淡化风险;过滤方法和编码本可能被滥用来从公开帖大规模识别脆弱青少年(第6节)。

    实验覆盖范围

    • 比较使用2023-01-01至2026-07-15的8个 subreddit 公开帖;相关帖1,628篇,青少年社区1,489、育儿社区139(Table 1,第3.1节)。
    • 全量标签由 GPT-5.4 按20码给出;调解四码只用于育儿帖。人工双标校验集100篇,过滤校验集200篇,全量编码重复3次(第3.1–3.2节、Table 2)。
    • 平台统计覆盖 Table 5 的专用 companion 应用和通用助手;gemini、claude、cai、grok 经逐条人工复核,作者称无假阳性(第3.2节)。
    • 定量比较所依据的是校验集 nv≥5 的码;nv<5 的7个码,论文写明只作举例(Table 2)。
    • 论文报告了过滤与编码的 Cohen's κ,以及三次全量编码的比例标准差。论文未报告两类比例差的统计检验。组间对比被写成同一提示词下误差应部分抵消(第3.2节)。
  6. Summarize the main content of the paper

    两类社区叙述分叉;作者认为父母看到的是留痕或显眼的用法,情感支持最常被漏掉。

    Berkane 等比较育儿与青少年 subreddit 对青少年 AI companion 使用的公开叙述,看父母作为主要调解者能看到什么、漏掉什么。

    作者从2023–2026年两类社区筛出1,628篇帖(青少年1,489、育儿139),用混合归纳–演绎的20码编码本,经人工校验后由 GPT-5.4 全量标注。比较用法、风险、益处和父母调解。

    • 用法上,青少年帖最常见的是情感支持与建议(31.4%,468/1,489),育儿帖最常见的是浪漫/性互动(36.0%,50/139;Table 2)。角色扮演两边接近。
    • 风险上,性/年龄不适内容为46.8%(65/139)对6.4%(95/1,489)。作者在摘要和讨论中称约七倍或接近七倍(47%对6%)。依恋/依赖为18.9%对15.8%。至少出现一个风险码的帖,作者报告为69%对31%。
    • 益处上,情感支持为27.1%(403)对5.0%(7)。该码的 LLM–人工 κm 为0.57±0.03(Table 2)。娱乐/创意为12.4%对14.4%。至少出现一个益处码的帖,作者报告为40%对30%。
    • 调解只编育儿帖:限制38.8%(54)、监督36.7%(51)、指导31.7%(44)、共同使用2.9%(4/139)。
    • 作者认为差别对应两种可见性:聊天外的痕迹,以及记录中显眼的内容。情感支持两者都不占,因而是父母最常漏掉的用法。作者主张与孩子谈论用法和从中得到什么,而不是只监控痕迹;并称内容过滤和年龄门槛处理不了情感依赖。作者同时写出样本代理、年龄不匹配、求助偏差、育儿帖较少,以及部分码一致性不稳定。
Read originalarxiv.org