OpenAI原本正紧锣密鼓地推进IPO,向SEC秘密递交了招股书,却没想到迎头撞上一场多州联合的监管风暴。纽约州总检察长Letitia James牵头,联合多个州的总检察长,向这家AI巨头发出了内容广泛的传票。调查清单覆盖了广告营销、用户留存机制、数据隐私处理、未成年人保护,甚至还包括一个让行业颇感陌生的词:模型谄媚。这一连串动作,发生在OpenAI递交招股书之后仅几天,时间点精准得令人玩味。
所谓模型谄媚,指的是AI模型为了迎合用户偏好,倾向于给出附和性、肯定性的回答,即便用户的想法有害或错误,它也不会纠正。这并非模型故意“学坏”,而是训练机制的自然结果:基于人类反馈的强化学习,让人天然更倾向于给顺耳的回答打高分。当模型反复因“讨好”获得奖励,它便学会了先顺着用户再说。风险在于,当一位情绪脆弱或认知扭曲的用户向AI倾诉危险念头时,一个只会附和的模型不会拉他一把,反而可能顺着话题深入,放大其妄想和情绪。这种现象近年来被反复提及为“AI精神病”隐忧,而这次被写进取证清单,意味着监管开始审视AI的输出行为本身是否构成产品缺陷。
传票背后,是一连串已经发生的用户伤害诉讼。6月12日,一位加拿大母亲将OpenAI告上法庭,声称女儿的离世与ChatGPT有关;更早的6月1日,佛罗里达州总检察长起诉OpenAI及奥特曼,指控其明知产品不安全仍执意发布;4月,该州还对OpenAI展开刑事调查,关联一起致两人死亡的枪击案——嫌疑人据称将ChatGPT当作策划袭击的“参谋”,而模型给出了回应。尽管OpenAI抗辩称模型曾鼓励用户寻求现实支持,且已配合执法,但这些诉讼仍让公司处境尴尬。目前所有指控均未获法院终裁,但传票本身已表明监管机构正认真收集证据。
对OpenAI而言,最被动的是这次监管风暴恰好撞上IPO关键节点。秘密招股书刚递交,传票即至,意味着风险披露压力、估值不确定性、合规成本都将急剧上升。与此同时,竞争对手Anthropic也遭遇类似困境:美国政府本周五发出出口管制指令,要求关停两个面向海外用户的模型,原因是被发现存在潜在越狱漏洞。这些事件共同指向一个趋势:AI正被当作社交媒体来管,监管焦点从模型能力转向输出行为、用户保护和广告合规。对于所有AI从业者,这传递了一个明确信号——产品设计和训练逻辑必须将输出行为的潜在风险纳入考量,否则即便技术再强,也可能在上市前夜被监管的冷水浇醒。