Eric Lu的「幽灵字体」一度被视为人类对抗AI的胜利,但Riley Goodside仅用一句方向提示词就让GPT-5.6在2分钟内破解,这让我想起自己在做多模态OCR落地时踩过的坑。核心问题在于,当前模型对动态信息的处理本质上是帧级静态推理的堆叠,缺乏真正的时序感知能力。幽灵字体利用人眼运动知觉的优势,通过动态噪点隐藏文字,而AI却将每一帧独立处理,导致语义丢失。Riley的成功在于他精准引导模型关注“运动轨迹”而非“帧内容”,这暴露了多模态模型在运动感知上的根本缺陷——它们没有内置的时空注意力机制,只能依赖提示词的“人工补偿”。
从个人经验看,我在部署视觉理解模型时,经常发现模型对连续视频帧的语义连贯性极差,甚至不如单帧OCR加简单规则。这次事件让我质疑:验证码等安全机制是否还能依赖AI的“感知瓶颈”?如果提示词工程能如此轻易绕过,那AI的“视觉壁垒”简直形同虚设。
我想抛两个问题:1)多模态模型是否应该引入显式的时空编码器,比如类似Video Transformer的架构,来从底层解决运动感知问题?2)在工程实践中,我们是否需要重新设计验证码机制,从“视觉难度”转向“推理复杂度”?
行业上看,这次事件会加速多模态模型在动态场景下的研究投入,但短期内的落地应用(如自动驾驶、视频分析)可能会面临更多类似的“提示词攻击”风险。我们需要更务实地看待AI感知的边界,而不是盲目相信其泛化能力。