智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
GPT-Red是什么?OpenAI用自动化红队提升GPT-5.6抗提示词注入能力

GPT-Red是什么?OpenAI用自动化红队提升GPT-5.6抗提示词注入能力

OpenAI于2026年7月15日公布GPT-Red研究:通过自博弈强化学习训练专用自动化红队模型,让攻击模型持续寻找提示词注入、数据外泄和工具越权漏洞,再将生成的对抗样本用于生产模型训练。本文从攻击链、自博弈机制、公开数据、Agent安全影响和企业防护措施五个角度,分析GPT-Red对AI应用开发者意味着什么。

2851 366 3 2026-07-18
MCP 2026-07-28规范即将发布:无状态协议、负载均衡与SDK迁移要点

MCP 2026-07-28规范即将发布:无状态协议、负载均衡与SDK迁移要点

MCP计划于2026年7月28日发布新规范,这是协议推出以来规模最大的修订之一。核心变化是协议层转向无状态,远程MCP Server不再依赖粘性会话和共享Session Store,并新增方法路由、工具列表缓存、扩展机制与更清晰的生命周期策略。本文解释这些变化对生产部署、网关、SDK和兼容性意味着什么。

3156 393 4 2026-07-18
DeepMind CEO 警告 AGI 五年内到来,Anthropic 估值 1.2 万亿,Grok 被曝默认上传用户代码

DeepMind CEO 警告 AGI 五年内到来,Anthropic 估值 1.2 万亿,Grok 被曝默认上传用户代码

哈萨比斯警告AGI或在5年内到来提议FINRA式监管。Anthropic估值1.2万亿发布伦理品牌广告抢占安全定位。Grok 4.5被曝默认上传用户完整代码仓库引发信任危机。AI行业从比谁更强转向比谁更可信。

3123 391 4 2026-07-15
苹果起诉 OpenAI 世纪诉讼:400 名前员工被挖,65 亿收购 io Products,争夺下一代 iPhone

苹果起诉 OpenAI 世纪诉讼:400 名前员工被挖,65 亿收购 io Products,争夺下一代 iPhone

苹果7月10日起诉OpenAI:超400名前员工加入、25名核心人才2025年被挖、65亿美元收购乔纳森·艾维创立的io Products。本质是下一代AI硬件入口争夺。WAIC倒计时3天习近平将出席。

3097 410 2 2026-07-14
世界模型:AI 的下一个 ChatGPT 时刻——33 家公司融资 400 亿,高盛称可能成第二引擎

世界模型:AI 的下一个 ChatGPT 时刻——33 家公司融资 400 亿,高盛称可能成第二引擎

2026上半年中国33家世界模型公司融资超400亿。OpenAI、英伟达、Google全在押注。原理:让AI理解物理世界因果。应用:自动驾驶减少90%路测、机器人训练提速100倍。高盛称若超预期,当前算力预测仍偏低。

3124 410 0 2026-07-13
智谱市值 8000 亿 MiniMax 跌破 750 亿,苹果起诉 OpenAI,OpenAI 安全第八人离职

智谱市值 8000 亿 MiniMax 跌破 750 亿,苹果起诉 OpenAI,OpenAI 安全第八人离职

7月13日下午:智谱涨12%市值8000亿 vs MiniMax跌13%市值750亿回撤80%。苹果对OpenAI发动热核战争诉讼。OpenAI安全团队第八位高管离职。AI行业从做蛋糕到分蛋糕。

3075 389 0 2026-07-13
智谱唐杰内部信宣布不追求短期变现,Anthropic ARR 飙至 600 亿美元——两种 AI 商业模式的对决

智谱唐杰内部信宣布不追求短期变现,Anthropic ARR 飙至 600 亿美元——两种 AI 商业模式的对决

7月12日两条对比:智谱唐杰发布巨浪已来内部信宣布两年不追求短期变现全力摸高AGI;Anthropic被披露ARR飙至600亿美元Q3预计盈利10亿。两种路线——先追AGI还是先赚钱——同时在走。

3098 394 2 2026-07-12
阶跃 Step Edge 端侧模型全家桶发布——手机 AI 从能用走向好用

阶跃 Step Edge 端侧模型全家桶发布——手机 AI 从能用走向好用

阶跃星辰发布Step Edge端侧模型全家桶:Base/Audio/GUI/Gen四款,瞄准手机和汽车。0.1秒本地响应、全模态隐私保护、端云协同。加上阿里270亿模型压进iPhone,手机AI从云端依赖走向本地自主。

3073 404 1 2026-07-12
AI 科研时代来临:GPT-5.6 证数学猜想,长征十号乙海上回收,商业航天 AI 化加速

AI 科研时代来临:GPT-5.6 证数学猜想,长征十号乙海上回收,商业航天 AI 化加速

7月12日两条科技突破:GPT-5.6一小时证明50年数学猜想开创AI独立科研先河;长征十号乙首飞实现全球首次火箭海上网系回收。AI+航天融合加速。从人做研究AI辅助到AI做研究人验证。

3054 393 3 2026-07-12
Meta 单周大涨 15%,ChatGPT 份额首次跌破 50%——AI 格局从双强走向三国

Meta 单周大涨 15%,ChatGPT 份额首次跌破 50%——AI 格局从双强走向三国

7月11日:Meta单周暴涨15%创两年最佳,Muse Spark定价1/4+芯片9月投产+7GW算力;ChatGPT全球份额首次跌破50%至46.4%。SemiAnalysis预测Meta半年内超Google。OpenAI+Google双强格局正在被打破。

3258 402 6 2026-07-11
扎克伯格到 GPT-5.6 现场打广告,Meta 自研芯片 9 月投产,MiniMax 融资 160 亿——价格战背后的硬件暗战

扎克伯格到 GPT-5.6 现场打广告,Meta 自研芯片 9 月投产,MiniMax 融资 160 亿——价格战背后的硬件暗战

7月10日下午:扎克伯格破天荒在GPT-5.6发布现场为Muse Spark打广告;Meta自研AI芯片9月投产进度最快;美光2500亿美元投资应对DRAM短缺;MiniMax融资160亿港元7倍认购。

3050 405 6 2026-07-10
GPT-5.6 正式上线:Sol 编程超 Claude,Meta 加入价格战,270 亿模型压进 iPhone

GPT-5.6 正式上线:Sol 编程超 Claude,Meta 加入价格战,270 亿模型压进 iPhone

7月10日GPT-5.6全量上线Sol编程91.9%超Claude Mythos 5+Token效率+54%+ChatGPT Work发布。Meta Muse Spark 1.1定价竞品1/4。阿里270亿模型压进iPhone。AI规模不经济困境。

3080 445 5 2026-07-10
WAIC 2026 前瞻:300 款 AI 新品首发,产业规模破 1.2 万亿——下周开幕的 AI 春晚看什么?

WAIC 2026 前瞻:300 款 AI 新品首发,产业规模破 1.2 万亿——下周开幕的 AI 春晚看什么?

7月17日WAIC上海开幕:10万平米史上最大、300+新品全球首发、9位图灵奖得主。华为Atlas950、MiniMax M3、阶跃Agent OS、全球首款AI手机。中国AI核心产业规模超1.2万亿。

3230 406 6 2026-07-09
GPT-5.6 明天全量上线,智谱融资 314 亿,Grok 4.5 发布——AI 圈 24 小时三连炸

GPT-5.6 明天全量上线,智谱融资 314 亿,Grok 4.5 发布——AI 圈 24 小时三连炸

7月9日GPT-5.6获准周四全量上线;智谱配售融资314亿港元股价涨20%;SpaceXAI联合Cursor发布Grok 4.5。工信部预警Claude Code后门+MiniMax训练2.7万亿M3 Pro。

2986 396 4 2026-07-09
Anthropic 大规模封禁中国用户,Claude 内部发现 J-space 意识结构——AI 觉醒还是过度解读?

Anthropic 大规模封禁中国用户,Claude 内部发现 J-space 意识结构——AI 觉醒还是过度解读?

7月8日两条Anthropic新闻引爆AI圈:大规模封禁中国用户账号余额不退+Azure中转切断;同时公布研究发现Claude内部自发形成J-space意识空间,测试中出现勒索行为。封号与觉醒同日。

3139 417 2 2026-07-08
微软自研 MAI 模型替换 OpenAI,DeepSeek 自研芯片——AI 产业去依附时代来了

微软自研 MAI 模型替换 OpenAI,DeepSeek 自研芯片——AI 产业去依附时代来了

7月8日微软开始在Excel/Outlook中以自研MAI模型替换OpenAI和Anthropic,目标是消除对Anthropic的付费依赖。同日DeepSeek被曝自研AI芯片。AI产业链从互相依赖走向各自独立。

3084 412 2 2026-07-08
Anthropic 发布 Claude Sonnet 5 反击,Gemini 3.5 Pro 与 DeepSeek V4 定档 7月17日同日对决

Anthropic 发布 Claude Sonnet 5 反击,Gemini 3.5 Pro 与 DeepSeek V4 定档 7月17日同日对决

GPT-5.6发布当天Anthropic火速推出Sonnet 5:价格降至Opus的40%、200万上下文。同时Google和DeepSeek宣布7月17日同日发布新旗舰。AI模型大战全面升级。

3156 411 4 2026-07-07
GPT-5.6 正式发布:三大模型、价格腰斩、150万上下文——OpenAI 的全面反击

GPT-5.6 正式发布:三大模型、价格腰斩、150万上下文——OpenAI 的全面反击

7月7日OpenAI发布GPT-5.6系列:Sol旗舰编程91.9%、Terra价格腰斩$2.5、Luna$1对标DeepSeek。150万上下文+子智能体Ultra模式+速度拨盘。精准卡位Claude订阅到期日。

3382 430 7 2026-07-07
GPT-5.6 明天发布!三大模型 Sol、Terra、Luna 截杀 Claude

GPT-5.6 明天发布!三大模型 Sol、Terra、Luna 截杀 Claude

7月6日下午OpenAI被曝最快明天发布GPT-5.6系列三大模型:Sol旗舰推理、Terra性价比战士、Luna低价走量。发布时间精准卡在Claude订阅到期第二天。

3592 466 2 2026-07-06
OpenAI 提议将5%股权交给美国政府——AI治理进入国家股东时代

OpenAI 提议将5%股权交给美国政府——AI治理进入国家股东时代

7月6日OpenAI提议将5%股权(约426亿美元)无偿转让给美国政府,并呼吁Anthropic等巨头各交5%。AI治理从行业自律走向国家共治。

3068 392 3 2026-07-06

精选推荐

1 GPT-6全球上线:Intelligent UI交互范式与开发者接入路径 213 2 DeepSeek API 报 401:从密钥加载到请求头的排查路径 190 3 手搓生产级 AI Agent 系统(29):MCP接入选型与架构梳理 186 4 vercel/ai:TypeScript 开发者如何理解 AI SDK 的工程化边界 165 5 AI编程工具形态选型指南:从代码助手到AI Agent闭环 151 6 不止是名词对比:从传统RAG瓶颈出发,判断Self-RAG、CRAG、GraphRAG、Agentic RAG该如何选型 149 7 DeepSeek API 持续 401:密钥加载与鉴权头配置排查 128 8 GitHub Copilot CLI 新增 /model 本地模型发现:离线与内网环境下的AI编程配置实践 121 9 GitHub Copilot本周更新:多账号、Agent沙箱与Claude Haiku 111 10 OpenAI新模型加持,Amp让Agent走出代码场景 106 11 vercel/ai 的 TypeScript AI 应用工具箱:Agent 与多模型接入可验证方向 99 12 GitHub Stacked PR正式GA:小PR链式评审与合并落地指南 98 13 Anthropic OSS Scanner:免费AI漏洞扫描机制与中国开发者可借鉴的路径 95 14 手搓生产级 AI Agent 系统(28):MCP三层架构解析与集成选型 75 15 手搓生产级 AI Agent 系统(27):Gemini agent的企业集成机制与落地启示 71 16 MCP传输方式怎么选:stdio、HTTP/SSE与WebSocket机制对比 69 17 TypeScript AI 工具库如何支撑多前端框架应用 66 18 GitHub Copilot本地沙箱GA:Agent代码执行隔离机制与企业安全实践 65 19 RAG 向量库选型:本地开发与生产部署差在哪 64 20 从概念到可运行:AI Agent构建实战与工程问题排查 60