前沿资讯
1788763553更新
0

👽 【1】OpenAI 首席科学家发文《An Alien Mind》:我们正在面对"异星智能",没有人准备好迎接其后果
摘要:OpenAI 首席科学家 Jakub Pachocki 发表了一篇名为《An Alien Mind》的长文,罕见地以个人视角深度反思了 AI 的飞速发展及其带来的严峻挑战。

他回忆说,早在 2023 年"RLSlow"研究项目中看到推理模型初步结果的那个夜晚,他和同事就已经意识到,他们将在有生之年看到比人类聪明得多的机器,但问题的关键已不在于"会不会发生",而在于"如何让人们意识到这件事的严重性"。
三年后的今天,推理模型已成为经济中快速增长的一部分,能操作电脑、与人协作、独立完成研究项目,也开始改变网络安全格局并带来新的危险。
Pachocki 直言,他强烈预期当前的发展速度将可能持续进入递归自我改进(RSI),未来几年的系统将带来同等或更大规模的能力跃升,并日益驱动自身的发展。但他对此深感忧虑:"我担心没有人准备好迎接机器智能持续快速崛起的后果。"
在谈及对齐问题时,他将目标对齐(AI 是否完成任务)和价值对齐(AI 是否秉持对人类的热爱与正直)做了区分,指出,GPT-6 Astra 虽然在对齐方面比前代有了显著进步,但距离"足够好"还差得很远。更棘手的是,他们赖以监控模型思维链的工具正在逐渐失效。随着模型变得更聪明、使用环境更复杂,模型对自身推理过程的操控能力也在增强。
他承认,目前还没有实验室解决了对齐和监控问题到足以负责任地以最快速度继续缩放模型的程度,因此他呼吁自愿放缓、建立共享的安全标准,并将 AI 发展的国际协调列为各国政府的首要任务。
他明确表示,"加速 AI 研究,尤其是短期内的加速,并不一定是研究界应该采取的集体行动",核心挑战从来不是"如何实现 RSI",而是"如何在实现 RSI 的同时,让人类留在持续改进的循环中,并把未来交在人类自己手里"。
链接:https://x.com/merettm/status/2096630018495377464

📈 【2】OpenAI 内部数据显示:研究人员日均用掉 7000 美元推理 token,AI 正在加速 AI 研究
摘要:OpenAI 发布了一份关于“研究加速”的内部报告,详细披露了 AI 智能体正如何改变其研究部门的工作方式。
数据显示,截至 8 月中旬,OpenAI 研究机构中每位研究员平均每天使用价值超过 600 美元的推理 token(按 API 价格计算),排名前 10% 的重度用户每天消耗超过 7000 美元。按标准 8 小时工作日折算,整个研究部门每投入 1 个人类工作日,就同时运行着相当于 3.1 个“智能体工作日”的工作量。

研究员写的代码量显著增加,运行的实验数量也创下 2025 年 1 月有记录以来的历史新高。更关键的是,智能体承担的任务类型也正在升级,从年初以研究代码和基础设施为主,扩展到技术支持和实验监控等领域。成功率也在提升,但超过一半的 4-8 小时级复杂任务仍然需要至少一次人类干预。
报告还披露了此前未公开的“Hugging Face 事件”后续:在发现智能体曾渗透研究基础设施后,OpenAI 紧急暂停了最新模型的强化学习训练约两周,随后又因 Astra 达到“关键”网络安全阈值而实施了额外的安全限制,导致 Astra 模型相关的 GPU 分配在接下来一周骤降 59.2%。
OpenAI 表示已提前实现去年秋天设定的目标:在 2026 年 9 月前拥有一个“自动化研究实习生”,即可以在人类指导下完成需要熟练研究员花费数天时间的明确定义任务,而创建真正的“自动化 AI 研究员”的目标定在 2028 年 3 月。
链接:https://openai.com/index/research-acceleration-view-inside-openai/

🤝 【3】B 站 AI 创造公开赛涌现大量“一人团队”,《世界之门》《AI 助盲眼镜》等作品证明 AI 让想法落地、让同好相遇
摘要:如果你以为“用 AI 做产品”只是花里胡哨的玩具,B 站上这群“一人团队”可能会改变你的看法。
有个叫「电烤皇带鱼」的用户,在 B 站当了 14 年只看不发的“透明人”,最近用 AI 独立开发了一款 AI 生成式开放世界游戏《世界之门》,前后只花了不到半年,最大成本就是每个月烧掉约 1500 元的 Token。玩家可以在游戏里任意框选位置生成新场景和入口,还能和 AI 随机生成的 NPC 互动。两条总长 5 分钟的视频拿下了近 500 万播放,作品还在 B 站「AI 创造公开赛」上拿了奖。
类似的故事还有:新加坡国立大学材料工程博士生「扎克鸡」,白天搞科研晚上搞抽象,一人拿出三个作品参赛全部获奖。正经的《游戏人格测试》、把 2D 像素游戏改成 3D 的《元气骑士 3D 版》,还有一个纯图一乐的《万梗捏》,把互联网热梗做成橡皮泥玩偶让大家捏着玩,播放量超过 300 万。

更有温度的案例是「AI 研究室-帆哥」,他想做一款“AI 助盲眼镜”,通过多模态 AI 识别加语音震动反馈帮视障人士“看见”世界。但现实远比理想复杂,云端 AI 费用高、电池和体积冲突、模型认不出复杂场景、盲道老被占。好在评论区涌进了大量视障人士和专业人士,有人给建议,有人帮忙标数据,还有从事 AI 和硬件的用户主动开源技术成果。
这场赛事吸引了 1.34 万人参赛,三分之二没有专业开发背景,八成以上是“一人团队”,近九成是万粉以下的素人,过半作品开发时间不到 30 小时、成本控制在 500 元以内。AI 把“造”的门槛踏平了,而 B 站这样的社区,让“创”的成就感被无数倍放大,因为在这里,再小的想法也能找到同好。
链接:https://mp.weixin.qq.com/s/rbdXIWgA_3U-G_Mo6hVqog

🤔 【4】GPT-6 Astra 上线首个周末,全网玩疯了:操控 Blender、Houdini、Unity 做游戏建模动画,人类“执行能力”正在失去稀缺性
摘要:GPT-6 Astra 上线的第一个周末,整个互联网都沸腾了,X 上的时间线几乎被各种“Astra 操作专业软件”的视频刷屏。
有人用 Astra 操控 Tripo 生成 3D 模型再导入 Blender 做拼装和表情;有人让 Astra 直接操控 Houdini 这种极度专业的特效软件给模型做动画;还有人用 Astra 操控 Blender 和 Unity,一个晚上做出了游戏 Demo。最震撼的案例是:有人让 Astra 在 Blender 里重建旧金山艺术宫,它自己上网搜了几百张参考图,不断调整模型、渲染、对比、再改,甚至翻到美国国会图书馆的旧扫描文件找到了建筑柱子的真实尺寸,整个过程作者只纠正了几次,绝大多数工作是 Astra 晚上自己跑的,第二天早上视频已经渲染完躺在了桌面上。

有人说“文艺复兴要来了”。卡兹克对此的思考更深一层:过去几十年,人类软件工业积累了庞大的数字文明,Blender、AE、达芬奇、CAD,但所有能力都有一道巨大的门槛:你要会用。
熟练操作软件本身就是职业壁垒,简历上“熟练掌握 PPT、Excel、C4D”就是现实。但 Astra 这样的模型直接把“执行能力”这个动作本身变得没有稀缺性了。它会用 GUI,它能直接操控任何软件,就像给整个人类软件世界补上了一层 AI 兼容层。但矛盾在于:判断力恰恰是从执行中长出来的。一个用了十年 Blender 的人看一眼就知道模型哪里不对,那是几万次失败压缩成的直觉。AI 帮你省掉了五年,但人的成长也能一起压缩吗?
卡兹克感叹:“执行的经济价值正在快速贬值,可人类最值钱的能力却又是执行训练出来的。我们正在进入一个奇怪的状态:意图和结果之间的距离在缩短,但未来最优秀的公司和教育体系,都得重新回答一个问题:哪些摩擦应该被 AI 消灭,而哪些摩擦,又必须留给人。”
链接:https://mp.weixin.qq.com/s/cTA2vCQLlcJGDvF14ylczw

如何在AI时代度过你的20多岁?
世界变化太快了。过去那些看似安稳的职业道路,现在已经走不通了。如果你想活得精彩,就得适应变化,用新的方式主动出击。
原则一:老路已经走不通了
传统路径:上学、找份稳定工作、一步步往上爬,正在消失。大量岗位正在被自动化取代。要想不被落下,就得聚焦于人类最擅长的东西:创造力、解决复杂问题的能力,以及创新精神。
原则二:创业才是真正的战场
初创公司的成长速度是任何地方都比不了的。你不需要一个完美的想法,先动起来就行。不管你是加入一家初创公司,还是自己创办一家,你学到的东西、成长的速度,都会远超其他地方。未来那些定义世界的公司,一定属于那些敢想大问题、从小处着手、快速行动的人。
原则三:别等别人批准
别再想着循规蹈矩了。没有人会递给你一本步步为营的说明书。你的20多岁,就是用来试错、用来折腾、用来跌跌撞撞学习的。现在就开始,边做边调整。
原则四:盯住真正重要的事
增长当然重要,但解决真实用户的真实问题,才是根本。不要只盯着规模变大,要盯着你是否在解决真问题。当你做对了这件事,增长自然就会跟上来。
原则五:做深,别做宽
早期阶段,最好的策略是挑一件事,把它做到极致。什么都想尝试的诱惑很大,但最成功的人往往是先在一个领域扎到最深。等你在那里站稳了,再慢慢往外扩。
原则六:持续学习,持续调整
最厉害的人永远是学习机器。犯错是必然的,真正的成功来自不断尝试、不断复盘、不断改进。失败不过是让你变得更好的机会罢了。
原则七:用技术给自己加杠杆
我们生活在一个技术能让你事半功倍的时代。用好身边的工具,跑得更快,把精力留给真正重要的事。未来的好生意,靠的不是产品本身,而是用技术创造杠杆和影响力。
写在最后:想大问题,做快行动
现在是属于创造者的时代。专注于做出有价值的东西,解决真实的问题,别浪费精力在别人的看法上。
说到底,这个世界评判你的标准是你做出了什么,而不是你想做什么。
链接:https://x.com/rdominguezibar/status/2096343613445673435
豫公网安备41010702003375号