IT之家·人工智能·· 17 天前AI 评分43
谷歌布林称 AI 已开始参与打造下一代 Gemini 模型
谷歌布林重磅发声：AI 正开始“自己造自己”
文章要点
- 1谷歌联合创始人布林称 Gemini 模型已开始参与打造下一代模型，公司正踏上 RSI 跑步机
- 2谷歌在 Argon 安全报告中披露，AI 智能体已承担大部分生产代码编写和漏洞修复，提交前仍须人工审核
- 3Gladstone AI 本周报告称，受访的 Anthropic、OpenAI、DeepMind 多数研究员认为 RSI 或在 3 至 12 个月内开始
- 4有 AI 研究者警告，若缺乏足够防护机制，人类可能逐渐失去对快速自我改进技术的控制
决策要点
前沿实验室正把 AI 参与模型研发立为官方叙事，其中可核查的实质是 AI 已承担大部分代码编写且保留人工审核这道闸。
- 影响：软件团队有了头部实验室的落地参照，即 AI 生成加人工审核的组合；供应商若以自改进为卖点，宣传与可核查披露的差距会拉大；安全警告提示自动生成代码的审查机制不宜省。
- 参考：可考虑先盘点自身研发流程里哪些环节已用 AI 生成代码、审核卡点设在哪里；对厂商讲 RSI 或自改进故事时，值得要求对方拿出类似谷歌安全报告的可核查披露再评估。
- 依据：布林言论转述自 Business Insider 的圆桌报道，Argon 自动化细节来自谷歌安全报告官方口径，暂无独立验证；3 至 12 个月为 Gladstone AI 受访研究员观点。
正文
IT之家 10 月 16 日消息，科技媒体 Business Insider 昨日（10 月 15 日）发布博文，报道称谷歌联合创始人谢尔盖 · 布林（Sergey Brin）表示，Gemini 模型正迈向“自我改进”的关键时刻。
在围绕着新模型 Gemini 4 Argon 举行的圆桌讨论中，布林表示 AI 已经开始参与打造自己的下一代模型，谷歌此前推出的 Flash 系列模型已经显示出这一趋势，公司正“开始踏上 RSI 的跑步机”。
IT之家注：RSI 全称为 Recursive Self-Improvement，直译为“递归自我改进”，即 AI 帮助构建更强的 AI，进而形成加速迭代的“飞轮效应”。
谷歌在 Argon 的安全报告中披露，AI 研发流程的部分环节已实现自动化：AI 智能体现在可承担大部分生产代码编写和漏洞修复工作，但代码变更在提交前仍须经过人工审核。
这一判断并非谷歌独有。Anthropic 与 OpenAI 也曾表示，AI 可能正接近 RSI 阶段。Gladstone AI 本周发布的报告称，受访的多数来自 Anthropic、OpenAI 和 DeepMind 等机构的研究人员认为，RSI 可能在未来 3 至 12 个月内开始。
不过，RSI 也引发安全担忧。此前有 AI 研究者警告，如果缺乏足够防护机制，人类可能逐渐失去对快速自我改进技术的控制。
来源：IT之家·人工智能 · ithome.com