跳到正文
原文
IT之家·人工智能·· 17 天前AI 评分42

苹果 Minions 研究让闲置 Mac GPU 组队跑 AI 推理,排队超 10 小时的任务数分钟内可执行

苹果 Minions 研究:闲置 Mac GPU 组队,几分钟就能完成 10 小时 AI 任务

文章要点
  • 1苹果研究团队公布 Minions 系统,将闲置 Mac GPU 聚合成可动态调度的虚拟 GPU 云运行推理任务
  • 2论文披露的测试显示,此前因集中式 GPU 不足需排队超 10 小时的任务,在 Minions 下数分钟内开始执行
  • 3该方案定位为企业内部研究与工程而非消费产品,研究团队指跨部门用他人设备的数据保密是重要顾虑
  • 4系统由任务调度、元数据存储、设备端执行与故障监控四模块组成,采用拉取式任务模型避免重复处理
决策要点

苹果在验证把企业内闲置 Mac 算力组织成推理资源的可行性,实质是盘活存量硬件的降本思路,还不是可采购的产品。

  • 影响:对 Mac 保有量大的企业,闲置算力有替代部分集中式 GPU 支出与排队的空间;跨部门调用设备会带出数据保密与治理难题;目前定位企业内部方案,没有面向外部的产品形态。
  • 参考:可考虑先盘点公司 Mac 的数量、型号与空闲时段,估算可回收的算力规模;值得对照论文评估自家推理任务的排队成本,再决定是否搭建类似调度。
  • 依据:排队从超 10 小时缩至数分钟为苹果论文披露的测试口径,暂无独立验证;系统架构与数据治理顾虑均来自论文自述。
正文

IT之家 10 月 16 日消息,科技媒体 AppleInsider 昨日(10 月 15 日)发布博文,报道称苹果研究团队公布了一项名为 Minions 的系统研究,尝试聚合闲置 Mac GPU,形成一个可动态调度的“虚拟 GPU 云”,用于运行大规模机器学习推理任务。

IT之家援引博文介绍,传统 AI 推理通常依赖集中式 GPU 集群,面临成本高、扩容慢、排队时间长等问题;而 Mac 在日常办公、浏览和创作场景中,GPU 常常长期空闲。

苹果公司在论文中阐述了 Minions 方案,希望重新组织这些“看不见的算力”,在不额外采购 GPU 的情况下,让多台 Mac 协同完成 AI 任务。

根据论文概述,系统由四个关键部分组成:

  • Minion Server 负责接收任务、拆分子任务并协调调度;

  • PostgreSQL 元数据存储记录任务与设备状态;

  • 运行在各台 macOS 设备上的 Minion Executor 通过 Apple Silicon GPU 本地执行推理;

  • Minion Watchdog 则监控设备掉线、休眠或断电等情况,并把未完成任务重新分配给其他可用设备。

在技术实现上,Minions 采用“拉取式”任务模型:设备主动向服务器领取可执行的子任务,并通过原子化机制避免多台设备重复处理同一任务。推理结果可写入对象存储,系统还提供基于 Grafana 的实时监控面板,便于团队了解在线、忙碌和空闲设备数量。

苹果披露的测试结果显示,此前因集中式 GPU 资源不足而需排队超过 10 小时的部分推理任务,在 Minions 下可在数分钟内开始执行;团队无需新增 GPU 硬件,也降低了基础设施成本。

不过,这项技术目前更像是面向企业内部的研究与工程方案,而非面向普通消费者的正式产品。研究团队也指出,跨部门使用他人设备时,数据保密和治理是重要顾虑。

参考

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。

来源:IT之家·人工智能 · ithome.com