OpenAI 为超 10 亿 ChatGPT 用户扩展在线存储,读取速度提升 12×(第二篇)
OpenAI 发文介绍如何扩展其存储系统 Habitat,以服务超过 10 亿 ChatGPT 用户,官方称读取速度提升 12×。该篇为系列第二部分,核心手段包括可靠的多租户、全局缓存与 Azure Cosmos DB。原文见 https://openai.com/index/scaling-storage-one-billion-users-part-two
这是 OpenAI 面向超 10 亿用户的存储层工程改造,核心在读取性能与多租户可靠性,而非新模型或新功能。
- 影响对依赖 ChatGPT 承载业务的企业,平台读取性能与多租户稳定性直接关系服务可用性;多租户、全局缓存加 Azure Cosmos DB 的组合也可作为自建大规模存储的选型参考。
- 参考可考虑在自有场景复测 ChatGPT 读取响应后再决定对官方 12× 数字的采信程度;自建多租户存储的团队值得对比全局缓存与托管数据库的组合,先算清自身读写延迟与成本基线。