@OpenAIDevs
OpenAI Developers рассказал о масштабировании хранилища для обслуживания более 1,2 млрд пользователей в 40 регионах совместно с Azure Cosmos DB. Сочетание выборочной глобальной репликации, региональных кешей и переписывания сервисного слоя с Python на Rust сократило медианную задержку чтения примерно со 120 до 10 мс — в 12 раз. Это также уменьшило объём инфраструктуры, которой приходится управлять продуктовым командам.