OpenAI использует PostgreSQL для ChatGPT без шардирования

OpenAI опубликовала технический блог, в котором раскрывает, как PostgreSQL управляет ChatGPT, сервисом, имеющим 800-900 миллионов активных пользователей каждую неделю. Удивительным фактом стало то, что для этого не используется шардирование: архитектура включает один основной сервер и около 50 реплик для чтения. Инженер OpenAI Бохан Чжан представил подробности на конференции PGConf.Dev 2025. Кластер обрабатывает свыше миллиона запросов в секунду, обеспечивая отклик в низкие двузначные миллисекунды на 99-м перцентиле. Все это достигается на стандартном PostgreSQL, без кастомных изменений, лишь с правильной настройкой пулинга соединений, оптимизацией запросов и индексацией. Основной проблемой остается запись данных, так как все операции идут на единственный сервер, что требует серьезной оптимизации. Чтение же проще масштабируется, так как реплики распределены по регионам, и трафик делится по приоритетам. За последние девять месяцев произошел только один серьезный инцидент, связанный с PostgreSQL. Такой подход OpenAI отличается от общей тенденции к распределенным базам данных, поскольку компания решила, что для нагрузки ChatGPT, основывающейся на чтении, эффективнее использовать один кластер.

Понравилась статья? Поделиться с друзьями: