Por qué el almacenamiento de ChatGPT pasó de Python a Rust
Publicado: · Sergey Zhadov
ChatGPT no responde desde un ordenador mágico. Abrir un chat, iniciar sesión o consultar ajustes dispara muchas lecturas, así que una capa de datos lenta convierte enseguida todo el producto en un trasto pesado.
La escala empieza con pequeñas lecturas
Habitat sostiene productos usados cada semana por más de mil millones de personas en casi 40 regiones. Un acceso o un chat nuevo puede requerir enrutamiento, autorización y varias lecturas. Multiplica un retraso diminuto por ese tráfico y aparece un lío monumental.
La plataforma pasó de una biblioteca Python conectada a una base de datos a un sistema distribuido. La demanda creció más de diez veces interanualmente durante tres años. Ahí ya no servía añadir otra caché y esperar que el marrón desapareciera.
Por qué la biblioteca se volvió servicio
Cuando la lógica vivía en clientes, un cambio de rutas debía llegar a decenas de servicios. Un rollback podía recuperar un cliente viejo y su fallo. El servicio central creó un único lugar para despliegues, observabilidad, permisos y límites.
Es ingeniería aburrida, justo por eso funciona. Los equipos dejan de mantener copias distintas de lógica crítica y las aplicaciones no reciben acceso directo a cada recurso del almacenamiento.
Python tropezó con la latencia de cola
El servicio Python llegó a más de 20 millones de solicitudes por segundo. El problema más puñetero fue el retraso de planificación en asyncio, junto con tareas de CPU, trabajos en segundo plano y pools de conexiones desiguales. La media parecía buena mientras unas pocas respuestas lentas fastidiaban la experiencia.
Los ingenieros midieron el retraso del bucle, limitaron la concurrencia por proceso, añadieron variación a las renovaciones y ajustaron la reutilización de conexiones. Sin eso, un proceso saturado podía atraer más tráfico y cavar su propio agujero.
Rust fue el paso final, no magia
En el segundo trimestre de 2026, dos ingenieros usaron Codex y GPT-5.5 para reescribir el servicio en Rust. Ahora lleva el 95 por ciento del tráfico de producción y se declara seis veces más eficiente en CPU y quince veces en memoria.
Eso no significa que todo proyecto Python deba reescribirse mañana. Primero vuelve predecible la carga, añade telemetría útil y localiza el cuello real. Si no, solo replicas la misma mierda arquitectónica en un lenguaje más rápido.
