AI Changed Data Architecture, But Storage Hasn't Caught Up

Storage hasn't kept pace with AI. Learn how to fix data fragmentation and slow access with Hammerspace's global namespace and Tier 0.

martes, 28 de julio de 2026 • 6 min read • Q2BSTUDIO Team

Cómo resolver el cuello de botella del acceso a datos en IA

La inteligencia artificial ha transformado la forma en que las empresas procesan y analizan datos, pero la infraestructura de almacenamiento no ha evolucionado al mismo ritmo. Durante años, el cuello de botella en los proyectos de IA era la capacidad de almacenamiento: se necesitaban discos más grandes, más rápidos y más baratos. Hoy, sin embargo, el desafío es completamente diferente. La verdadera limitación no es cuánto datos puedes guardar, sino dónde están esos datos y cómo accedes a ellos desde tus cargas de trabajo de IA. Esta desconexión entre la potencia de cómputo y la ubicación de los datos está frenando innumerables iniciativas.

En la práctica, las GPUs más avanzadas pueden mostrar una utilización del 70% en los paneles de control, pero ese porcentaje oculta una realidad incómoda: gran parte del tiempo, esos aceleradores de 40.000 dólares están ociosos, esperando que un archivo llegue desde un servidor NAS que está a tres saltos de red. La cola de cómputo está vacía, el pipeline está bien, pero los datos simplemente están en otro lugar. Esto es la verdad incómoda que subyace a la mayoría de los proyectos de IA estancados.

La inteligencia artificial exige que los datos estén cerca del cómputo, pero la arquitectura tradicional de almacenamiento fue diseñada para un mundo diferente. Los sistemas de archivos distribuidos, los NAS empresariales y los almacenes de objetos fueron concebidos para entornos donde la latencia no era crítica. Ahora, cada milisegundo cuenta. Cada copia innecesaria de datos entre sistemas añade un coste en tiempo y recursos que se traduce directamente en proyectos retrasados y presupuestos desbordados.

El problema fundamental es la fragmentación de los datos. En la mayoría de las organizaciones, los conjuntos de entrenamiento están dispersos entre departamentos, sedes y nubes. Los datos residen en silos que nunca fueron diseñados para comunicarse entre sí. Para preparar un dataset de entrenamiento, los equipos deben recopilar, mover y curar datos manualmente. Este proceso de copias y etapas, que apenas se refleja en los gráficos de IOPS, tiene un impacto visible en la velocidad de entrenamiento. Según Gartner, el 57% de las organizaciones considera que sus datos no están preparados para IA. Incluso dos tercios de los ejecutivos admiten que nadie en su organización comprende todos los datos recopilados y cómo acceder a ellos.

La respuesta típica de los proveedores de almacenamiento ha sido ofrecer una solución propietaria que promete resolver el problema si se reemplaza todo el hardware existente. Pero eso es como tirar al bebé con el agua del baño. Los datos valiosos ya están en esos arrays heredados. Lo que se necesita no es un nuevo silo, sino una capa de orquestación que entienda dónde están los datos y cómo deben fluir hacia las GPUs sin necesidad de moverlos constantemente.

Ahí es donde entra en juego una nueva forma de pensar la arquitectura de datos: un plano de control que separa la capa de datos de la infraestructura subyacente, permitiendo que almacenes heterogéneos, sitios y nubes operen como parte de un mismo entorno coordinado. Esta aproximación, que denominamos 'orquestación de datos', es la que permite que los pipelines de IA accedan a los datos a través de protocolos estándar (NFS, SMB, S3) sin necesidad de clientes propietarios ni reescritura de aplicaciones.

Un aspecto clave que se pasa por alto es el almacenamiento NVMe que ya está dentro de los servidores GPU. La mayoría de los servidores modernos incluyen entre ocho y dieciséis unidades NVMe, cada una conectada a cuatro líneas PCIe. Sin embargo, la mayoría de las capas de orquestación tratan ese espacio como almacenamiento temporal local, utilizado por un único servidor e invisible para el resto del clúster. Esto es capacidad 'varada', y ya es significativa: cientos de terabytes por servidor, con servidores de dos petabytes en el horizonte. Si se integra todo ese almacenamiento en un espacio de nombres compartido, se obtiene una nueva capa que es estructuralmente más rápida que cualquier appliance externo, porque está directamente conectada a la red y al cómputo que ya tienes.

Aprovechar esa capacidad varada no solo mejora el rendimiento, sino que también reduce costes. En lugar de comprar nuevos arrays all-flash, se pueden utilizar los discos que ya están en la factura de materiales de los servidores GPU. La inversión adicional se limita a añadir servidores de metadatos y algunos agentes de movimiento de datos, lo que apenas supone un evento de aprovisionamiento comparado con el coste de rackear y apilar un sistema de almacenamiento dedicado.

Además, la asimilación de la infraestructura existente es clave. No se trata de reemplazar, sino de integrar. Escaneando los NAS actuales, ingiriendo el árbol de directorios en un espacio de nombres global y redirigiendo los montajes, los bytes nunca se mueven. El acceso a los datos se restaura casi de inmediato, mientras la asimilación continúa en segundo plano. Esto permite que políticas automatizadas (objetivos) decidan cuándo copiar un archivo de un nivel frío a un nivel caliente sin intervención humana.

Esta orquestación también es fundamental para flujos de trabajo avanzados como la generación aumentada por recuperación (RAG), la inferencia y los agentes de IA, donde los datos empresariales distribuidos necesitan ser curados, gobernados y accesibles sin depender de copias masivas. Una vez que el trabajo de entrenamiento termina, la copia en el nivel caliente se libera automáticamente, evitando problemas de calidad de servicio.

Desde una perspectiva técnica, es posible lograr un rendimiento a escala de IA utilizando infraestructura estándar y abierta. No es necesario adoptar stacks propietarios. Por ejemplo, se pueden alcanzar velocidades de 420,8 GB/s en 140 GPUs con una utilización superior al 96% usando NFSv4.2 paralelo (pNFS) y extensiones como Flex Files. Esto demuestra que un sistema de archivos estándar de décadas puede transformarse en un sistema de acceso paralelo que compite con soluciones como WEKA, Lustre o GPFS.

La gobernanza de datos también se simplifica. Cuando un único espacio de nombres global abarca arrays on-prem, almacenes de objetos en la nube y NVMe locales, las políticas jurisdiccionales (por ejemplo, datos que solo pueden residir en la UE) se aplican a nivel de datos, no a nivel de silo. Esto es cada vez más relevante a medida que los pipelines de IA operan en infraestructuras distribuidas.

En Q2BSTUDIO, entendemos que la transformación digital no se limita a implantar IA, sino a rediseñar la forma en que los datos fluyen dentro de la organización. Por eso ofrecemos servicios de desarrollo de aplicaciones a medida que integran estas arquitecturas de datos modernas, junto con soluciones de inteligencia artificial que aprovechan al máximo la infraestructura existente. Nuestro equipo también implementa entornos cloud en AWS y Azure, y aplica principios de ciberseguridad para proteger los datos en movimiento. Con Power BI y agentes de IA, ayudamos a las empresas a visualizar y automatizar sus pipelines de datos.

En conclusión, la IA ha cambiado la arquitectura de datos, pero el almacenamiento no ha seguido el ritmo. La solución no está en comprar más hardware, sino en orquestar de manera inteligente lo que ya se tiene. La capacidad de ver, mover y gestionar datos de forma dinámica, sin copias innecesarias, es lo que separa a los proyectos de IA exitosos de los que se quedan atascados. El futuro de la infraestructura de IA no es cuestión de capacidad, sino de acceso y colocación.

A BREAK?

Play for a moment before you go

OUR SERVICES

How we can help you

Do you have a project in mind?

Tell us your vision and we'll turn it into a software solution. Whatever the scope, we make your idea real.