Akamai Cloud Inference impulsa la IA a escala global
La solución de la empresa de ciberseguridad para acelerar la Inteligencia Artificial a escala global, reduce la latencia y optimiza los costos mediante su infraestructura distribuida.
Akamai, empresa mundial en ciberseguridad y computación en la nube, ha dado un paso significativo en el campo de la Inteligencia Artificial (IA) con el lanzamiento de su la solución Akamai Cloud Inference, diseñada para democratizar la adopción de la IA a nivel global, superando las limitaciones de los modelos tradicionales basados en la nube.
Los modelos de IA existentes a menudo se enfrentan a desafíos relacionados con el rendimiento, la latencia y los costos. Akamai Cloud Inference aborda estas barreras al llevar el procesamiento más cerca de los usuarios y dispositivos finales, aprovechando la infraestructura global de Akamai, que cuenta con la red más distribuida del mundo.
La plataforma se basa en un enfoque inteligente que optimiza el rendimiento y reduce la latencia, permitiendo a las empresas mejorar hasta en tres veces la velocidad de sus aplicaciones de IA. La ejecución de modelos predictivos y grandes lenguajes (LLMs) se vuelve más rápida y eficiente.
La solución ofrece a las empresas 300% de aumento en el rendimiento de la inferencia de IA.; 250% de reducción en la latencia para tareas de inferencia; 86% de ahorro en las inferencias de IA en comparación con infraestructuras tradicionales; adaptabilidad a diferentes necesidades de computación; una mejora del rendimiento de la inferencia en las GPUs de Nvidia.
Akamai Cloud Inference se caracteriza por:
- Computación flexible. CPUs, GPUs, ASICs personalizados para adaptarse a diversas necesidades de IA.
- Almacenamiento escalable. Integración con proveedores de bases de datos como Aiven y Milvus para gestionar grandes volúmenes de datos críticos en aplicaciones de IA.
- Gestión eficiente de cargas de trabajo. Herramientas como Kubernetes para mejorar el rendimiento, la seguridad y la gestión eficaz de proyectos a gran escala.
- Ejecución directa desde aplicaciones sin servidor. Capacidad de ejecutar inferencias mediante WebAssembly (WASM) directamente desde aplicaciones sin servidor, mejorando la velocidad y la latencia en las aplicaciones.
