Dynatrace lanza Observabilidad de IA para grandes modelos lingüísticos e Inteligencia Artificial generativa
Dynatrace (NYSE: DT), experto en observabilidad y seguridad unificada, anunció hoy que ha ampliado su plataforma de análisis y automatización para ofrecer observabilidad y seguridad integrales para grandes modelos lingüísticos (LLMs) y aplicaciones impulsadas por IA generativa. Esta mejora en la plataforma Dynatrace® permite a las organizaciones de todo el mundo adoptar IA generativa con confianza y de manera rentable, como parte de su enfoque en aumentar la innovación, la productividad y los ingresos.
Dynatrace® IA Observabilidad es una solución integral. Abarca de principio a fin la IA, incluida la infraestructura, como las GPU Nvidia®, modelos fundamentales como GPT4, caches semánticos y las bases de datos vectoriales como Weaviate, y marcos de orquestación como LangChain. También es compatible con las principales plataformas para construir, entrenar y entregar modelos de IA, como Microsoft® Azure OpenAI Service, Amazon® SageMaker y Google® AI Platform.
La Observabilidad IA de Dynatrace utiliza la inteligencia artificial Davis® (Davis IA) y otras tecnologías centrales para ofrecer una visión precisa y completa de las aplicaciones impulsadas por IA. Como resultado, las organizaciones pueden ofrecer excelentes experiencias de usuario mientras identifican automáticamente cuellos de botella de rendimiento y sus causas. La Observabilidad IA de Dynatrace con Davis IA también ayuda a cumplir con las normativas de privacidad y seguridad, y estándares de gobernanza, rastreando con precisión los orígenes de los resultados creados por sus aplicaciones. Además, pronostica y controla costos monitoreando el consumo de tokens, que son las unidades básicas que los modelos generative AI utilizan para procesar las consultas.
“La IA generativa y predictiva abrirá nuevas posibilidades para el negocio con nuestros servicios de ML y LLM, pero para implementarlos con éxito, debemos asegurarnos de que nuestros servicios que respaldan estas cargas de trabajo críticas sean confiables y funcionen bien”, dijo Ryan Berry, Vicepresidente Senior de Ingeniería y Arquitectura en OneStream. “Es por esto que confiamos en Dynatrace, líder en IA y observabilidad. Nuestros equipos utilizan Dynatrace para construir y optimizar aplicaciones de AI generativa, que funcionan bien y son rentables de gestionar e implementar a escala”.
Gartner® afirma: “Para 2028, la adopción de la IA culminará en más del 50% de los recursos informáticos en la nube dedicados a cargas de trabajo de IA, frente a menos del 10% en 2023”. Este crecimiento refleja parcialmente el creciente interés de las organizaciones por la IA generativa para mejorar la eficiencia y productividad, impulsar la automatización y fomentar la innovación. A pesar de esto, muchas organizaciones están preocupadas por los costos asociados a los servicios impulsados por la IA generativa. Estos pueden ser muchas veces más costosos que los servicios tradicionales en la nube y son difíciles de prever debido porque se basan en el consumo de tokens de IA generativa por parte de aplicaciones que aún no están en producción. Al mismo tiempo, los gobiernos en todo el mundo están estableciendo normativas centradas en el uso de tecnologías de IA de manera responsable y ética, y en cumplimiento de las leyes aplicables.
Las organizaciones no pueden permitirse ignorar el potencial de la IA generativa. Sin embargo, necesitan observabilidad de IA integral para ayudar a que sus inversiones en IA generativa tengan éxito y evitar el riesgo de comportamientos impredecibles, «alucinaciones» de IA y malas experiencias de usuario.
“La IA generativa es la nueva frontera de la transformación digital”, dijo Bernd Greifeneder, CTO de Dynatrace. “Esta tecnología permite a las organizaciones crear soluciones innovadoras que impulsan la productividad, la rentabilidad y la competitividad. Aunque es transformadora, también plantea nuevos desafíos para la seguridad, la transparencia, la confiabilidad, la experiencia y la gestión de costos. Las organizaciones necesitan una observabilidad de IA que abarque todos los aspectos de sus soluciones de IA generativa para superar estos desafíos. Dynatrace está ampliando su liderazgo en observabilidad e IA para satisfacer esta necesidad, ayudando a los clientes a adoptar la IA con confianza y seguridad, con una visión sin precedentes en sus aplicaciones impulsadas por IA generativa”.
“La transformación impulsada por la IA es un motor clave de productividad y competitividad para las organizaciones en todo el mundo”, dijo Ali Dalloul, VP de IA en Microsoft. “El servicio Microsoft Azure OpenAI es una sólida solución de IA generativa para empresas y entidades del sector público de todo el mundo. Nos complace asociarnos con Dynatrace, líder en observabilidad impulsada por IA, para capacitar a nuestros clientes compartidos, los equipos que impulsan la innovación en las organizaciones más grandes del mundo, a crear servicios basados en IA generativa utilizando Azure Open AI Service y Observabilidad de IA de Dynatrace. Esta poderosa combinación ayuda a garantizar que estos servicios alcancen los más altos estándares de seguridad, confiabilidad y rendimiento, al tiempo que permite a los equipos que los gestionan controlar los costos”. La Observabilidad IA de Dynatrace está disponible a partir de hoy para todos los clientes de Dynatrace. Visite el sitio web de Dynatrace para conocer la lista actual de tecnologías e integraciones compatibles con la Observabilidad IA de Dynatrace. Visite el blog de Observabilidad IA de Dynatrace para obtener más detalles sobre la solución.
