 |
|
|
Intel compartió detalles sobre su colaboración con el Comité Olímpico Internacional (COI) y sobre una innovadora solución de IA generativa (GenAI) para la generación aumentada por recuperación (RAG, por sus siglas en inglés), demostrando cómo los sistemas y plataformas abiertos de IA que utilizan los aceleradores de IA Intel Gaudi y los procesadores Intel Xeon ponen el poder en manos de desarrolladores y empresas para afrontar los retos creados por el auge de la IA.
“A través de nuestra colaboración con el Comité Olímpico Internacional, estamos demostrando nuestra dedicación para hacer accesible la IA. Estamos fomentando un campo de juego abierto que alienta la innovación, la creatividad y permite a los desarrolladores y a las empresas crear soluciones de IA a medida que generen resultados tangibles. Al adoptar un ecosistema abierto y colaborativo, Intel está transformando las formas de ayudar a nuestros atletas y ampliando los límites de lo que es posible con nuestros clientes”, indicó Justin Hotard, vicepresidente ejecutivo de Intel y director general de Data Center y Artificial Intelligence Group.
Para ayudar a unos 11.000 atletas de diferentes idiomas y culturas a desplazarse por las instalaciones y cumplir las normas y directrices de los Juegos Olímpico, el COI colaboró con Intel para desarrollar un chatbot, Athlete365. Una solución RAG impulsada por aceleradores Intel Gaudi y procesadores Xeon, Athlete365 es capaz de gestionar las consultas e interacciones de los atletas y proporcionar información a petición durante la estancia de los atletas en la Villa Olímpica de París, permitiéndoles centrarse en el entrenamiento y la competición.
La implementación de soluciones GenAI presenta desafíos como el costo, la escala, la precisión, los requisitos de desarrollo, la privacidad y la seguridad. RAG es una carga de trabajo crucial de GenAI porque permite a las empresas aprovechar los datos propios de manera segura, mejorando la puntualidad y la fiabilidad de los resultados de la IA. Esto mejora la calidad y la utilidad de las aplicaciones de IA, lo cual es crítico en el mundo impulsado por datos de hoy en día.
El enfoque colaborativo de Intel, que utiliza plataformas de IA, estándares abiertos y un ecosistema sólido de software y sistemas, permite a los desarrolladores crear soluciones personalizadas de GenAI RAG adaptadas a las necesidades de cada empresa. El impulso compartido hoy subraya el compromiso de Intel por proporcionar soluciones de IA generativa abiertas, robustas y compuestas con múltiples proveedores.
Intel trabaja con socios de la industria para crear una solución de código abierto e interoperable que facilite el despliegue de RAG. La solución GenAI es una solución RAG lista para producción, impulsada por la industria y lista para usar, construida sobre la base de la Plataforma Abierta para IA Empresarial (OPEA, por sus siglas en inglés). Aunque la solución integral GenAI ofrece un enfoque simplificado para desplegar soluciones RAG en los centros de datos de las empresas, está diseñada para ser altamente flexible y personalizable, integrando componentes de un catálogo de ofertas de múltiples sistemas OEM y socios de la industria.
Esta solución integra componentes de microservicios basados en OPEA en una solución RAG escalable diseñada para desplegar sistemas de IA Xeon y Gaudi. Se escala de manera fluida con marcos de coordinación probados como Kubernetes y Red Hat OpenShift, y proporciona API estandarizadas con seguridad y telemetría del sistema.
Casi todo el desarrollo de grandes modelos de lenguaje (LLM, por sus siglas en inglés) se basa en el marco de abstracción alta PyTorch, que es compatible con las tecnologías Intel Gaudi y Xeon, lo que facilita el desarrollo en sistemas o plataformas de IA de Intel. Intel ha trabajado con OPEA para desarrollar una pila de software abierta para el despliegue de RAG y LLM optimizada para la solución integrada GenAI y construida con PyTorch, las bibliotecas de servicio de Hugging Face (TGI y TEI), LangChain y la base de datos vectorial Redis.
OPEA ofrece pipelines RAG modulares, heterogéneos, estandarizados y de código abierto para empresas, enfocándose en el desarrollo de modelos abiertos y el soporte para varios compiladores y toolchains. Esta base acelera la integración y entrega de IA en contenedores para casos de uso verticales únicos. OPEA desbloquea nuevas posibilidades de IA al crear un marco detallado y compuesto que se sitúa a la vanguardia de las pilas tecnológicas.
Con la solución integral GenAI y la completa gama de IA empresarial, Intel ofrece una solución integral que aborda los desafíos de desplegar y escalar aplicaciones RAG y LLM dentro de empresas y centros de datos. Aprovechando los sistemas o plataformas de IA impulsados por Intel y el software optimizado en OPEA, las empresas pueden aprovechar todo el potencial de GenAI con mayor eficiencia y rapidez.
|
