Cómo construir aplicaciones de IA agéntica escalables para empresas

¿Cómo construir aplicaciones de IA agéntica escalables para empresas?

El panorama tecnológico de la automatización ha evolucionado desde la automatización basada en reglas hasta el aprendizaje automático, la IA generativa y, finalmente, la Agentic AI. Esta última ha surgido como una de las tecnologías de vanguardia que pueden ayudar a las empresas a lograr avances y obtener valor en toda la cadena de valor organizacional. A medida que avanzamos desde agentes individuales hacia sistemas multi-agente, las organizaciones pueden realizar flujos de trabajo mucho más complejos de manera rápida y eficiente.


Lo que distingue a la Agentic AI es su capacidad para realizar tareas complejas de varios pasos de forma autónoma. Esta tendencia es importante porque remodelará la forma en que se realiza el trabajo, y las organizaciones deben adaptarse a un futuro en el que sus empleados deban trabajar con agentes de IA como sus compañeros de trabajo. Al igual que con cualquier arquitectura de tecnología emergente, la Agentic AI plantea desafíos únicos para los equipos de ingeniería en la construcción, escalado y mantenimiento.


Este artículo describe un enfoque centrado en la plataforma para construir e implementar aplicaciones agénticas a escala, basado en la experiencia de trabajar con profesionales en varias empresas de Fortune 500.


Componentes centrales de los casos de uso de IA agéntica


La mayoría de los casos de uso de Agentic AI tienen al menos cuatro componentes centrales que deben unirse:


  1. 1. Prompts: Establecen el objetivo o la funcionalidad central para el flujo de trabajo que se espera que el agente cumpla.
  2. 2. Servidores MCP: El protocolo emergente que conecta los agentes de IA a fuentes de datos o servicios externos.
  3. 3. Modelos: Se utilizan para funciones específicas y podrían ser un LLM o un modelo ajustado.
  4. 4. Agentes: Diferentes tipos de agentes, como agentes reactivos, un agente deliberativo, un agente de aprendizaje o un agente autónomo.

Desafíos en los componentes centrales


Los equipos de ingeniería que construyen aplicaciones agénticas experimentan un esfuerzo y tiempo significativos para escalar, soportar y mantener estos componentes debido a varios factores:


  • 1. Prompts:
    • Falta de control de versiones
    • Ausencia de pruebas estandarizadas
    • Portabilidad entre modelos
  • 2. Modelos:
    • Complejidad del auto-hospedaje
    • Alta latencia y costos
    • Complejidad en el escalado de la infraestructura para el ajuste fino
    • Riesgo de dependencia del proveedor
    • Punto único de falla si depende de un único proveedor de modelos
  • 3. Herramientas:
    • Alojamiento y descubrimiento de servidores MCP
    • Proliferación de herramientas personalizadas
    • Controles de acceso y políticas débiles
    • Falta de soporte multi-modelo
    • Estándares de observabilidad inconsistentes
  • 4. Agentes:
    • Desafíos de depuración
    • Alojamiento: backend, memoria, frontend, planificador, etc.
    • Problemas de manejo de estado/memoria
    • Brechas de seguridad

La lista anterior destaca las consideraciones al implementar IA Agéntica a escala, para equilibrar los costos, el rendimiento, la escalabilidad, la resiliencia y la seguridad.


Un enfoque de plataforma para abordar estos desafíos


A medida que la IA y las aplicaciones de IA agéntica se convierten en una capacidad fundamental para las empresas, deben tratarse como sistemas de misión crítica. Los líderes de ingeniería de IA dentro de las empresas están comenzando a unir estos componentes utilizando un enfoque de plataforma con una pasarela LLM (también conocida como una pasarela de IA) que actúa como el panel de control central para orquestar sus cargas de trabajo en modelos, servidores MCP y agentes. Además, una pasarela LLM ayuda a implementar protecciones, proporciona observabilidad, actúa como un enrutador de modelos, reduce los costos y ofrece una serie de otros beneficios.


En otras palabras, una pasarela LLM ayuda a aumentar la resiliencia y la escalabilidad al tiempo que reduce los costos. Dado que la mayoría de las empresas se están moviendo hacia un panorama multi-modelo, las pasarelas LLM desempeñarán un papel fundamental en el aumento de la confiabilidad, la mitigación de riesgos y la optimización de los costos, según los analistas y expertos de la industria.


Un informe reciente de Gartner titulado 'Optimice los costos y la confiabilidad de la IA utilizando pasarelas de IA y enrutadores de modelos' resume la tendencia de la siguiente manera: “El desafío central de escalar las aplicaciones de IA es la constante compensación entre costo y rendimiento. Para construir aplicaciones de IA de alto rendimiento pero optimizadas para el costo, los líderes de ingeniería de software deben invertir en pasarelas de IA y capacidades de enrutamiento de modelos.”


Expertos de la industria como Anuraag Gutgutia, COO de Truefoundry, (una compañía de plataforma de IA), dicen: “Las organizaciones, particularmente las que operan en un entorno altamente regulado, deben darse cuenta de que la ausencia de tal plataforma las expone a varios riesgos en todas las capas. La falta de una pasarela LLM robusta y una plataforma de implementación en el primer día tiene un impacto significativo en la velocidad, la mitigación de riesgos, los costos y la escalabilidad.”


Por ejemplo, existe el riesgo de fuga de PII externamente si no se implementan protecciones. Las actualizaciones de modelos podrían llevar semanas sin las API unificadas de una pasarela LLM. La implementación de cada uno de los componentes podría estar rota o aislada, causando retrasos y reelaboración sin una capacidad de plataforma de implementación.


Características de una pasarela LLM


Una pasarela LLM, en su forma básica, es un componente de middleware que se encuentra entre las aplicaciones de IA y varios proveedores de modelos fundamentales. Actúa como un punto de entrada unificado, al igual que una pasarela API que enruta el tráfico entre el solicitante y los servicios de backend. Sin embargo, una pasarela LLM bien arquitectada ofrece muchas más funciones al abstraer la complejidad, estandarizar el acceso a múltiples modelos y servidores MCP, aplicar la gobernanza y optimizar la eficiencia operativa. El soporte para servidores MCP permite a los agentes de IA descubrir, autenticar e invocar consistentemente herramientas y funcionalidades empresariales.


Consideraciones arquitectónicas clave y beneficios


Las consideraciones arquitectónicas clave para una pasarela de primera clase deben ser la alta disponibilidad, la baja latencia, el alto rendimiento y la escalabilidad.


Una plataforma de implementación con una pasarela LLM central puede proporcionar varios beneficios a la empresa, tales como:


  • Acceso unificado al modelo: Un único punto final para acceder a múltiples LLM: de código abierto o de código cerrado, alojados en las instalaciones o con un hiperescalador.

  • Enrutamiento y respaldo: La pasarela puede enrutar las cargas de trabajo en función de la latencia, el costo y las regiones, y puede reintentar automáticamente, proporcionando así la resiliencia necesaria.

  • Limitación de velocidad: La pasarela puede controlar el recuento de solicitudes, los tokens por equipo por modelo, etc.

  • Protecciones: Esta es una de las características más importantes de una pasarela: la aplicación de protecciones como el filtrado de PII, la protección contra la toxicidad y las fugas de la cárcel, etc.

  • Observabilidad y seguimiento: La pasarela puede implementar funciones que registren prompts completos, recuentos de solicitudes de usuarios, latencia, tiempo de respuesta, etc. Esto será fundamental para el dimensionamiento y la escalabilidad.

  • Integración de MCP y herramientas: La pasarela permite el descubrimiento y la invocación de herramientas empresariales como Jira, herramientas de colaboración, etc.

  • Soporte del protocolo A2A: El soporte del protocolo de agente a agente permite a los agentes descubrir las capacidades de los demás, intercambiar mensajes, negociar la delegación de tareas, etc.

  • Flexibilidad de implementación: Una plataforma de pasarela bien diseñada admite implementaciones sin problemas en la nube local, la nube pública y admite modelos híbridos, ofreciendo un gran grado de flexibilidad.

  • Entorno de pruebas para desarrolladores: La capacidad de la pasarela debe incluir un entorno de pruebas para desarrolladores que permita a los desarrolladores prototipar prompts y probar flujos de trabajo de agentes. Esto ayuda con la experimentación, así como con una ruta más rápida desde el desarrollo hasta la producción.

  • Otras características avanzadas: Las plataformas de pasarela también ofrecen capacidades como las pruebas canarias, el procesamiento por lotes, el ajuste fino y las pruebas de tuberías.

Estas capacidades ayudan a las empresas no solo a abordar los desafíos de construir e implementar aplicaciones de IA agéntica a escala, sino también a mantener y mantener la infraestructura actualizada.


Es hora de un enfoque arquitectónico maduro


La IA agéntica está redefiniendo el panorama de la automatización dentro de las empresas. Sin embargo, el diseño y el mantenimiento de estos sistemas plantean desafíos y complejidades multidimensionales como se describe anteriormente. Un enfoque arquitectónico maduro que incluya un enfoque basado en plataforma desde el primer día ayuda en gran medida a evitar los escollos y garantizar la escalabilidad y la seguridad. Una pasarela LLM bien arquitectada es un componente de infraestructura fundamental que ayuda con la orquestación, la gobernanza, el control de costos y el cumplimiento de la seguridad.


En agentic-ai.es, estamos a la vanguardia de esta revolución, desarrollando soluciones de agentes autónomos a medida para empresas de todos los tamaños. Contáctanos para descubrir cómo podemos ayudarte a llevar tus herramientas corporativas al siguiente nivel.