Con la creciente prevalencia de aplicaciones de inteligencia artificial generativa (IA), mantener principios responsables de IA se vuelve esencial. Sin las salvaguardas adecuadas, los modelos de lenguaje grandes (LLMs) pueden generar contenido dañino, sesgado o inapropiado, lo cual representa riesgos para individuos y organizaciones. La aplicación de guardrails ayuda a mitigar estos riesgos al imponer políticas y directrices que se alinean con principios éticos y requisitos legales. Los Guardrails para Amazon Bedrock evalúan entradas de usuario y respuestas de modelos basados en políticas específicas de uso, proporcionando una capa adicional de salvaguardas sin importar el modelo subyacente. Además, estos guardrails pueden aplicarse a todos los LLM en Amazon Bedrock, incluyendo modelos afinados y aplicaciones de IA generativa fuera de esta plataforma. El nuevo API ApplyGuardrail permite evaluar cualquier texto usando guardrails preconfigurados en Amazon Bedrock, sin invocar los FMs. Esto se demuestra con inputs de largo contexto y salidas en streaming. La API, fácil de usar y desacoplada de los FMs, puede integrarse en cualquier flujo de aplicación para validar datos antes de procesar o servir resultados a los usuarios, lo que es útil en aplicaciones como la Generación Aumentada por Recuperación (RAG).
La API ofrece funciones clave como facilidad de uso y desacoplamiento de los FMs, permitiendo su uso con modelos alojados en Amazon SageMaker o incluso autohospe...