¿Debería desarrollar o comprar agentes de riesgo de IA? Un test de preparación de 10 preguntas

Crear frente a comprar agentes de riesgo de IA

La duda entre crear o comprar agentes de riesgo de IA suele surgir con el segundo agente, no con el primero. El primer agente demuestra que un modelo puede realizar una tarea. El segundo plantea la base sobre la que se sostienen ambos agentes: memoria compartida, evaluación, auditoría y la capacidad de cambiar las políticas sin necesidad de un lanzamiento de ingeniería. 

Las diez preguntas siguientes muestran qué camino está siguiendo ya su institución. Para cada una, anote la opción que más se aproxime a su situación.

Existen tres caminos para los agentes de riesgo de IA: crearlos internamente, comprar agentes independientes o adoptar una plataforma compartida sobre la que puedan funcionar varios agentes. Cada opción se adapta a distintas instituciones. La elección correcta depende de cuántos agentes vaya a incorporar, sobre qué base funcionarán, qué está dispuesto a gestionar y qué tendrá que demostrar ante un auditor.

Resumen rápido

• Lo que diferencia a las tres vías es la capa que subyace a los agentes: memoria compartida, evaluación, auditoría y quién puede cambiar las políticas sin un lanzamiento de ingeniería.

• La decisión suele llegar con el segundo agente, cuando el trabajo de integración y evaluación realizado para el primero no se puede aprovechar.

• Crear internamente es ideal para un alcance definido, datos patentados que los proveedores no puedan gestionar bien y una capacidad de plataforma financiada que no se cuestione cada trimestre.

• Los agentes independientes se adaptan a un único flujo de trabajo específico que resulte problemático en el presente, cuando el plan de trabajo aún no apunta hacia una segunda función.

• Una plataforma compartida es idónea para tres o más funciones que requieran agentes, datos fragmentados y un equipo de riesgos que necesite cambiar las políticas en cuestión de días.

Evaluación de preparación: diez preguntas antes de crear o comprar agentes de riesgo de IA

Realice el cuestionario interactivo para evaluar su nivel de preparación.

Qué hacer con sus respuestas

Las respuestas que acaba de dar describen una decisión de arquitectura, independientemente de si alguien en su institución lo ha planteado ya de esa manera. Responder a estas diez preguntas una vez, antes del segundo agente, cuesta menos que responderlas de nuevo para cada agente posterior.

Hable con nuestro equipo sobre una prueba de concepto en uno de sus propios flujos de trabajo, tomando como referencia a sus propios revisores.

Descargue la guía de campo completa.

Profundice más con el libro electrónico completo sobre Crear frente a Comprar.

RECURSO GRATUITO

Preguntas frecuentes

¿Es más barato crear agentes de riesgo de IA de forma interna?

El coste visible de la creación es la inferencia, que es la partida más pequeña. El coste continuo es el del personal que mantiene los conectores a medida que cambian los sistemas de origen, realiza evaluaciones, supervisa las desviaciones, genera la documentación de riesgo del modelo y está disponible cuando el ingeniero que creó el agente cambia de equipo. Valore el coste del compromiso completo con su propio personal antes de compararlo con el presupuesto de un proveedor.

¿Siguen los humanos teniendo el control de las decisiones de los agentes de riesgo de IA?

Sí, en cualquier implantación diseñada para un programa regulado. El agente recopila pruebas, aplica la política y genera una recomendación junto con su justificación. Una persona revisa esa recomendación, toma la decisión final y la firma.

¿Pueden los auditores examinar las decisiones de un agente de IA?

Solo si la decisión se puede reconstruir a posteriori. Esto significa que los datos que vio el agente, las pruebas que recopiló, la versión de la política que aplicó, la versión del modelo que generó el resultado y el revisor que lo confirmó deben poder recuperarse mucho tiempo después de que se cierre el caso. La reconstrucción depende de la capa sobre la que se ejecuta el agente, por lo que conviene resolver esto antes de la primera implementación y no después.

¿Tenemos que sustituir nuestros sistemas actuales de supervisión y gestión de casos?

No. Los agentes pueden ejecutarse sobre los sistemas que ya tiene, leyendo de ellos y registrando las decisiones. Las instituciones que acaban unificando sistemas suelen hacerlo por elección propia, no porque un agente las obligue a ello.

¿Cuál es la diferencia entre un agente de IA independiente y una plataforma de agentes?

Un agente independiente gestiona un único flujo de trabajo y cuenta con su propia memoria, evaluación e historial de auditoría. Una plataforma de agentes proporciona estos elementos de forma subyacente, de modo que varios agentes comparten el contexto, los resultados pueden pasarse de un flujo de trabajo a otro y un único conjunto de controles los cubre a todos. La diferencia se hace evidente en el segundo agente, no en el primero.

¿Cuándo es la decisión correcta crear agentes de riesgo de IA de forma interna?

Crear de forma interna está justificado cuando el alcance se limita realmente a un flujo de trabajo, cuando se dispone de datos patentados o de un flujo de trabajo que ningún proveedor modela bien, cuando ya existe un equipo de plataforma financiado, cuando poseer la lógica de decisión es una posición estratégica y no una preferencia, y cuando la institución puede comprometerse a mantenerlo durante años en lugar de trimestres.