A medida que las empresas solucionan problemas en sus sistemas de IA, la gobernanza se ha convertido en un desafío clave. Algunos están adoptando un enfoque dual: un modelo para manejar las consultas entrantes, mientras que un segundo modelo evita que el primero se meta en problemas.
Esa es la premisa de ZeroDrift, un nuevo servicio de cumplimiento de IA que anunció una ronda inicial de 10 millones de dólares el martes. (Los inversores incluyen a16z Speedrun, Reign Ventures, PitchDrive Ventures y U&I Ventures, entre otros). La compañía se ocupa completamente de la segunda parte del sistema, sentándose entre los modelos de IA y los usuarios finales para marcar y reemplazar cualquier mensaje que pueda presentar un problema de cumplimiento.
Puede parecer extraño construir un sistema de IA para corregir los errores de otros sistemas de IA, pero el sistema de corrección de ZeroDrift tiene algunas ventajas arquitectónicas sobre los modelos que corregirá. El sistema se activa mediante programas convencionales que aplican de manera determinista estándares de cumplimiento conocidos como SOC 2 o GDPR. El LLM solo llega una vez que se ha marcado un mensaje, reescribiendo una versión compatible del mismo mensaje.
«Podemos identificar de manera determinista cuáles son todas las áreas reguladas, cuál es la infracción que se está infringiendo y luego tenemos LLM que pueden hacer las reescrituras», dice Aroomoogan.
Fundamentalmente, todo el sistema se puede ejecutar con menos latencia y más confiabilidad que un LLM convencional. Es la principal ventaja de la empresa sobre los grandes laboratorios como OpenAI y Anthropic, que a menudo ya están presentes en el sistema subyacente.
El caso de uso más obvio es el de los chatbots de IA, que ya están desplegados frente a los consumidores y donde las respuestas no autorizadas pueden tener graves consecuencias. Pero Aroomoogan considera que el mercado total al que se puede dirigir es mucho más grande y que potencialmente abarca mensajes generados por IA que los seres humanos nunca ven, generados sólo dentro de sistemas automatizados. Hasta ahora, es un mercado relativamente pequeño, pero crecerá a medida que prolifere la IA.
Si la recaudación de fondos es una indicación, hay mucha demanda reprimida para ese producto. «Probablemente fue la recaudación de fondos más rápida que he hecho en mi vida», dice el director ejecutivo Kumesh Aroomoogan, acreditando la ayuda de Andressen Horowitz en la estructuración de la ronda inicial. «Cerramos en tres semanas y tendremos una sobresuscripción tres veces superior al monto».
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
