Scaled Cognition recauda 100 millones de dólares para construir una IA fiable para empresas

La alucinación de la IA tiene una respuesta de 100 millones de dólares — y proviene de dos exinvestigadores de Microsoft.

Scaled Cognition, una startup de IA fundada por dos exempleados de Microsoft, recaudó 100 millones de dólares en una ronda de financiación Serie A para comercializar una arquitectura de modelo diseñada para eliminar las alucinaciones en aplicaciones empresariales de IA.

"Estos modelos frontera son como genios esquizofrénicos: pueden generar respuestas increíbles, pero luego haces la misma pregunta y obtienes una respuesta completamente diferente que podría ni siquiera ser correcta", dijo Dan Roth, director ejecutivo de Scaled Cognition.

El Transformer Pretreinado Agéntico, o APT, de la compañía predice objetos estructurados como programas y consultas de sistema junto con flujos de tokens tradicionales, una desviación de los grandes modelos de lenguaje que optimizan la plausibilidad lingüística sin verificar la precisión factual. El enfoque funciona mejor en dominios empresariales acotados donde el alcance de las posibles consultas es limitado, dijo Roth.

La valoración de 750 millones de dólares y el respaldo de Khosla Ventures, uno de los inversores más prominentes de IA en Silicon Valley, apuntan a una creciente demanda de infraestructura de IA centrada en la fiabilidad. Genesys, una plataforma de experiencia del cliente basada en la nube, ya está utilizando APT dentro de su plataforma Genesys Cloud para capacidades de agente virtual.

Los grandes modelos de lenguaje de OpenAI, Anthropic y Google han demostrado capacidades en tareas de conocimiento general, superando el 90% en referencias como MMLU y HumanEval. Pero esos mismos modelos pueden producir respuestas que suenan seguras pero son fácticamente incorrectas — un defecto que se vuelve inaceptable en industrias reguladas donde un solo error numérico en un número de receta podría desencadenar responsabilidades legales. "Un solo error puede tener consecuencias desastrosas", dijo Roth, describiendo a un agente automatizado de atención médica que "no puede permitirse alucinar ni un solo dígito en un número de receta".

La arquitectura de Scaled Cognition aborda esto dirigiendo diferentes partes de una consulta al sistema más apropiado, dependiendo de la necesidad de fiabilidad, según Vinod Khosla, socio fundador de Khosla Ventures. "Es un modelo separado para aquellas partes del sistema que necesitan una fiabilidad real y no pueden estar sujetas a alucinaciones", dijo.

El desafío de verificar resultados generados por IA a escala es una barrera clave para la adopción empresarial. Mientras que un humano puede verificar fácilmente unas pocas líneas de código, verificar cientos de miles de líneas generadas por IA es prácticamente imposible, dijo Ion Stoica, profesor de ciencias de la computación en la Universidad de California, Berkeley y cofundador de Databricks. "Esto hace que la fiabilidad programática sea una necesidad absoluta para los sistemas empresariales", afirmó.

Scaled Cognition planea utilizar los fondos para expandir su equipo de investigación y acelerar los despliegues empresariales. La startup con sede en Mountain View, California, fue fundada por Roth y Dan Klein, investigador de procesamiento de lenguaje natural y profesor de IA en UC Berkeley. El dúo vendió anteriormente su startup Semantic Machines a Microsoft en 2018. La compañía se dirige a la experiencia del cliente como su primer mercado, un segmento donde los agentes impulsados por IA manejan millones de interacciones diarias y donde la precisión afecta directamente la retención de clientes y el cumplimiento normativo. La adopción de APT por parte de Genesys ofrece un punto de prueba temprano de la viabilidad comercial de la tecnología.

Para los inversores, la apuesta por Scaled Cognition refleja una tesis más amplia: a medida que las empresas avanzan más allá de la experimentación con IA generativa, la capacidad de confiar en los resultados del modelo se convierte en una ventaja competitiva. Las empresas que resuelvan el problema de la fiabilidad podrían capturar una porción desproporcionada del mercado empresarial de IA, que Gartner proyecta alcanzará los 300 mil millones de dólares en gasto para 2027. El enfoque en dominios acotados de Scaled Cognition puede limitar su mercado total direccionable en comparación con los modelos de propósito general, pero la prima que las empresas pagarán por resultados demostrablemente correctos podría compensar esa restricción.

Este artículo es solo para fines informativos y no constituye asesoramiento de inversión.