Forum AI ha dado a conocer un nuevo ensayo titulado “Toward Wiser Machines” que propone el buen juicio como estándar fundamental para sistemas de inteligencia artificial de alto riesgo. El documento, escrito por Robbie Goldfarb, cofundador de la empresa, plantea un cambio en cómo el sector tecnológico evalúa el progreso en inteligencia artificial y sostiene que la toma de decisiones consistente y responsable debería definir la siguiente fase de desarrollo de esta tecnología.
El anuncio fue realizado desde Uniondale, Nueva York, el 3 de marzo de 2026, según informó FinanceWire. Goldfarb argumenta en su ensayo que a medida que los sistemas de IA se expanden más allá de los chatbots hacia sectores como atención médica, educación, gobernanza y decisiones empresariales, la capacidad de ejercer juicio se convertirá en la medida definitiva de calidad.
La Experiencia en Gobernanza de Inteligencia Artificial
Goldfarb desarrolló su enfoque durante su trabajo en Meta, donde se concentró en áreas críticas de moderación de contenido y seguridad. Inicialmente trabajó en Facebook enfocándose en la integridad de noticias y desinformación durante la pandemia de COVID-19 y las elecciones presidenciales estadounidenses de 2020, según el comunicado.
Posteriormente se trasladó a Instagram para concentrarse en la seguridad de usuarios jóvenes. Más tarde se unió a Meta AI para abordar temas de confianza y seguridad, incluyendo sesgo político, desinformación y protecciones para menores. Según Goldfarb, trabajar en asuntos importantes resulta exigente pero gratificante.
El Juicio Como Nuevo Estándar de Calidad en IA
El ensayo identifica situaciones donde un sistema puede ser factualmente correcto pero actuar de manera imprudente o causar daño. En contextos médicos, por ejemplo, un modelo puede proporcionar información precisa pero no recomendar atención profesional cuando sea necesaria, según señala el documento.
Goldfarb destaca que los problemas más importantes no son cuestiones de reglas o permisos, sino de matices. Un sistema puede seguir las políticas establecidas y aún así equivocarse en aspectos fundamentales. Esta observación subraya la necesidad de evaluar la inteligencia artificial más allá de su precisión técnica.
Componentes del Buen Juicio en Sistemas de IA
El ensayo identifica tres componentes del juicio como comportamiento observable. El primero es la conciencia de consecuencias, donde los sistemas deben anticipar los efectos posteriores de sus respuestas. El segundo componente es la adaptación a información pertinente, calibrando el comportamiento según datos relevantes del mundo real.
El tercer elemento consiste en mantenerse dentro de un rango razonable de respuestas, especialmente en casos límite o situaciones emocionalmente cargadas. Estos tres componentes forman la base de lo que Goldfarb considera inteligencia artificial responsable.
Contexto de la Industria y Enfoque Organizacional
Goldfarb citó dos visiones contrastantes del futuro de la inteligencia artificial. Una es la perspectiva presentada en “Machines of Loving Grace”, un ensayo de Dario Amodei, director ejecutivo de Anthropic, que proyecta sistemas capaces de resolver desigualdades en atención médica y gobernanza.
La visión opuesta aparece en el documento “AI 2027” y en el ensayo más reciente de Amodei, “The Adolescence of Technology”, que describen escenarios más oscuros si el desarrollo avanza inadecuadamente. Según el comunicado, la industria enfrenta un momento decisivo entre estas dos posibilidades.
Hace aproximadamente un año, Goldfarb comenzó a enfocarse en cómo incorporar el juicio experto directamente en el desarrollo de inteligencia artificial, lo que llevó a la fundación de Forum AI. La organización trabaja para empoderar a expertos líderes en diversos campos para evaluar y moldear cómo los sistemas de IA se comportan en escenarios complejos.
La industria espera que los sistemas de inteligencia artificial continúen mejorando en tareas técnicas y recuperación de información factual. Sin embargo, la cuestión más difícil radica en cómo responderán estos sistemas en escenarios menos directos que requieren consideraciones éticas y contextuales. Los momentos que requieren buen juicio determinarán qué dirección tomará finalmente el desarrollo de esta tecnología, según indica Goldfarb en el ensayo.
