Investigadores de la Escuela de Ingeniería Industrial y de Sistemas H. Milton Stewart (ISyE) del Instituto de Tecnología de Georgia desarrollaron un nuevo marco de trabajo denominado «Sorpresa de Información Mutua». El objetivo de este avance es lograr que los agentes de inteligencia artificial y los sistemas autónomos reconozcan cuándo ocurre un evento inesperado, determinen si tiene relevancia y decidan cómo actuar en consecuencia.
El trabajo, publicado en la revista científica INFORMS Journal on Data Science, busca sentar las bases para que robots, asistentes de IA y vehículos autónomos puedan desenvolverse mejor ante situaciones para las cuales no fueron entrenados, evitando errores costosos y tomando decisiones más informadas.
Las limitaciones de las mediciones actuales
A diferencia de las personas, los sistemas de automatización tradicionales siguen instrucciones predeterminadas sin una capacidad computacional análoga a la sorpresa. Para medir este fenómeno en las máquinas existían metodologías como la «Sorpresa de Shannon» y la «Sorpresa Bayesiana», pero el equipo de investigación identificó limitaciones en ambas.
Según explicó Yu Ding, profesor del ISyE y líder del proyecto, la Sorpresa de Shannon se enfoca en la rareza de un suceso. Por ejemplo, este método marcaría como sorprendente el hecho de ver un modelo de auto específico estacionado cerca, una situación a la que una persona no le daría importancia. Por su parte, la Sorpresa Bayesiana evalúa cuánto cambia una nueva observación las creencias del sistema, pero no logra detectar casos donde un estudiante de excelentes calificaciones rinde mal un examen de manera repentina, un hecho que a cualquier ser humano sí le llamaría la atención.
Un nuevo marco para la toma de decisiones
La propuesta de «Sorpresa de Información Mutua» resuelve estos inconvenientes al medir la ganancia de conocimiento y el progreso epistemológico. De este modo, el sistema logra identificar los momentos clave en los que debe sorprenderse e ignorar aquellos imprevistos que no resultan relevantes.
El modelo fue desarrollado de forma conjunta por Yu Ding, el profesor asociado Xiao Liu, el exbecario posdoctoral Yinsong Wang y el estudiante de doctorado Quan Zeng. Esta tecnología permite a los sistemas determinar si deben continuar según lo planeado o detenerse a reevaluar la situación, con aplicaciones concretas en diversos campos:
- Asistentes virtuales: Ayuda a modelos de inteligencia artificial a reconocer cuándo su proceso de razonamiento o respuesta actual es inadecuado ante una consulta compleja.
- Vehículos autónomos: Facilita una reacción adecuada cuando un auto sin conductor encuentra obstáculos o situaciones inusuales en la vía pública.
- Fábricas automatizadas: Permite detectar interrupciones no contempladas en la producción que puedan requerir evaluación o intervención humana.