El CEO de Microsoft, Satya Nadella, se manifestó a favor de extremar las precauciones con el desarrollo y despliegue de la inteligencia artificial. A través de una publicación en sus redes sociales, el ejecutivo propuso una regla clara: confiar lo menos posible en los modelos y separar el suministro de inteligencia de la autoridad sobre ella.
Desde la perspectiva de Nadella, la diferencia fundamental entre el software tradicional y la inteligencia artificial avanzada radica en la trazabilidad. Mientras que en el software convencional un comportamiento se puede rastrear hasta una línea de código específica, los modelos actuales funcionan como cajas negras cuyo razonamiento no siempre puede explicarse por completo.
Supervisión y responsabilidad humana
Pese a la falta de previsibilidad exacta sobre cómo actúan estos sistemas, muchas organizaciones ya están implementando agentes de inteligencia artificial en procesos críticos, con acceso a datos sensibles y capacidad para actuar en representación de personas o empresas. Frente a este panorama, el máximo responsable de Microsoft fue categórico al señalar que no es posible externalizar la responsabilidad de lo que la tecnología hace en nombre de los usuarios, y que las garantías que ofrecen los proveedores tampoco eximen a las organizaciones de dicho compromiso.
Para abordar este escenario, Nadella propone tratar a los modelos de inteligencia artificial de manera similar a como se gestiona el riesgo interno o a un empleado con múltiples accesos: otorgarles la menor autoridad posible, mantener un registro exhaustivo de todas sus operaciones y contar siempre con la capacidad técnica para detenerlos en cualquier momento. La medida no responde a la premisa de que los sistemas sean maliciosos por naturaleza, sino a que cualquier entidad con acceso a procesos clave puede equivocarse o sufrir un compromiso de seguridad.
Los tres pilares para el control de la IA
En su análisis, Nadella sintetizó su postura en siete principios fundamentales, agrupados en tres ejes conceptuales básicos:
- Independencia: ningún modelo de inteligencia artificial debe auditarse a sí mismo ni constituir la única fuente para un resultado relevante. La verificación debe quedar en manos de sistemas o entidades ajenas a la tecnología evaluada.
- Transparencia: cada acción de importancia tiene que generar un registro legible e inalterable. Aunque observar la cadena de pensamiento del modelo resulta imprescindible, el ejecutivo remarcó que «si no se puede observar, no se puede confiar en ello».
- Contención: se debe asumir desde la etapa de diseño que cualquier modelo puede estar comprometido. Esto requiere herramientas técnicas capaces de detener su ejecución de inmediato y mecanismos para notificar a los afectados cuando ocurra una falla.
Finalmente, Nadella remarcó la importancia de establecer un estándar común de tecnología de contención dentro de la industria. La prioridad, según la visión formulada por el directivo, debe ser construir entornos controlados donde el comportamiento de la tecnología pueda observarse, sus límites se pongan a prueba y sus acciones queden subordinadas al control humano.