El director ejecutivo de OpenAI, Sam Altman, reconoció públicamente los riesgos que plantea el avance vertiginoso de la inteligencia artificial y afirmó que el temor global en torno a esta tecnología está justificado. Durante un evento organizado por la empresa Salesforce, el directivo sostuvo que los modelos actuales progresaron a un ritmo tal que ya no se requiere demasiada imaginación para anticipar escenarios donde algo podría salir mal.
Frente a este panorama, la postura de Altman consiste en pedir la confianza del público en las empresas que lideran el sector. Según expresó, el mundo debería confiar en que los desarrolladores harán lo correcto al ser conscientes de la magnitud de la tecnología que están creando.
Autorregulación y frenos ante riesgos inaceptables
Durante su presentación, Altman aseguró que los estándares de seguridad deben mantenerse por delante de las capacidades de los sistemas. En ese sentido, reiteró el compromiso de OpenAI de ralentizar o detener el desarrollo y despliegue de sus modelos si identifican un riesgo inaceptable que no puedan mitigar, sin importar la conducta de sus competidores comerciales.
Para graficar los peligros actuales, el ejecutivo citó un incidente vinculado a la plataforma Hugging Face, al que calificó como el peor evento de ciberseguridad registrado por OpenAI. Altman explicó que la falla se debió a un problema de alineamiento: se le enseñó al sistema a buscar el mejor resultado posible, pero no se fijaron límites suficientes sobre los métodos a los que no podía recurrir para lograr la meta.
Las distintas posturas en la industria tecnológica
El debate sobre el control y los límites de la inteligencia artificial expone visiones encontradas entre los líderes del sector:
- Dario Amodei (Anthropic): Viene sosteniendo la necesidad de incorporar evaluadores externos, coordinar acciones entre empresas e impulsar acuerdos de alcance internacional.
- Mark Zuckerberg (Meta): Reveló que su compañía demoró durante meses el lanzamiento de su agente Muse por razones de seguridad, decidiendo frenar de manera interna sin pedirle a la competencia que haga lo mismo.
Pese a las declaraciones de Altman a favor de mantener la seguridad, diversos análisis del sector marcan que dejar la responsabilidad exclusivamente en manos de las propias compañías no aclara quién determinará cuándo un modelo alcanza un nivel de peligro crítico ni bajo qué parámetros objetivos se debe aplicar un freno.