En una reciente carta pública, Dario Amodei, CEO de Anthropic, advirtió sobre los posibles riesgos de seguridad que podría generar el avance acelerado de la inteligencia artificial. Como alternativa para prevenir escenarios perjudiciales, el ejecutivo planteó la necesidad de permitir que auditores independientes supervisen los sistemas de forma permanente. Para esa función, recomendó específicamente a METR.
Qué es METR y cuáles son sus funciones
El nombre de la organización responde a las siglas de Model Evaluation and Threat Research. Se trata de una entidad sin fines de lucro cuyo objetivo central es evaluar desde una perspectiva científica si las distintas tecnologías de inteligencia artificial pueden representar un peligro catastrófico para la comunidad.
Entre sus tareas habituales, METR se dedica a analizar incidentes del sector, como el ocurrido entre OpenAI y Hugging Face, y a calcular el tiempo de trabajo humano que logran ejecutar los agentes automatizados, un indicador que se volvió clave para la industria. En paralelo, elabora propuestas de gobernanza dirigidas a que las desarrolladoras refuercen sus controles de seguridad interna.
Origen, equipo y estructura
La organización tiene su antecedente directo en ARC Evals, un grupo que formaba parte del Alignment Research Center y que estuvo conducido por Paul Christiano, un exinvestigador de OpenAI destacado en el área de alineamiento de IA. Para liderar esa iniciativa se sumó Beth Barnes, con trayectoria previa en OpenAI y DeepMind.
El proyecto se consolidó rápidamente y en 2023 se desvinculó de ARC para constituirse como una entidad independiente bajo la conducción de Barnes, quien se mantiene como fundadora y CEO. En su equipo figuran profesionales con paso por grandes firmas del sector, entre ellos Joe Benton, proveniente de Anthropic, y Josh Engels, exintegrante de DeepMind.
Financiamiento e independencia
Como organización sin fines de lucro, METR se sostiene económicamente mediante donaciones. En un periodo de seis meses anunció haber obtenido 71 millones de dólares. Según su propia política, no recibe aportes monetarios de las empresas de tecnología a las que audita ni de sus trabajadores.
No obstante, la entidad sí mantiene una vía de colaboración técnica con compañías como OpenAI, Anthropic, Google DeepMind y Meta, las cuales le brindan acceso a sus modelos y le proporcionan tokens gratuitos para efectuar las pruebas evaluativas.
Su red de donantes abarca a instituciones como Sijbrandij Foundation, Schmidt Sciences, Packard Foundation y Pew Charitable Trusts. Asimismo, recibe aportes de entidades vinculadas al movimiento del Altruismo Eficaz, entre las que se encuentran Longview Philanthropy, Effektiv Spenden y el Survival and Flourishing Fund.