🤖🌎 OpenAI y Anthropic alertan ante la ONU: “Hay que poner reglas a la IA”

Los directivos de OpenAI y Anthropic llevaron ante el Consejo de Seguridad de la ONU una advertencia sobre los riesgos asociados al desarrollo acelerado de la inteligencia artificial. Sam Altman y Dario Amodei coincidieron en que la comunidad internacional debe establecer mecanismos de seguridad para mantener el control humano sobre los sistemas más avanzados.

⚠️ Amodei, director ejecutivo de Anthropic, señaló que una mala gestión de la tecnología podría representar un riesgo para la humanidad.

Por su parte, Altman advirtió sobre la posibilidad de que los sistemas más avanzados desarrollen capacidades que los seres humanos ya no puedan comprender o supervisar adecuadamente.

🌐 Entre las propuestas planteadas se encuentran marcos técnicos internacionales capaces de medir las capacidades de los modelos, evaluar amenazas, verificar medidas de seguridad y establecer canales para compartir información sobre vulnerabilidades críticas.

🧠 Altman también pidió que el desarrollo de la IA mantenga a las personas en el centro de la toma de decisiones y que la tecnología sirva para ampliar las capacidades humanas, no para sustituir su capacidad de decidir.

La ONU, por su parte, ha impulsado la discusión sobre reglas comunes para enfrentar riesgos como la desinformación, la discriminación y sistemas difíciles de controlar.

🔎 El debate ocurre mientras las empresas tecnológicas continúan desarrollando sistemas cada vez más avanzados y mientras gobiernos de distintas potencias mantienen posiciones diferentes sobre cómo y hasta dónde debe regularse la inteligencia artificial.

👉 ¿Quién debería establecer las reglas para la inteligencia artificial: los gobiernos, las empresas tecnológicas o una combinación de ambos?