NACIONES UNIDAS.- El rápido desarrollo de la inteligencia artificial abrió un debate sobre quién debe establecer límites a una tecnología con capacidades cada vez mayores.
Ante el Consejo de Seguridad de la ONU, los directivos de OpenAI y Anthropic pidieron establecer salvaguardas para evitar que la IA concentre demasiado poder o llegue a ser difícil de controlar.
Anthropic y OpenAI advierten riesgos de la IA
Dario Amodei, director ejecutivo de Anthropic, señaló que “Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”.
Por su parte, Sam Altman, su competidor y director ejecutivo de OpenAI, advirtió que “Podríamos perder el control del futuro ante la IA”.
LEE LO MÁS INTERESANTE DEL MOMENTO: Trump recibe a Xi: comercio e IA serán temas del encuentro
Cabe señalar que ambos sostuvieron que los países del mundo, a través del Consejo de Seguridad de la ONU, donde hablaron el miércoles por la tarde, deben establecer salvaguardas.
Lo anterior, sería controles reales para evitar que la tecnología se vuelva demasiado poderosa como para contenerla.
Asimismo, pidieron que el mundo se asegure de que el poder de la IA no se concentre en una sola empresa o país.
De igual manera, para los líderes mundiales, una pregunta clave sobre la IA es esta: ¿quién debería controlar las decisiones de vida o muerte: el ser humano o la máquina?
Consejo de Seguridad de las Naciones Unidas
El Consejo de Seguridad de las Naciones Unidas se reunió el miércoles con los principales líderes tecnológicos para determinar:
Si las crecientes capacidades y la omnipresencia de la inteligencia artificial deberían controlarse y, de ser así, por quién.
Otras preguntas persistentes fueron ¿cómo podría hacerse? ¿Cuándo podría ser simplemente demasiado tarde?
Además, el día anterior, el secretario general de la ONU, Antonio Guterres, advirtió sobre “robots asesinos”.
También, expertos y líderes europeos afirmaron que eso no es una hipérbole, sino algo que ya es una realidad o, al menos, está peligrosamente cerca.