La Unión Europea puso en vigor nuevas normas que obligan a identificar el uso de inteligencia artificial en contenidos digitales
La Unión Europea puso en vigor nuevas normas que obligan a identificar el uso de inteligencia artificial en contenidos digitales

BRUSELAS (EFE).— La Unión Europea (UE) puso en vigor ayer domingo nuevas normas de transparencia para los sistemas de inteligencia artificial (IA), con las que busca que los usuarios identifiquen cuándo interactúan con una máquina o cuándo un contenido ha sido generado o manipulado mediante estas herramientas.

Al mismo tiempo, la Oficina de Inteligencia Artificial de la Comisión Europea adquirió facultades para supervisar los modelos de IA generativa y sancionar a quienes incumplan las disposiciones.

Las disposiciones obligan a empresas como OpenAI, desarrolladora de ChatGPT; Google, con Gemini, y Anthropic, creadora de Claude, a diseñar sus sistemas para que los usuarios sepan que están interactuando con inteligencia artificial.

La medida también alcanza a desarrolladores de sistemas utilizados en servicios públicos, atención a clientes y mecanismos para gestionar denuncias de fraude.

Asimismo, los sistemas destinados al reconocimiento de emociones o a la categorización biométrica deberán informar a las personas cuando sean analizadas mediante estas tecnologías, salvo en los casos previstos por la ley para prevenir o perseguir delitos.

Ante la resolución, a partir del 2 de diciembre, los contenidos manipulados mediante IA, como textos, fotografías, videos y audios, deberán incorporar marcas de agua que permitan identificarlos como generados por medio de plataformas de aprendizaje automático.

Sin embargo, las autoridades señalaron que la responsabilidad legal de informar sobre contenidos creados con herramientas o funciones de IA en redes sociales recaerá en los usuarios y no en las plataformas. Quedan exentos los contenidos de ficción, artísticos o satíricos.

Como primeras acciones, desde ayer domingo también deberá advertirse cuando contenido generado con IA aborde asuntos de interés público, como procesos electorales, judiciales o de salud, salvo que haya sido supervisado previamente por una persona.

La normativa prevé que, desde diciembre, se prohíba la creación de imágenes sexualizadas generadas con IA sin consentimiento. Además, la Comisión Europea podrá imponer multas de hasta 15 millones de euros o el 3% de la facturación anual global de las empresas infractoras, mientras que las instituciones u organismos de la UE enfrentarán sanciones de hasta 750 mil euros por incumplir las obligaciones de transparencia.

Nueva reglamentación

Mayor transparencia

Las empresas desarrolladoras deberán informar claramente cuando un usuario interactúe con inteligencia artificial. La obligación también aplica a sistemas empleados en servicios públicos, atención a clientes, denuncias de fraude y herramientas de reconocimiento de emociones o categorización biométrica.

Control reforzado

La Oficina de Inteligencia Artificial de la Comisión Europea podrá supervisar modelos de IA generativa, solicitar acceso para evaluar riesgos y verificar el cumplimiento de las obligaciones establecidas por la normativa para sistemas considerados de alto riesgo.

Noticias de Mérida, Yucatán, México y el Mundo, además de análisis y artículos editoriales, publicados en la edición impresa de Diario de Yucatán