Related Articles
=Editorial
El Consejo de Seguridad de la ONU celebrará una reunión sin precedentes sobre las posibles amenazas de la inteligencia artificial para la paz y seguridad internacionales, con el fin de analizar los principales riesgos asociados con el posible uso de la IA en armas autónomas o en el control de armas nucleares.
La embajadora del Reino Unido, Barbara Woodward, anunció el lunes que esta reunión, programada para el 18 de julio, será el evento central de su presidencia del Consejo durante este mes.
Europa ha liderado los esfuerzos mundiales para regular la inteligencia artificial, lo cual se ha vuelto urgente con el surgimiento de una nueva generación de IA que permite a los chatbots de IA, como ChatGPT, generar texto, imágenes, video y audio que se asemejan al trabajo humano.
La Ley de Inteligencia Artificial es una propuesta legislativa europea sobre inteligencia artificial, siendo la primera ley sobre IA por parte de un importante regulador en cualquier parte del mundo.
La ley asigna las aplicaciones de IA a tres categorías de riesgo. En primer lugar, se prohíben las aplicaciones y sistemas que representan un riesgo inaceptable, como el sistema de calificación social implementado por el gobierno chino. En segundo lugar, las aplicaciones de alto riesgo, como una herramienta de escaneo de CV que clasifica a los solicitantes de empleo, están sujetas a requisitos legales específicos.
El Comité de Mercado Interno y el Comité de Libertades Civiles adoptaron un proyecto de mandato de negociación sobre las primeras normas para la Inteligencia Artificial con 84 votos a favor, 7 en contra y 12 abstenciones. En sus enmiendas a la propuesta de la Comisión, los miembros del Parlamento Europeo buscan garantizar que los sistemas de IA estén supervisados por personas, sean seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente. También desean tener una definición uniforme de la IA diseñada para ser neutral en cuanto a la tecnología, de manera que pueda aplicarse a los sistemas de IA actuales y futuros.
Un enfoque basado en el riesgo para la IA: prácticas de IA prohibidas
Las normas siguen un enfoque basado en el riesgo y establecen obligaciones para los proveedores y usuarios en función del nivel de riesgo que la IA pueda generar. Se prohibirían estrictamente los sistemas de IA que representen un nivel inaceptable de riesgo para la seguridad de las personas, incluyendo aquellos sistemas que utilicen técnicas subliminales o manipuladoras de manera intencional, exploten las vulnerabilidades de las personas o se utilicen para la calificación social (clasificación de personas según su comportamiento social, estatus socioeconómico y características personales).
Los miembros del Parlamento Europeo realizaron modificaciones sustanciales a la lista, incluyendo prohibiciones sobre el uso intrusivo y discriminatorio de sistemas de IA, tales como:
- Sistemas de identificación biométrica remota en tiempo real en espacios públicamente accesibles.
- Sistemas de identificación biométrica remota posteriores, con la única excepción de las fuerzas del orden para el enjuiciamiento de delitos graves y solo con autorización judicial.
- Sistemas de categorización biométrica que utilicen características sensibles (por ejemplo, género, raza, etnia, estado de ciudadanía, religión, orientación política).
- Sistemas de policía predictiva (basados en perfiles, ubicación o comportamiento criminal previo).
- Sistemas de reconocimiento de emociones en fuerzas del orden, gestión de fronteras, lugares de trabajo e instituciones educativas.
- Extracción indiscriminada de datos biométricos de redes sociales o imágenes de CCTV para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad).
