Más cerca de la Ley de Inteligencia Artificial en la Unión Europea (Dictamen del CESE)
Cada vez más cerca de regular la inteligencia artificial en el seno de la Unión Europea (Ley de Inteligencia Artificial, IA)
El Comité Económico y Social Europeo (CESE) ha presentado su Dictamen sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial).
Principales conclusiones del CESE
El CESE valora positivamente que la propuesta de Ley de Inteligencia Artificial de la Comisión no solo aborde los riesgos asociados a la inteligencia artificial (IA), sino que también aumente considerablemente los niveles mínimos de calidad, rendimiento y fiabilidad de la IA que la UE está dispuesta a aceptar.
El CESE se muestra especialmente satisfecho con que la Ley de Inteligencia Artificial otorgue un papel central a la salud, la seguridad y los derechos fundamentales, además de tener un alcance mundial.
El CESE considera que hay margen de mejora con respecto del alcance, la definición y la claridad de las prácticas de IA prohibidas, las implicaciones de las clasificaciones efectuadas en relación con la «pirámide de riesgo», el efecto de reducción del riesgo de los requisitos para la IA de alto riesgo y la aplicación de la Ley de Inteligencia Artificial, así como su relación con la normativa existente y con otras propuestas legislativas recientes.
Definición de Inteligencia Artificial
La definición de IA (artículo 3, apartado 1, junto con el anexo I de la Ley de Inteligencia Artificial) ha generado debate entre los científicos del ámbito de la IA, en el sentido de que creen que varios de los ejemplos del anexo I no constituyan inteligencia artificial y que faltan bastantes técnicas importantes de IA.
El CESE no considera que el anexo I tenga un valor añadido y recomienda su eliminación completa de la Ley de Inteligencia Artificial, así como la modificación de la definición del artículo 3, apartado 1, de la siguiente manera:
«Sistema de inteligencia artificial (sistema de IA)»: el software que puede, de forma automática y para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa.
IA en el ámbito laboral
El CESE recomienda encarecidamente que la Ley de Inteligencia Artificial contemple que determinadas decisiones sigan correspondiendo a las personas, especialmente en ámbitos donde estas decisiones tengan un elemento moral e implicaciones jurídicas o repercusión social, como en los ámbitos judicial y policial, los servicios sociales, la sanidad, la vivienda, los servicios financieros, las relaciones laborales y la enseñanza.
Acotar / restrigir determinados usos de la IA
El CESE pide:
– la prohibición del uso de la IA para el reconocimiento biométrico automatizado, en los espacios de acceso público y privado (como los rostros, la forma de andar, la voz y otras señales biométricas), excepto con fines de autenticación en circunstancias específicas (por ejemplo, para facilitar el acceso a espacios sensibles desde el punto de vista de la seguridad);
– la prohibición del uso de la IA para el reconocimiento automatizado, en los espacios de acceso público y privado, de señales de comportamiento humano;
– la prohibición de los sistemas de IA que utilicen la biometría para clasificar a las personas en grupos en función de su etnia, género, orientación política o sexual o cualquier otro motivo de discriminación prohibido en el artículo 21 de la Carta de los Derechos Fundamentales de la Unión Europea;
– la prohibición de utilizar la IA para inferir las emociones, la conducta, la intención o los rasgos de una persona física, excepto en casos muy específicos, como determinados fines relacionados con la salud, en los que sea importante reconocer las emociones del paciente.
