Ya tenemos ley de inteligencia artificial en la Unión Europea

La UE aprueba la primera ley de inteligencia artificial del mundo; superando los Estados y la Eurocámara sus diferencias y las líneas rojas en materia de sistemas de vigilancia biométrica. Desde el viernes, casi en la medianoche al sábado, hay un acuerdo provisional que tiene que ratificarse.

Primera regulación de inteligencia artificial del mundo

Estos son los 7 puntos clave: 5 prohibiciones y 2 que van a dar muchos quebraderos de cabeza / problemas.

Prohibidos los sistemas de categorización biométrica (por creencias políticas, religiosas, filosóficas o por orientación sexual o raza).
Prohibidos los sistemas para expandir o crear bases de datos faciales captando datos de manera indiscriminada a través de internet o de grabaciones audiovisuales y televisión.
Prohibido el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas.
Prohibido el social scoring (sistemas que puntúan a las personas en función de su comportamiento social o características personales).
Prohibidos los sistemas que manipulan comportamiento humano y la IA usada para explotar las vulnerabilidades de las personas (por ejemplo por su edad o situación social o económica).
Se permitirán los sistemas de vigilancia biométrica en tiempo real en espacios públicos, solo podrán ser empleados por las fuerzas del orden y estarán muy limitados y rodeados de estrictas salvaguardias.
Los sistemas de inteligencia artificial generativa en los que se basan modelos como ChatGPT, tendrán que cumplir criterios de transparencia, como especificar que si un texto, una canción o una fotografía se han generado a través de la inteligencia artificial, así como garantizar que los datos que se han empleado para entrenar a los sistemas respetan los derechos de autor.