El reglamento europeo de IA

Por Cecilia Isenrath

Cecilia Isenrath é doutora em Ciências Sociais pelo Instituto de Filosofia e Ciências Humanas da Unicamp e atualmente atua como pesquisadora de pós-doutorado do Instituto de Estudios Sociales de la Ciencia y la Tecnología da Universidad Nacional de Quilmes.

Si 2023 fue el año de la desmesura de expectativas en torno de los modelos de IA generativa, en 2024 y en el presente se intensifican discusiones sobre regulación. El Reglamento de IA, promulgado por el Consejo de la UE, en 2024, por ejemplo, busca establecer un marco jurídico común para el desarrollo, la comercialización y el uso de IA.

El Reglamento dispone que los sistemas de IA que supongan una amenaza clara para la seguridad de personas y derechos fundamentales encontrarán prohibiciones en el mercado de la UE, debido a los riesgos que plantean. Se hace referencia, por ejemplo, a sistemas que explotan a grupos vulnerables o sistemas de IA utilizados por las autoridades públicas con fines de vigilancia y catalogación social. En este marco, se propuso la creación de un Consejo Europeo de Inteligencia Artificial que se encargaría de la aplicación de las nuevas normas y garantizaría la cooperación en las interacciones de diversos actores.

La Comisión de IA de la UE propone un abordaje basado en riesgos. Así, el uso de sistemas de reconocimiento facial en tiempo real en lugares públicos con fines de seguridad estaría prohibido con algunas excepciones. Una amplia gama de tecnologías utilizadas para controlar las fronteras, o el acceso al transporte público y a supermercados, podrían seguir estando sujetas a estrictos requisitos de control. Otras tecnologías, en cambio, estarían constreñidas a tener un riesgo bajo; y otras, sujetas a normas aún menos estrictas.

En este Reglamento y en legislaciones que le siguieron como política pública se hace manifiesto el modo de control descrito por Deleuze en su “Post-scriptum sobre las sociedades de control”: 

los diferentes internados o medios de encierro por los cuales pasa el individuo son variables independientes: se supone que uno empieza de cero cada vez, y el lenguaje común de todos esos medios existe, pero es analógico. Mientras que los diferentes controlatos son variaciones inseparables, que forman un sistema de geometría variable cuyo lenguaje es numérico (lo cual no necesariamente significa binario). Los encierros son moldes, módulos distintos, pero los controles son modulaciones, como un molde autodeformante que cambiaría continuamente, de un momento al otro, o como un tamiz cuya malla cambiaría de un punto al otro (2005: 116).

El control contemporáneo no tiene ya como objeto encerrar el afuera o las disciplinas que afectan subjetividades cualesquiera. Como la potencia de proliferación de la diferencia rompió el régimen de encierro, no hay otro modo de actuar sobre las subjetividades que la modulación continua. El control se superpone a las disciplinas.

Referências bibliográficas