La Unión Europea Regula la Inteligencia Artificial para Promover Sus Beneficios y Eliminar Reales y Potenciales Perjuicios
La Unión Europea Regula
la Inteligencia Artificial para Promover Sus Beneficios y Eliminar Reales y
Potenciales Perjuicios
Enrique E. Batista J., Ph. D.
https://paideianueva.blogspot.com
El parlamento europeo aprobó el 14 de junio de 2023 regulaciones sobre los
sistemas de inteligencia artificial – IA,
las cuales marcarán un hito importante para el desarrollo de ellos y evitar sus usos impropios y perversos. Es la primera
regulación sobre la IA en el mundo, la que se ha dado en mitad de los muy acelerados
desarrollos de los chatbots que han llevado al reconocimiento, por muchos, de
los grandes riesgos que dichos sistemas pueden tener para personas, grupos
sociales, grupos culturales, y para el presente y futuro de la humanidad en
general.
La IA, se reconoce, puede
proporcionar a la sociedad, a países, empresas y personas beneficios positivos en una variedad
amplia de campos: el medio ambiente, la salud, la agricultura, la cualificación
laboral, la administración de infraestructuras, en el transporte, la logística,
los servicios públicos, en la seguridad, la justicia, en los usos eficientes de
los recursos naturales y de la energía, en
la mitigación del cambio climático, la optimización de operaciones, la asignación
de recursos y la personalización de soluciones digitales. (https://rb.gy/dz8lj)
Pero, a la vez, se reconocen
riesgos y efectos negativos tanto para la sociedad en general como para
personas o grupos de ellas en particular. La propuesta se basa en la defensa de
los valores y derechos fundamentales que
reconoce la Unión Europea y en la concepción de que la IA es y puede ser una
fuerza positiva en la sociedad, para el bienestar humano, asumiendo que ella
precisa ser concebida como espacio en el que se preservarán los derechos
fundamentales que promueve la Unión Europea, tales como: el derecho a la
libertad y a la dignidad humana, respeto a la vida privada y familiar, salud y
seguridad de las personas, protección de los consumidores, protección de datos
personales, ausencia de discriminación, igualdad entre hombres y mujeres, libertad de expresión y de reunión, garantía
de tutela judicial efectiva y de jueces imparciales, presunción de inocencia y
los derechos de defensa, y el respeto a
las normas éticas. Se asegura en la regulación la innovación responsable y se
imponen ciertas restricciones a la libertad de empresa y la libertad de las
artes y de la ciencia. (El lector puede encontrar en español la norma completa
y un resumen de 20 páginas aquí: https://rb.gy/cwge9).
Establece la norma un enfoque
basado en riesgos (inaceptable, riesgo alto y riesgo bajo o mínimo) y presenta una lista de las áreas de los sistemas de IA
artificial que serán prohibidos. Se especifican y detallan en extenso siete
áreas de alto riesgo. Estas áreas son: 1. Identificación biométrica y
caracterización de personas. 2.
Gestión y funcionamiento de infraestructuras esenciales. 3.
Educación y formación profesional. 4. Empleo, gestión de los
trabajadores y acceso al autoempleo. 5.
Acceso y disfrute de servicios públicos y privados esenciales y sus beneficios.
6. Asuntos relacionados con la aplicación de la ley como la de llevar a
cabo evaluaciones de riesgos individuales de personas con sistemas de IA
destinadas a ser empleadas por las autoridades con aplicaciones como polígrafos y herramientas similares, para
predecir la frecuencia o reiteración de una infracción penal, real o potencial,
con base en la elaboración de perfiles de las personas, la evaluación de rasgos y características de
la personalidad, conductas delictivas pasadas de personas físicas o grupos. 7.
Gestión de la migración, el asilo y el control fronterizo.
Se
consideran inaceptables y, por lo tanto, sin vigencia y aplicación en la Unión Europea
todos aquellos sistemas de IA que violan derechos fundamentales, que tienen el
poder de manipular a la gente con técnicas subliminales, que aprovechan la
vulnerabilidad de grupos específicos, los que alteran comportamientos provocando daños
físicos o psicológicos. Precisa la norma que cuando se intervengan las
emociones de las personas, éstas deben estar informadas; cuando la IA se
utiliza en la generación o manipulación de imágenes, audios o vídeos que puedan
aparecer como contenidos auténticos, será obligatorio informar que se han
generado por medios informáticos.
Se consideran de alto riesgo,
como se mencionan arriba, los sistemas de IA que hacen uso de la educación o la
formación profesional, en especial los
que determinan el acceso o ubicación de las personas en distintas instituciones
educativas o de formación profesional; son de alto riegos también aquellos que
evalúan a las personas a partir de pruebas realizadas en contextos educativos
como condición necesaria para acceder a ella, debido a que pueden decidir la
trayectoria formativa y profesional de una persona y, por lo tanto, afectar su
capacidad de asegurar su subsistencia. Concibe la norma de la Unión Europea que
los sistemas de inteligencia artificial diseñados y utilizados de manera
incorrecta pueden violar el derecho a la educación, a la formación y a no
sufrir discriminación, además de que pueden perpetuar sistemas o patrones
históricos de discriminación; por ejemplo, aquellos asentados en el
origen racial o étnico, discapacidad, edad u orientación sexual, o aún más,
generar nuevas formas de efectos discriminatorios.
Igual criterio se aplica a aquellos
sistemas de IA para la gestión de los
trabajadores y el acceso al autoempleo, en especial en los procesos de
selección y contratación de personal y para la toma de decisiones asociadas a
la promoción y rescisión de contratos, a
la asignación de tareas y seguimientos, a la evaluación de personas en
relaciones contractuales de índole laboral, debido a que pueden afectar de
manera considerable las futuras perspectivas laborales y los medios de
subsistencia de ellas. Son de alto riesgo, además, los sistemas de IA que se
emplean para la calificación crediticia o solvencia económica de las personas,
ya que pueden limitar el acceso a recursos financieros o a servicios esenciales
como la vivienda y los servicios públicos en general.
El
uso de identificación biométrica en tiempo real sólo será permitido en aquellos
casos que tengan como fines la aplicación de la ley y la protección de las
libertades de las personas o en eventos que puedan afectar la vida privada de
gran parte de la población. O sea, son
aplicables sólo en casos taxativamente autorizados por la ley para lograr un
interés público general, tales como la búsqueda de posibles víctimas de un
delito, menores desaparecidos, amenazas a la vida física o seguridad de las
personas, posibles atentados terroristas y la detección, identificación o
enjuiciamiento de sospechosos de delitos. Quedan así prohibidos aquellos
sistemas de IA que utilizan las
autoridades públicas para evaluar o clasificar a las personas según su conducta
o características a personales y los que tienen trato perjudicial o desfavorable
para determinadas personas o contextos sociales. O sea, el uso de
identificación biométrica remota en tiempo real, con excepción de lo que esté
autorizado por la ley.
Todos los sistemas de IA deben
proveer la documentación técnica de registro y de transparencia, comunicar
efectivamente esa información a quienes los usan, de modo que puedan estar
sujetos a la vigilancia humana y a la solidez de la ciberseguridad. La documentación técnica incluirá,
entre otros requisitos, fijados en la norma, la descripción
detallada de los elementos del sistema de IA, de su proceso de desarrollo, sus capacidades
y limitaciones de funcionamiento, incluidos los niveles de precisión para
personas o grupos de personas específicos, los resultados no deseados
previsibles y las fuentes de riesgo para la salud, la seguridad, los derechos
fundamentales y la discriminación.
Este avance desde la Unión Europea es una senda importante abierta para
que los gobiernos, legisladores y ciudadanía en general ejerzan control activo
sobre el uso de herramientas,
aplicativos y plataformas informáticas con el objetivo de que prevalezca el uso
provechoso de ellas y se excluyan los perjuicios de diversa índole presentes en
algunos de ellos. Ejercicio que debe realizarse en cada uno de los campos
ocupacionales, en las empresas y organizaciones públicas o privadas, en las asociaciones de
profesionales y en las universidades en sus procesos de formación. Decisión que
también es importante que la asuman los padres de familias y maestros con
respecto al empleo debido de los sistemas de IA para garantizar el
progreso y desarrollo sano de los hijos y alumnos.
Comentarios
Publicar un comentario