- El uso de algoritmos e inteligencia artificial puede reproducir o profundizar las desigualdades sociales, señala Colosio Riojas.
La Comisión de Derechos Digitales, que preside el senador Luis Donaldo Colosio Riojas, aprobó un proyecto para reconocer expresamente que las conductas discriminatorias también pueden darse en entornos como el internet y las redes sociales.
Con una modificación a la Ley Federal para Prevenir y Eliminar la Discriminación, se precisa que exclusiones o distinciones basadas en origen étnico, edad, género, preferencias sexuales o condición económica, entre otras, pueden ser realizadas en entornos digitales.
Colosio Riojas precisó que esta propuesta visibiliza que la segregación puede darse mediante el uso de algoritmos, sistemas automatizados e inteligencia artificial que llegan a reproducir o profundizar las desigualdades sociales.
Por ello, “compartimos el propósito de actualizar nuestra legislación, para garantizar que los derechos de las personas también sean protegidos frente a los avances tecnológicos”, subrayó el legislador, quien precisó que este proyecto contó con la opinión de la Agencia de Transformación Digital y Telecomunicaciones, para su formulación.
El dictamen, avalado por unanimidad de siete votos, expone que la expansión del uso de herramientas digitales en ámbitos como los servicios gubernamentales, entre otros, hace necesario que las personas cuenten con mecanismos de protección frente a decisiones automatizadas difíciles de impugnar, en particular cuando afectan los derechos.
“La discriminación digital puede presentarse aun cuando un sistema opera bajo criterios aparentemente neutrales”, señala; no obstante, enfatiza que la ausencia de una intención discriminatoria por parte de quien diseña o utiliza una herramienta tecnológica no elimina la posibilidad de que sus resultados produzcan un impacto diferenciado e injustificado sobre determinadas personas o grupos.
La regulación debe atender no únicamente a la conducta de los usuarios, agrega el documento, sino también a las condiciones de diseño, entrenamiento, implementación y utilización de esos sistemas, por lo que se debe establecer un parámetro de protección frente a resultados discriminatorios
Esto, además, fortalece el principio de igualdad de oportunidades y de trato, además, procura que la innovación tecnológica se desarrolle de manera compatible con los derechos humanos.