¿Puede un algoritmo ser justo? Desafíos regulatorios de la inteligencia artificial en el Derecho

Por Federico Javier Licciardi

Publicado por elDial.com

---

“Uno de los primeros conflictos que el derecho va a encontrar en la utilización de inteligencia artificial aplicada a la justicia, son los sesgos algorítmicos. La empresa de tecnología International Business Machines (IBM) los define como “El uso de datos de entrenamiento defectuosos puede dar lugar a algoritmos que produzcan repetidamente errores, resultados injustos o incluso amplifiquen el sesgo inherente a los datos defectuosos”. A su vez resalta que esto también puede deberse a errores de programación, porque un desarrollador pondere injustamente factores para la toma de decisiones, basándose en sesgos propios. Entonces ello conlleva que los prejuicios con los que ha sido desarrollado el algoritmo terminen produciendo resultados discriminatorios en base a raza, sexo o religión. Uno de los ejemplos más relevantes en esta materia sucedió cuando la Administración de Justicia de los Estados Unidos, utilizó un algoritmo predictivo de aprendizaje automático, llamado COMPAS, en el que se registró una denuncia por mostrar sesgos raciales. Dicho sesgo fue detectado en el año 2016 en el caso Wisconsin Vs Loomis en el cual se utilizó este sistema para evaluar el riesgo de reincidencia y arrojó como resultado, un denominador común, un alto porcentaje de reincidencia en la raza negra. Este caso emblemático puso de relieve que los algoritmos, lejos de ser neutrales, pueden reproducir o incluso agravar desigualdades sociales. En un contexto donde la inteligencia artificial avanza rápidamente, surge una pregunta clave: ¿puede un algoritmo ser justo? Este trabajo propone que no es suficiente con adoptar tecnología eficiente; es necesario que su uso se adecúe a los valores constitucionales y a los principios del Derecho.”

Copyright 2025 - elDial.com - editorial albrematica - Tucumán 1440 (1050) - Ciudad Autónoma de Buenos Aires - Argentina

---

Términos mencionados en esta doctrina: algoritmo, inteligencia, artificial, justicia, tecnología, defectuosos.