Riesgos derivados de sistemas de inteligencia artificial: ¿la regulación actual es suficiente?

Por Blanca Aparicio Araque

"Hoy en día es bien sabido que la inteligencia artificial ha llegado para quedarse en múltiples ámbitos: el sector educativo, laboral, y el judicial, entre otros. Pese a que su uso reporta múltiples ventajas, dentro de las que se encuentra un mayor ahorro de tiempo en múltiples tareas, también nos encontramos con que, el uso inadecuado de este tipo de dispositivos se puede traducir en grandes inconvenientes. El principal objetivo de este artículo será analizar el uso de los sistemas de inteligencia artificial en diversos ámbitos como la sanidad, la educación o el proceso judicial. De otro lado, examinaremos cuáles son los diversos sesgos presentes en los sistemas de inteligencia artificial y qué mecanismos propone la doctrina para evitarlos. Por último, nos centramos en un sector concreto: analizaremos los daños que ocasiona el uso de la inteligencia artificial dentro del sistema judicial. Dentro de este análisis, expondremos que la aparición de los sesgos se debe a la traslación de ciertos perjuicios que se encuentran en los programadores a las máquinas creadas por sistemas de inteligencia artificial, entre otros. Como expondremos a continuación, los sistemas de inteligencia artificial, también conocidos como “de caja negra” actualmente responden a criterios de baja trazabilidad, de forma que, cuando se utilizan los mismos como aliados a la hora de tomar decisiones jurisdiccionales comienzan a aparecer los primeros problemas. De esta manera, cuando se producen este tipo de decisiones automatizadas en cuanto a diferentes características de las personas, debe intentarse que los sistemas sean lo más transparentes posibles, en aras a procurar la mayor igualdad posible para toda la población. Con la llegada del Reglamento de Inteligencia Artificial, son muchas más las precauciones que deben ser realizadas por los proveedores a la hora de desarrollar este tipo de sistemas de inteligencia artificial."

Copyright 2025 - elDial.com - editorial albrematica - Tucumán 1440 (1050) - Ciudad Autónoma de Buenos Aires - Argentina

Términos mencionados en esta doctrina: inteligencia, artificial, sistemas, sesgos, múltiples, cuando, judicial, producen, diferentes, personas.