En el marco de su participación en la Semana de Alto Nivel de la Asamblea General de las Naciones Unidas en Nueva York, el Ministro de Justicia, el Sr. Drs. Arthur Dowers, fue el orador principal (keynote speaker) durante un encuentro dedicado a la Inteligencia Artificial (IA): Rights, Remedies and AI Jurisprudence: Upholding Justice, Rule of Law and Human Rights in the Age of Agentic AI.
Durante su discurso, el Ministro Dowers se enfocó en el rápido desarrollo de la inteligencia artificial y los desafíos que esta plantea para la protección de los derechos humanos. Con sistemas de IA que se vuelven cada vez más avanzados y autónomos, la pregunta de quién asume la responsabilidad por las decisiones y consecuencias se vuelve cada vez más importante.
El Ministro Dowers concentró su intervención en tres puntos principales: la aplicación de los marcos legales existentes, la responsabilidad de los desarrolladores y usuarios de IA, y la transparencia.
Uno de los puntos que el Ministro Dowers subrayó es que la introducción de nueva tecnología no significa que las leyes y derechos existentes pierdan su valor. Los derechos humanos universales y los marcos legales actuales siguen siendo aplicables, incluso cuando se toman decisiones mediante el uso de inteligencia artificial.
En este contexto, el mandatario se refirió a un caso del año 2020 en los Países Bajos, donde el Tribunal de La Haya determinó que el uso de un algoritmo gubernamental para detectar fraude en el sistema de bienestar social violaba el Convenio Europeo de Derechos Humanos. Según el Ministro Dowers, este caso demuestra que los marcos legales existentes también se pueden aplicar a las decisiones basadas en tecnología.
Una parte importante de su discurso estuvo dedicada a la responsabilidad. El Ministro Dowers indicó que tanto las organizaciones públicas como las privadas solo deben usar tecnología que pueda tener un impacto en los derechos humanos si pueden asumir la responsabilidad que ello conlleva y mitigar los riesgos asociados.
“If humans decide to delegate tasks to AI-systems, regardless of their autonomous capabilities, they cannot delegate responsibility.” (“Si los humanos deciden delegar tareas a sistemas de IA, independientemente de sus capacidades autónomas, no pueden delegar la responsabilidad”).
Detrás de cada decisión basada en tecnología hay un marco formado por elecciones humanas. Las personas toman decisiones o delegan tareas a sistemas de IA. Por lo tanto, independientemente de lo autónomo que pueda llegar a ser un sistema, la responsabilidad final recae en las personas u organizaciones que desarrollan y utilizan la tecnología.
“Las organizaciones no pueden esconder la responsabilidad detrás de la tecnología. La IA puede ejecutar una tarea, pero la responsabilidad del resultado no se puede delegar a una máquina”, declaró el Ministro Dowers.
El tercer punto central de su discurso fue la transparencia. Cuando se toma una decisión asistida por IA que pueda tener consecuencias legales para una persona, esta debe saber que la IA ha jugado un papel y debe tener acceso a suficiente información para poder cuestionar dicha decisión. Sin la información necesaria, la posibilidad de emprender acciones legales pierde su efectividad.
El Ministro Dowers también hizo referencia a diferentes instrumentos internacionales y regionales que priorizan este principio, entre ellos los principios de las Naciones Unidas sobre el uso ético de la IA, la Convención Marco sobre IA del Consejo de Europa y la Ley de Inteligencia Artificial (AI Act) de la Unión Europea.
También se prestó especial atención al papel del sistema judicial. Según el Ministro Dowers, no es necesario que los jueces se conviertan en expertos técnicos en inteligencia artificial, pero sí deben tener una comprensión general de la tecnología y de los riesgos asociados para poder interpretar y aplicar la ley en casos donde la IA juegue un papel. El intercambio de experiencias entre los sistemas judiciales es fundamental para determinar si los instrumentos existentes son suficientes o si se necesitan medidas adicionales.
El Ministro Dowers concluyó que el progreso tecnológico y la protección de los derechos humanos deben seguir yendo de la mano. La tecnología puede cambiar la forma en que se toman las decisiones, pero no puede cambiar el principio fundamental de la responsabilidad.
“Algorithms and AI-systems may cause harm, but only humans can be held accountable.” (“Los algoritmos y los sistemas de IA pueden causar daño, pero solo los humanos pueden ser responsabilizados”).
La participación del Ministro Dowers como orador principal forma parte de su agenda en Nueva York durante la Semana de Alto Nivel del 81.° período de sesiones de la Asamblea General de las Naciones Unidas, donde participa como parte de la delegación del Reino de los Países Bajos.
