El uso de la Inteligencia Artificial (en adelante IA) ha venido a revolucionar a la sociedad en todos sus ámbitos y, el ámbito jurídico no está exento de ello.
Sin embargo, la IA no se puede tomar bajo criterios sencillos y alejados del bloque de constitucionalidad, no por lo menos en ningún país que forme parte del Sistema Interamericano de Derechos Humanos como lo es México.
De hecho, aún y cuando, en México no contemos con unan normatividad en materia de IA, lo cierto es que el uso de ésta debe ceñirse bajo los lineamientos internacionales de protección a los Derechos Humanos de las personas, sobre todo de los justiciables; es decir, de aquellos que pueden ser investigados, procesados y sancionados por cualquier rama jurídica de derecho punitivo (véase mi obra “El relativismo punitivo entre el derecho administrativo disciplinario y el derecho penal”) bajo datos de prueba que sean obtenidos a través de IA deben cumplir determinados requisitos a efecto de que se evite la violación al debido proceso legal y a la presunción de inocencia, así como las garantías mínimas a efecto de hacer efectivo estos dos Derechos Humanos de primer nivel.
Es así como la UNESCO, el Sistema Interamericano de Derechos Humanos y la Unión Europea han sido acordes con respecto a los elementos que deben tomar en consideración con respecto a cualquier acto de autoridad cuyo resultado sea la obtención de información (dato de prueba) a través de la IA.
Me parece que los elementos más importantes que proponen y que además son absolutamente operantes en cualquier jurisdicción estatal democrática para la operatividad de la IA por parte de las autoridades públicas en términos de la protección de los Derechos Humanos, son los siguientes:
1. La Transparencia de la IA: Esto implica que la autoridad que pretenda utilizar una IA a efecto de obtener dato de prueba, procesar, sancionar o juzgar a una persona debe hacer públicos, bajo los medios oficiales (Diario Oficial de la Federación, portales públicos de las dependencias de internet)la información detallada que conforma a los algoritmos que forman parte de la IA; así como la idoneidad de los profesionales que la programaron, tanto en el ámbito informático como en el jurídico; la temporalidad de entrenamiento de la IA, así como la metodología que se utiliza para dicho efecto; la temporalidad de la revisión humana, así como la idoneidad de las personas profesionales en dicha revisión, la metodología utilizada en dicha revisión. Lo anterior debe estar fundamentado y motivado en términos del artículo 29, párrafo tercero de la Constitución Política de los Estados Unidos Mexicanos.
2. Señalar con exactitud y determinar los elementos éticos de la IA.
Lo anterior, con el fin de que se cumpla uno de los principios esenciales de una garantía mínima del debido proceso legal y que además está relacionado con la presunción de inocencia: El derecho a la defensa.
El derecho a la defensa, determinado a nivel convencional y constitucional como una garantía mínima del debido proceso legal, que en términos del artículo 29, párrafo segundo de la CPEUM no se puede restringir, ni suspender, ni mucho menos por la aplicación de la IA; y como elemento fundamental del mismo el principio de contradicción, es decir, el justiciable tiene derecho a contradecir las pruebas que señala utilizadas por la autoridad pública para deponer en su contra, por ende, si el mismo no tiene acceso al conocimiento de elementos obtenidos o procesado a través de IA, se viola en su perjuicio el debido proceso legal, así como la presunción de inocencia, junto con la garantía mínima del derecho saber que se le acusa, todos contenidos en los artículos 8 de la Convención Americana de Derechos Humanos y 1, 14, 16, 20, 29 de la CPEUM.
Es importante señalar que el uso de la IA en México no se puede hacer de forma automática, ni tampoco de indiscriminadamente sólo por hecho de que ésta en “moda” utilizarla.
Por ello, nuestras autoridades y juzgadores deben ser responsables, además de estar capacitados en el uso de la IA, para evitar arbitrariedades que violen los Derechos Humanos de las personas.
Por ello, en México me parece que el uso de la IA por cualquier autoridad pública actualmente viola los Derechos Humanos de las personas, ya sea por que fiscalice, dicte resoluciones o sentencias, obtenga información a través de IA; pues no hay evidencia, por lo menos que yo conozca, que se cumplen con los lineamientos interamericanos del uso de ésta.
Los documentos a los que me refiero en esta columna son los siguientes:
1. UNESCO: Kit de herramientas para el uso de IA en las decisiones judiciales.
2. SIDH: Estándares Interamericanos y uso Estatal de la IA en decisiones que afecten los Derechos Humanos.
3. UE: Lineamientos jurídicos en materia de Inteligencia Artificial.
Las autoridades que actualmente utilizan IA, son las que siguen:
1. Auditoría Superior de la Federación con el fin de fiscalizar municipios, estados, servidores públicos y particulares.
2. SAT: Con el fin de fiscalizar a los contribuyentes.
3. Algunos jueces y magistrados, tanto en el ámbito judicial como en el jurisdiccional.
Si tiene especial interés en este ámbito jurídico, le invito a leer mi obra “La Inteligencia Artificial en el Derecho Disciplinario: Riesgos y propuestas en su implementación”, el cual es interactivo mediante el uso de QR’s y lo puede adquirír en físico o digital a través de Amazón o Mercado Libre.
