Ab. Mauro Gonzalo Calvetti
Grupo TREJO de la Facultad de Derecho
de la Universidad Nacional de Córdoba (Argentina)
La historia humana nos deja ver que el hombre siempre ha estado en constante evolución. Siempre tuvo la inquietud de satisfacer sus necesidades mediante el desarrollo de nuevas tecnologías, y en ese afán superador, han creado cambios radicales en la forma de vida.
Hoy nos encontramos ante uno de estos cambios que se podría considerar tan relevantes como la invención de la máquina a vapor o la imprenta, nos encontramos ante una revolución digital. Esta etapa, que transitamos desde principios de siglo, se caracteriza por una conexión a la red cuasi omnipresente en nuestras vidas, estando acompañados con sensores más pequeños, potentes y accesibles gracias a la irrupción de la inteligencia artificial y la capacidad de aprendizaje de las máquinas.
En este nuevo paradigma la inteligencia artificial posee un rol estelar, ya que su irrupción ha transformado nuestra forma de vivir y relacionarnos, la manera en que se llevan a cabo los procesos productivos e incluso la forma en que se toman decisiones dentro del estado.
Aunque no exista una sola definición de IA, el término fue utilizado por primera vez por el Profesor Jonh McCarthy en el año 1956. La conceptualizó como “el estudio para proceder sobre la base de la conjetura de cada aspecto del aprendizaje o cualquier otra característica de la inteligencia puede, en principio, ser descrito con tanta precisión que puede fabricarse una máquina para simularlo”. Añade que, “en base a ello, se intentará averiguar cómo fabricar maquinas que utilicen el lenguaje, formen abstracciones y conceptos, resuelvan las clases de problemas ahora reservados para los seres humanos, y mejoren por sí misma.”
Por su parte la Unión Europea define la inteligencia artificial como “aquella habilidad de una máquina de presentar las mismas capacidades que los seres humanos, como el razonamiento, el aprendizaje, la creatividad y la capacidad de planear”. La IA permite que los sistemas tecnológicos perciban su entorno, se relacionen con él, resuelvan problemas y actúen con un fin específico. La máquina recibe datos (ya preparados o recopilados a través de sus propios sensores, por ejemplo, una cámara), los procesa y responde a ellos. Los sistemas de IA son capaces de adaptar su comportamiento en cierta medida, analizar los efectos de acciones previas y de trabajar de manera autónoma.”[1]
La IA puede realizar tareas asociadas a la división humana, tales como la percepción visual, el reconocimiento de voz, la toma de decisiones y con el correr del tiempo este catálogo se va ampliando.
Riesgos y desafíos.-
Si bien la IA nos propone un abanico de posibilidades para el desarrollo de la sociedad, no se encuentra libre de riesgos. Riesgos que, de no ser tratados a tiempo, se pueden transformar en graves problemas para las naciones, en primer lugar, y para la sociedad en general, en ultima instancia.
Uno de los temores más fáciles de apreciar es la pérdida de puestos de trabajo, dada la automatización de tares rutinarias. Para evitar esta problemática es de suma importancia que los gobiernos locales desarrollen planes estratégicos interdisciplinarios de transición laboral para evitar conflictos sociales.
Otro de los peligros de la implementación de la IA es convertirla en una herramienta de vigilancia masiva, ya que estos sistemas pueden recopilar analizar y procesar grandes volúmenes de datos en tiempo real, lo que permite a entidades públicas y privadas monitorear a las personas, aún sin que ellas sean conscientes de ello. En este apartado se hace referencia a una “vida de Gran Hermano”, lo que hace surgir interrogantes sobre al respeto de las libertades y el derecho a la privacidad.
Un tercer aspecto a tener en cuenta es la ciberseguridad. La creciente digitalización de la vida de las personas y el uso inconsciente de la IA aumentan las posibilidades de Ciberataques, comprometiendo datos sensibles de personas, empresas y del propio estado.
Un cuarto punto a tener en cuenta es el riesgo que existe de poder acentuar desigualdades. Los algoritmos, son entrenados con datos históricos, que, de no ser controlados, pueden perpetuar y amplificar sesgos, discriminaciones sistémicas y estereotipos. Ejemplo de ello es la aplicación del sistema COMPAS, utilizado en la justicia norteamericana, el cual se utiliza para ayudar a los jueces en la evaluación de riesgos potenciales de reincidencia. En el año 2016, se demostró que el sistema tenía un sesgo contra acusados afrodescendientes, al considerarlos de más alto riesgo que los acusados blancos.
Finalmente, a fin de nombrar una última de tantas contingencias, se hace referencia al peligro de concentración de poder. Como sucede en los cambios de paradigma, existe el riesgo de que se produzca una concentración de poder y recursos en manos de quienes controlan la tecnología. Así las empresas encargadas de desarrollar y mantener esta tecnología podrían crear monopolios e influir en la toma de decisiones de los estados referidas a políticas públicas y gubernamentales.
Caminando hacia un futuro ético. -
Teniendo en cuenta estos aspectos que pueden ensombrecer el enorme potencial que nos presenta la inteligencia artificial, no solo a nivel económico sino también para lograr estados más eficientes, es imperioso adoptar medidas al respecto.
Según el reporte publicado por el Banco de Desarrollo de América Latina de ExperiencIA: con respecto a datos e inteligencia artificial en el sector público, un uso responsable de esta tecnología puede ayudar a toda la región a dar un salto cualitativo en la provisión de servicios públicos, en la eficiencia de los procesos burocráticos y en la rendición de cuenta a los ciudadanos[2]
Así estas técnicas podrían ser de una gran ayuda para los gobiernos, por un lado, como se ha recalcado con anterioridad, para poder automatizar tareas rutinarias. La capacidad de la IA para analizar grandes volúmenes de datos de forma rápida y coherente permite que se les ponga a trabajar por si solos, posibilitando que los trabajadores se centren en tareas más importantes. También el uso de esta tecnología puede ayudar en la toma de decisiones brindando información con mayor rapidez a expertos y especialistas.
La UNESCO como agencia especializada de la Organización de Naciones Unidas para promover la paz mediante la cooperación internacional en las áreas de educación, ciencia cultura, comunicación e información[3], elabora la primera recomendación sobre uso de la Inteligencia Artificial creando un marco ético con valores y principios que abarcan 11 áreas claves para acciones políticas. Entre ellas, las que se destacan son gobernanza y administraciones éticas, política de datos, protección de medio ambiente y ecosistemas, género, educación, investigación y bienestar social.
Desde la UNESCO se sostiene que para que los beneficios de las tecnologías basadas en inteligencia artificial se materialicen, es importante que los estados tengan estrategias que promuevan el desarrollo ético de la Inteligencia artificial, como también el desarrollo de capacidades y habilidades en el sector publico y privado. Su objetivo es traducir esta Recomendación en marcos regulatorios internos que ayuden a los estados a promover el uso ético de la inteligencia artificial, garantizando la igualdad de oportunidades para todos sus habitantes.
En base a esto muchos países han avanzado en esta materia, como, por ejemplo:
En la Unión Europea se dictó la Ley de Inteligencia Artificial en 2023 y se dirigen hacia la construcción de marcos institucionales para establecer barreras éticas.
En estados Unidos la legislación sobre inteligencia artificial incluye un borrador de regulación firmado por el presidente Joe Biden que busca reducir los riesgos de prejuicios y violaciones de los derechos civiles; y un proyecto de ley presentado en California también conocido como Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Frontera, busca regular los grandes modelos de IA desarrollados en California. Además, los legisladores estatales de California han aprobado leyes para incrementar la alfabetización en Inteligencia Artificial. Otros estados norteamericanos han decidido también legislar en esta materia, pero referido a industrias, sectores o actividades puntuales.
Uruguay es pionero en la temática en la región, no solo siendo uno de los primeros estados en adherir a la recomendación de la UNESCO sino también al disponer en su Ley de Protección de Datos que los ciudadanos puedan oponerse a las decisiones automatizadas.
Por su lado Colombia en el 2020 crea el «Marco Ético para la Inteligencia Artificial en Colombia», siendo una guía ética para el uso de esta tecnología en los sectores públicos y privados. En 2024 la Autoridad Colombiana de Protección de Datos emitió la Regulación 2/2024, que trata sobre las “Directrices para el Tratamiento de Datos Personales mediante sistemas de IA”
En México la mayoría de las legislaciones que tratan sobre la protección de datos prescriben cuatro derechos generales (acceso, rectificación, cancelación y oposición). Aunque, la ley federal de protección de datos mexicana del año 2010 no prescribe un derecho claro para que los ciudadanos se opongan al tratamiento de los datos.
En Argentina, durante el año 2023 se han promulgado cuatro directivas sobre Inteligencia Artificial, entre las que se destacan las ‘Recomendaciones para una IA Confiable’ de la Jefatura de Gabinete de Ministros de la Nación dirigida al sector público, y la creación de la “Mesa Interministerial sobre IA” “con el propósito de diseñar una estrategia integral al respecto para ser aplicada por el Gobierno Federal”. Durante el 2024 se ha presentado en la Cámara de Senadores de la Nación un proyecto de ley para el uso de la inteligencia artificial.
La Inteligencia Artificial al Servicio de la Justicia: Un Nuevo Paradigma
La irrupción de la inteligencia artificial (IA) ha transformado radicalmente diversos sectores, y el sistema judicial no es una excepción. La promesa de una justicia más eficiente, precisa y accesible ha despertado un gran interés en explorar las posibilidades que esta tecnología ofrece.
Para conceptualizar de manera acotada, la IA engloba una serie de tecnologías que permiten a las máquinas aprender, razonar y tomar decisiones de manera similar a los humanos. En el ámbito judicial, sus aplicaciones son múltiples y van desde la automatización de tareas rutinarias hasta el apoyo a la toma de decisiones complejas.
Automatización de procesos: La IA puede automatizar tareas como la clasificación de documentos, la extracción de información relevante y la gestión de expedientes, liberando así a los jueces y funcionarios para que se concentren en tareas más estratégicas y creativas.
Predicción de resultados: Mediante el análisis de grandes volúmenes de datos, los algoritmos de IA pueden predecir, por ejemplo, la probabilidad de reincidencia de un acusado o la duración de un proceso judicial.
Asistencia en la toma de decisiones: La IA puede proporcionar a los jueces información relevante y actualizada sobre jurisprudencia, legislación y datos estadísticos, facilitando así la toma de decisiones más informadas y objetivas.
Acceso a la justicia: Los chatbots y asistentes virtuales basados en IA pueden proporcionar a los ciudadanos información legal básica y orientarlos en sus trámites judiciales, facilitando el acceso a la justicia para aquellos que no cuentan con representación legal.
La implementación de la IA en el sistema judicial ofrece numerosos beneficios, como una mayor eficiencia, precisión y transparencia. Sin embargo, también plantea desafíos importantes:
Sesgos algorítmicos: Los algoritmos de IA aprenden de los datos con los que son entrenados, por lo que si estos datos contienen sesgos, los algoritmos también los reproducirán. Es fundamental garantizar que los datos utilizados para entrenar los algoritmos sean representativos y libres de sesgos.
Privacidad y seguridad de los datos: El uso de la IA implica el tratamiento de grandes volúmenes de datos personales, lo que plantea importantes desafíos en materia de protección de datos y ciberseguridad.
Transparencia y explicabilidad: Es necesario desarrollar herramientas que permitan comprender y explicar las decisiones tomadas por los algoritmos de IA, garantizando así la transparencia y la rendición de cuentas.
Impacto en el empleo: La automatización de tareas puede llevar a la pérdida de empleos en el sector judicial. Es fundamental diseñar estrategias para gestionar esta transición y garantizar una reconversión laboral adecuada.
El futuro de la IA en el poder judicial
La inteligencia artificial tiene el potencial de transformar radicalmente el sistema judicial, haciéndolo más eficiente, preciso y accesible. Sin embargo, para aprovechar al máximo sus beneficios, es necesario abordar los desafíos que plantea y garantizar que su desarrollo e implementación se realice de manera ética y responsable.
La colaboración entre jueces, abogados, informáticos y otros actores clave será fundamental para diseñar soluciones innovadoras y garantizar que la IA sirva al interés público y contribuya a la construcción de una sociedad más justa y equitativa.
Con esto no se esta buscando sustituir la razón humana dentro de los procedimientos jurídicos, sino implementar herramientas que permitan un justicia más ágil y eficaz). El verdadero problema consiste en establecer de qué modo, para qué finalidad y en qué contexto resulte oportuno formalizar (aspectos) de la normativa (y del conocimiento) jurídico para traducirlo en realizaciones informáticas. Este problema no se puede resolver en abstracto sino que se debe afrontar con una referencia específica a los intereses en juego.[4]
Bibliografía
UNESCO (2022); Recomendaciones sobre la ética de la inteligencia artificial, Organización de Naciones Unidas para la Educación, la ciencia y la cultura.
Organización de Estados Iberoamericanos para la Educación, la Ciencia y la Cultura (OEI): Dossier: Inteligencia Artificial: https://oei.int/oficinas/argentina/noticias/dossier-sobre-inteligencia-artificial-en-el-estado-de-la-ciencia-2023
Nn (2021); Inteligencia artificial para modernizar los Estados de América Latina; https://www.caf.com/es/actualidad/noticias/2021/09/inteligencia-artificial-para-modernizar-los-estados-de-america-latina/
El papel de los actores judiciales en la gobernanza de la IA: https://www.unesco.org/es/artificial-intelligence/rule-law/mooc-judges
La inteligencia artificial en la reforma del Estado: ¿Cuáles son los peligros para la sociedad?; https://www.enorsai.com.ar/politica/41529-la-inteligencia-artificial-en-la-reforma-del-estado--cuales-son-los-peligros-para-la-sociedad.html
CIPPEC (Centro de Implementación de Políticas Públicas para la Equidad y el Crecimiento): La política de la Inteligencia Artificial: sus usos en el sector público y sus implicancias regulatorias; https://www.cippec.org/publicacion/la-politica-de-la-inteligencia-artificial-sus-usos-en-el-sector-publico-y-sus-implicancias-regulatorias/
Magías Cabezas, Alba; La Inteligencia Artificial en el Derecho. Retos y oportunidades; https://www.inesem.es/revistadigital/juridico/la-inteligencia-artificial-en-el-derecho/
Sosa Martinez, Luz Elena: La Inteligencia Artificial y el Derecho: ¿Los algoritmos reemplazarán a los abogados?; https://comunicacionsocial.diputados.gob.mx/revista/index.php/pluralidad/la-inteligencia-artificial-y-el-derecho-los-algoritmos-reemplazaran-a-los-abogados-
Gutierrez, Antonio (2023); Aplicaciones de la inteligencia artificial en el Derecho; https://www.ineaf.es/tribuna/aplicaciones-de-la-inteligencia-artificial-en-el-derecho/
Tallarico, Milagros; El impacto de la Inteligencia Artificial en Argentina: marco regulatorio, desarrollo del legaltech y derecho comparado; https://abogados.com.ar/el-impacto-de-la-inteligencia-artificial-en-argentina-marco-regulatorio-desarrollo-del-legaltech-y-derecho-comparado/32582
Martinez Bahena Gorretty Carolina; La inteligencia artificial y su aplicación en el campo del derecho; https://www.corteidh.or.cr/tablas/r30570.pdf
Cabrera, Romina Florencia; Inteligencia artificial y su impacto en la justicia; http://www.saij.gob.ar/romina-florencia-cabrera-inteligencia-artificial-su-impacto-justicia-dacf200122/123456789-0abc-defg2210-02fcanirtcod
Wittenstein Leonie y Franco Felipe; Uso de la Inteligencia Artificial y los sistemas algorítmicos en el sistema judicial; Fundación Konrad Adenauer Stiftung; https://www.kas.de/documents/271408/16552318/Uso+de+la+Inteligencia+Artificial+y+los+sistemas+algor%C3%ADtmicos+en+el+sistema+judicial+%281%29.pdf/7cd2c325-6b7f-475e-2a8b-59b5544823cb?version=1.0&t=1680036938780
[1] https://www.europarl.europa.eu/news/es/headlines/society/20200827STO85804/que-es-la-inteligencia-artificial-y-como-se-usa
[2] https://www.caf.com/es/actualidad/noticias/2021/09/inteligencia-artificial-para-modernizar-los-estados-de-america-latina/
[4] http://www.saij.gob.ar/romina-florencia-cabrera-inteligencia-artificial-su-impacto-justicia-dacf200122/123456789-0abc-defg2210-02fcanirtcod
Commentaires