En el texto “¿Cómo regular lo altamente complejo?” de Pompeu Casanovas y Pablo Noriega, se aborda el desafío de regular la Inteligencia Artificial (IA) en un mundo en constante cambio y transformación. El artículo destaca la importancia de trazar la línea entre lo factible y lo inadmisible desde una perspectiva ética y jurídica en el ámbito de la IA, protegiendo las libertades civiles y los derechos humanos.
El texto analiza tres dilemas que surgen en el contexto de la regulación de la IA y la aplicación de sistemas inteligentes en el ámbito del derecho y la ética.
El primer dilema (Dilema 1) se refiere a la tensión entre la necesidad de intervención humana en la aplicación de sistemas inteligentes y la creciente autonomía de los sistemas de IA, que podrían requerir autocontrol o control por parte de otros sistemas de IA.
El segundo dilema (Dilema 2) tiene que ver con la naturaleza de los sistemas de regulación artificial. El texto plantea si estos sistemas deben basarse únicamente en reglas o si deben adoptar otros elementos que no tengan esta forma, como elementos que asuman contradicciones o incertidumbre.
El tercer dilema (Dilema 3) se centra en la implementación de normas en contextos reales y en la interpretación del isomorfismo jurídico. El texto cuestiona si debemos basarnos en el isomorfismo jurídico como pilar fundamental de los sistemas normativos y de la argumentación, o si debemos buscar otras soluciones para el proceso de adquisición del conocimiento que debe ser modelado.
Los autores también hacen referencia a la impenetrabilidad del lenguaje y la opacidad de los métodos empleados en la IA, lo que añade complejidad a la tarea de regularla. Para abordar estos desafíos, proponen tres recursos para el modelado de los sistemas jurídicos: distinguir cinco niveles de gobernanza de los sistemas autónomos de y mediante la IA, recuperar algunas formulaciones de la cibernética y las ciencias del diseño para la construcción de sistemas normativos adaptados a su entorno, y combinar sistemas de reglas con valores de diseño ético para la construcción de sistemas en línea híbridos, en los que intervienen tanto seres humanos como sistemas artificiales autónomos.
Se mencionan en ejemplos muy interesantes, como el caso de Robodebt, una aplicación errónea de la IA en la recuperación indebida de recursos fiscales por parte de la administración australiana, y los problemas de privacidad y seguridad en el uso de datos por parte de organismos y empresas, como el programa Prism de la National Security Agency de Estados Unidos y Cambridge Analytica.
En cuanto a la automatización de las normas, se describen propuestas como la “legislación programada” (Machine Readable Legislation, MRL) y las “reglas como programa” (Rules as Code). Además, se menciona el concepto de “ciudadano digital”, una réplica digital de los ciudadanos basada en sus datos y metadatos que podría emplearse para el control y asignación de recursos públicos.
El texto expone cómo la aplicación de la IA en el ámbito jurídico está cambiando el panorama de las profesiones jurídicas y el negocio de los despachos de abogados. Empresas como Judicata o Lex Machina ya utilizan la IA para predecir resultados y tiempos de duración de los juicios a partir del comportamiento de los jueces en casos similares.
Se observan distintas respuestas por parte de los estados nacionales en relación con la IA. Mientras que Francia ha prohibido el uso de métodos de análisis estadístico basados en la identidad de jueces y secretarios, la Unión Europea ha preparado regulaciones para la construcción y aplicación de sistemas de IA y la regulación de plataformas digitales. Por otro lado, algunos países como Nueva Zelanda, Canadá, Reino Unido y Francia están desarrollando el programa de Rules as Code, buscando minimizar el papel de intermediarios en la interpretación de las normas.
Casanovas y Noriega señalan cómo la aplicación de técnicas de clasificación y decisión basadas en IA es prácticamente inevitable para gestionar los millones de casos que se acumulan en la relación entre los ciudadanos y el Estado. Sin embargo, subrayan la importancia de reservar tiempo y personal para resolver casos difíciles y establecer mecanismos de revisión para corregir errores y falsos positivos o negativos.
Como reflexión final, el texto destaca el cambio de la cultura jurídica que implica la transición de la cultura analógica a la digital, donde ya no existe una separación clara entre el mundo digital y el físico. La IA introduce una realidad híbrida compleja entre humanos y máquinas que requiere de un marco de diseño previo basado en presupuestos éticos, jurídicos y políticos.
El artículo ofrece una panorámica de los desafíos y oportunidades que conlleva la implementación de la inteligencia artificial en el ámbito jurídico y de la gobernanza. Además, enfatiza la importancia de un marco regulador adecuado y de la necesidad de abordar los dilemas relacionados con el grado de autonomía, reflexividad, isomorfismo jurídico y control social automático a través de sistemas basados en IA.
No hay una solución única para estos dilemas y se requiere de una reflexión anticipada, así como la formulación de un marco de diseño previo que tome en cuenta aspectos éticos, jurídicos y políticos. La idea central es que los ciudadanos y las instituciones deben participar activamente en la definición de estos marcos y no delegar ciegamente la toma de decisiones a terceros, sean corporaciones, gobiernos o sistemas artificiales completamente autónomos.
No dejes de leer el artículo completo en: https://nuevosdialogos.unam.mx/comentarios/como-regular-lo-altamente-complejo/. Y te invitamos a que revises la nueva edición de Nuevos Diálogos: Inteligencia artificial, de la ciencia ficción al apocalipsis… ¿y la realidad? https://nuevosdialogos.unam.mx/
Ideas destacadas
- La IA ha transformado rápidamente diversos sectores, incluyendo industria, comercio y gobierno.
- Es vital establecer límites éticos y jurídicos para proteger libertades civiles y derechos humanos en la IA.
- La gobernanza jurídica en IA abarca regulación de y por sistemas inteligentes.
- Existen dilemas fundamentales en la aplicación de IA en contextos jurídicos y éticos.
- La gobernanza en IA debe considerar tanto su uso para regular como la regulación incorporada en los sistemas.
- No hay teoría general que solucione dilemas de autonomía normativa y reflexividad regulativa.
- La opacidad del lenguaje y métodos en IA plantea retos y riesgos en su aplicación social.
- Se proponen recursos como niveles de gobernanza, formulaciones cibernéticas y combinación de reglas y valores éticos para modelar sistemas jurídicos.
- Alinear objetivos de sistemas híbridos con valores y derechos humanos es crucial.
- Participación activa en construcción y evolución de sistemas basados en IA evita delegar ciegamente en terceros o sistemas completamente autónomos.