08 - IA y Derecho (Santiago Carlen)

En este episodio conversamos con Santiago Carlen , abogado especializado en ciberdelitos, sobre los desafíos y transformaciones que la inteligencia artificial está generando en el campo de la justicia y el derecho. A lo largo del diálogo exploramos: • Cómo se están utilizando herramientas de IA en la justicia • Los riesgos y dilemas de aplicar sistemas de IA en el ámbito judicial. • Los debates entorno a la IA en propiedad intelectual y patentes • Los desafíos de regular una tecnología económica y geopolíticamente clave en un contexto de oligopolios y potencias en competencia Santiago Carlen es abogado (UCES) especialista en investigación de ciberdelitos y evidencia digital (Univ. Austral). Es litigante en el fuero penal federal y provincial de Chubut, autor de artículos de doctrina, investigador del Instituto de Investigación en Ciencias Jurídicas (UCES) en diversos proyectos, y docente y creador del curso "Inteligencia Artificial Generativa para abogados". Índice de temas (00:00:00) Bienvenida (00:00:20) Presentación del episodio (00:03:29) Bienvenida con el invitado (00:04:00) SECCIÓN 1: IA en el sistema judicial (00:07:40) De la máquina de escribir a la IA: transformaciones tecnológicas en tribunales (00:09:34) Uso de IA generativa para redactar escritos, contratos y análisis documental (00:10:38) Problemas de alucinaciones y citas falsas (00:12:26) Limitaciones por falta de entrenamiento con jurisprudencia argentina (00:16:56) IA para automatizar multas y contravenciones y sus límites (00:21:04) Riesgos de decisiones automatizadas frente a la opacidad de los modelos (00:23:30) Sesgos en IA y sesgos en jueces humanos: paralelismos y dilemas (00:26:52) Complejidad de entrenar una IA para realizar inferencias jurídicas y evaluar pruebas (00:30:40) IA en tareas administrativas de la justicia: agilizar trámites y gestiones (00:31:44) Impacto laboral y paralelismos con otras revoluciones tecnológicas (00:33:00) SECCIÓN 2: Nuevos dilemas jurídicos frente a la IA (00:36:28) Cómo el derecho tarda en adaptarse a cambios disruptivos: propiedad intelectual, derechos laborales, responsabilidad civil (00:38:47) Desactualización normativa en Argentina: datos personales y propiedad intelectual (00:39:23) Debate global por el uso de obras con copyright para entrenar modelos (00:41:17) Discusión sobre estilos artísticos, plagio y deepfakes (00:42:42) Tres posturas sobre la autoría de obras generadas por IA (00:45:17) Propuestas de “personalidad jurídica” para IA y debates en la UE (00:46:55) Derechos de autor: sentido, plazos y posible necesidad de adaptación (00:45:00) SECCIÓN 3: Regulación y responsabilidad (00:48:13) La cuestión de la responsabilidad y la personería en la IA generativa y agéntica (00:49:16) Sistemas de responsabilidad civil: subjetiva y objetiva (00:50:03) Paralelos históricos: electricidad y la expansión de la responsabilidad objetiva (00:51:12) Dilemas actuales: quién responde por daños causados por IAs “autónomas” (00:56:45) El enfoque regulatorio de la Unión Europeo en función del nivel de riesgo (00:58:28) Diferencias en los enfoques regulatorios de Estados Unidos, Europa y China (01:05:02) Iniciativas de regulación en América Latina y Argentina (01:06:57) Vuelta a Europa y el desafío de alcanzar marcos regulatorios globales en un contexto de competencia tecnológica (01:09:21) Desafíos de gobernanza global: ¿La IA regulada como la energía atómica? (01:13:43) Saludo final y despedida ---------------------------------- Seguí a LAIA en: Web: https://laia.ar/ Instagram: https://www.instagram.com/laialab_/ X: https://twitter.com/LaiaLab_ Linkedin: https://www.linkedin.com/company/laia-ar/ Podcast: https://open.spotify.com/show/3TUSWSSSUWYrB7Iv0YQDiy Youtube: https://www.youtube.com/@Laia-labinteligenciaartificial/ ---------------------------------- Créditos del episodio: Conducción: Cristian Cao Producción: Cristian Cao, Lucas Pratesi y Florentina Guaita Audio: Sergio Paoletti Imagen y video: Alejandro Biscione