Aún no estás suscripto a Microjuris? Ingresá aquí.
Autor: Carril, M. Paula – Calvó, Leonardo S.
Fecha: 07-07-2025
Colección: Doctrina
Cita: MJ-DOC-18329-AR||MJD18329
Voces: DERECHOS DEL NIÑO – ADOLESCENTES – INTELIGENCIA ARTIFICIAL – VIOLENCIA DE GÉNERO – MEDIDAS CAUTELARES – PELIGRO EN LA DEMORA – JURISPRUDENCIA
Sumario:
I. Introducción. II. Los riesgos de la IA generativa. III. Los hechos. IV. Aplicación y adecuación del fallo a las prescripciones de la Ley Olimpia. V. Análisis de la sentencia: test de constitucionalidad y convencionalidad. VI. Aspectos críticos del fallo a la luz de una interpretación consecuencialista. VII. Conclusiones.
Doctrina:
Por M. Paula Carril (*) y Leonardo S. Calvó (**)
Abstract
El presente trabajo analiza un reciente fallo judicial dictado por un juzgado de familia de la Provincia de Corrientes, en el que se dispone como medida cautelar el bloqueo total de acceso a un sitio web que utiliza inteligencia artificial generativa para la creación de imágenes sexuales falsas (deepfakes) sin consentimiento, afectando a adolescentes. A partir del análisis del caso, se examina la aplicación e interpretación de la Ley 27.736 («Ley Olimpia») en relación con los principios de legalidad, proporcionalidad y mínima intervención en contextos digitales, así como la articulación con el artículo 26 de la Ley 26.485. Se estudia la adecuación del fallo al control de constitucionalidad y convencionalidad, considerando especialmente los tratados internacionales de derechos humanos incorporados a la Constitución Nacional, con énfasis en los derechos de niñas, niños y adolescentes, y en la perspectiva de género. Asimismo, se reflexiona sobre los desafíos jurídicos que plantea la inteligencia artificial generativa y las llamadas «lagunas del derecho dinámicas» ante fenómenos tecnológicos de evolución constante. El artículo propone una lectura integradora que destaca los aciertos del fallo en cuanto a la tutela urgente y reforzada de derechos fundamentales, aunque también identifica puntos críticos sobre los alcances de la medida y las garantías procedimentales. Finalmente, se reivindica la necesidad de una hermenéutica judicial activa, proactiva y sensible al paradigma de los derechos humanos frente a los riesgos emergentes del ecosistema digital contemporáneo.
I. INTRODUCCIÓN
La irrupción de tecnologías basadas en inteligencia artificial generativa modificó de manera sustancial los modos de generación, producción, circulación y consumo de imágenes, ampliando los márgenes para la creación de contenido manipulado con una apariencia real. En particular, las aplicaciones que permiten la simulación de desnudez mediante superposición facial o corporal representan una nueva forma de violencia digital, especialmente lesiva cuando sus víctimas son niñas o adolescentes.Este fenómeno, alimentado por modelos como las redes generativas antagónicas (GANs) (1), pone en jaque las herramientas clásicas de tutela jurídica e interpela la capacidad del sistema judicial para brindar respuestas eficaces, oportunas y respetuosas de los derechos humanos.
El acceso a los entornos digitales -especialmente a redes sociales, plataformas de mensajería y aplicaciones de edición de imágenes- se presenta habitualmente como un espacio de interacción, ocio o recreación. Sin embargo, dichas herramientas comenzaron a ser empleadas por ciertos usuarios como instrumentos de agresión simbólica, emocional o reputacional, transformándose en medios para ejercer nuevas formas de daño interpersonal, muchas veces invisibilizadas o minimizadas por su carácter no físico, pero no por ello menos invasivo o traumático.
En este contexto, el fallo dictado por el Juzgado de Familia, Niñez y Adolescencia de Paso de los Libres (Provincia de Corrientes, mayo de 2025) en los autos «C. R. A. y otros s/ Acciones derivadas – Protección Niñez y Adolescencia», se erige como un antecedente jurisprudencial de enorme relevancia. A través de una medida cautelar, el tribunal dispuso el bloqueo preventivo del sitio web UndressHer.app, una plataforma que permite generar imágenes sexualizadas simuladas mediante inteligencia artificial, en el marco de una denuncia por afectación a la dignidad e intimidad de dos adolescentes mujeres.
El presente artículo propone analizar la decisión judicial bajo tres ejes complementarios:en primer lugar, su adecuación a las prescripciones de la Ley 27.736 -Ley Olimpia- y al plexo normativo de protección de la niñez y contra la violencia de género; en segundo lugar, su compatibilidad con el test de constitucionalidad y convencionalidad exigido por el orden jurídico argentino; y finalmente, sus aspectos críticos desde una interpretación consecuencialista, que permita valorar no sólo la legalidad formal de la medida, sino también su eficacia, impacto social y sostenibilidad institucional.
Para abordar esta tarea, consideramos indispensable revalorizar la perspectiva de género (2) como herramienta interpretativa transversal, tanto en la construcción interpretativa del conflicto como en la búsqueda de soluciones jurídicas respetuosas de los derechos de las personas más vulnerables. Juzgar con perspectiva de género no es una elección del juez, librada a su prudente arbitrio, sino un mandato constitucional y convencional, que se alinea con los compromisos asumidos por el Estado argentino y con la evolución jurisprudencial en materia de igualdad sustantiva y violencia estructural.
Además, si bien es cierto que el avance tecnológico se desarrolla a un ritmo exponencial y superior al que permite la sanción y actualización de normas protectorias (3), ello no implica que el derecho positivo resulte estéril o ineficaz. Por el contrario, las leyes vigentes -como la Ley Olimpia- deben ser interpretadas de manera dinámica y teleológica, a fin de ser adecuadamente aplicadas a los casos concretos, aun cuando los mecanismos tecnológicos involucrados no hubieran sido expresamente previstos en su redacción original.
El fallo en análisis constituye, en tal sentido y a nuestro entender, un esfuerzo hermenéutico y dinámico por adaptar las herramientas jurídicas existentes a un fenómeno disruptivo y en rápida evolución, lo que merece ser reconocido.No obstante, también impone la necesidad de examinar con rigurosidad los límites técnicos, jurisdiccionales y constitucionales de las medidas adoptadas, con el propósito de consolidar una doctrina judicial sólida, prudente y garantista frente a los desafíos emergentes que plantea la inteligencia artificial en el ámbito de los derechos fundamentales.
II. LOS RIESGOS DE LA IA GENERATIVA
El desarrollo de tecnologías basadas en inteligencia artificial generativa revolucionó la capacidad de crear contenidos digitales con un grado de realismo que dificulta diferenciarlas de imágenes o sonidos reales. Modelos como las Redes Generativas Antagónicas (GANs) o los modelos de difusión permiten generar rostros humanos inexistentes, modificar expresiones faciales o, como ocurre en el presente caso, simular escenas de desnudez a partir de fotografías legítimas de personas reales, sin intervención física ni consentimiento alguno.
Este tipo de herramientas, cuando son utilizadas sin control, presentan riesgos jurídicos y sociales significativos, particularmente cuando las personas involucradas son menores de edad. En tales casos, la tecnología no solo se convierte en un medio para la vulneración de derechos, sino también en un vehículo de violencia simbólica, psicológica y digital, cuyo impacto se extiende más allá del entorno virtual.
La inteligencia artificial (I.A.) viene irrumpiendo abruptamente en nuestras vidas, a pasos agigantados y en un incesante devenir que parece marcar el puntapié de una era nueva, en un sinfín de aspectos aún desconocidos para el ser humano. Resulta difícil aunar consensos frente a un evento cuyas fronteras aún no se avizoran. Sin embargo, es posible ensayar primigeniamente líneas generales sobre la implementación de la I.A.en los procesos judiciales y su necesaria vinculación con la protección de los derechos de los NNA (4).
El fenómeno jurídico que se nos interpone en el horizonte resulta amplio y variado, y se gesta en el marco de una vasta confluencia entre relaciones jurídicas que son impactadas por los cambios tecnológicos y las que no (5).
Desde el punto de vista técnico, la generación de este tipo de contenido no requiere hoy conocimientos avanzados ni equipos complejos. Plataformas como UndressHer.app, a la que hace referencia el fallo objeto de análisis, ofrecen interfaces simples donde el usuario puede cargar una fotografía y obtener en segundos una imagen manipulada que simula desnudez. Tal capacidad tecnológica plantea problemas graves de privacidad, dignidad y autonomía personal, al permitir la producción de contenido de carácter sexual sin control de edad, sin filtros éticos y sin verificación de consentimiento.
En el plano normativo, este tipo de prácticas enfrenta una especie de laguna jurídica (6) o desfasaje regulatorio, ya que no siempre encuadran claramente en los tipos penales vigentes (por ejemplo, pornografía infantil o grooming), y muchas veces se desarrollan fuera del territorio nacional, dificultando su persecución efectiva. A ello se suma la opacidad de los responsables técnicos (desarrolladores, servidores, estructuras empresariales off-shore, etc.), lo que agrava la situación de indefensión de las víctimas.
En el caso concreto, el Juzgado de Familia de Paso de los Libres toma conocimiento de que se habrían creado y difundido imágenes manipuladas de dos adolescentes, en las que sus rostros aparecen superpuestos a cuerpos desnudos, sin consentimiento y sin vínculo con hechos reales.La generación de estas imágenes, conforme surge del informe pericial incorporado en el expediente, se habría producido mediante el uso de una aplicación que emplea modelos de IA generativa con propósitos explícitos de simulación sexual, sin barreras técnicas que limiten su uso respecto de menores.
La resolución judicial parte del reconocimiento de esta tecnología como un riesgo emergente que el derecho aún no regula adecuadamente, pero que exige respuestas preventivas urgentes cuando se ve comprometido el interés superior del niño. En este sentido, la inteligencia artificial no solo representa un avance técnico, sino también un nuevo campo de tensión jurídica, en el que los derechos fundamentales deben ser reconfigurados frente a agentes no humanos capaces de producir daño sin intervención directa del sujeto emisor.
El tratamiento normativo de estos riesgos, como se abordará en el próximo apartado, encuentra un primer encuadre en la reciente incorporación de la violencia digital a la Ley 26.485 mediante la Ley 27.736, que brinda una herramienta legal para la tutela judicial en estos supuestos. No obstante, el análisis de este caso revela la necesidad de afinar la comprensión del alcance y los límites de estas nuevas herramientas judiciales en un contexto transnacional, técnico y en constante evolución.
III. LOS HECHOS
El expediente caratulado «C. R. A. y otros s/ Acciones derivadas – Protección Niñez y Adolescencia» tramita ante el Juzgado de Familia, Niñez y Adolescencia de Paso de los Libres, provincia de Corrientes, bajo el número LXP 33143/25.La intervención judicial se origina a partir de la denuncia formulada por los progenitores de dos adolescentes, quienes habrían sido objeto de la difusión, mediante la plataforma WhatsApp, de imágenes manipuladas en las que sus rostros aparecen superpuestos en cuerpos desnudos, configurando una simulación digital de contenido sexual.
A partir de la presentación, el Juzgado dispuso medidas de protección en el marco de las disposiciones de la Ley 26.061 , y requirió un informe técnico al Área de Seguridad Informática de la Dirección de Informática del Poder Judicial de Corrientes. En dicho informe se identificó como herramienta tecnológica presuntamente utilizada la aplicación digital denominada UndressHer.app, una plataforma basada en inteligencia artificial generativa que emplea redes neuronales, específicamente modelos GANs (Redes Generativas Antagónicas) o modelos de difusión, para simular la eliminación de ropa en fotografías cargadas por usuarios.
La pericia técnica destaca que esta aplicación permite la generación de imágenes que presentan una apariencia realista de desnudez, sin filtros de edad ni mecanismos de verificación de consentimiento, y operando en condiciones de anonimato, con almacenamiento probable en servicios en la nube (AWS o Google Cloud), y sin información clara sobre los responsables o desarrolladores de la herramienta.
En función de estos elementos, y considerando la afectación directa a los derechos de las adolescentes involucradas, el juzgado entiende configurada una situación de riesgo actual y concreto que amerita la adopción de medidas cautelares, tendientes a impedir la reiteración del daño, tanto respecto de las víctimas identificadas como de otras personas potencialmente afectadas.En ese marco, se dicta la Resolución N.º 408, con fecha 21 de mayo de 2025, en la que se ordena la intervención del Ente Nacional de Comunicaciones (ENACOM), a efectos de que proceda -por sí o a través de los proveedores de servicios de Internet- al bloqueo del acceso desde el territorio argentino al sitio web UndressHer.app y a todos los servidores DNS sujetos a su control.
Asimismo, se ordena dar intervención a la Unidad Fiscal Especializada en Ciberdelincuencia (UFECI), con el objeto de promover las investigaciones correspondientes, colaborar con la identificación de los responsables y articular posibles canales de cooperación internacional.
Las medidas dispuestas son adoptadas en el marco de lo previsto en los artículos 33 a 35 de la Ley 26.061, el artículo 706 del Código Civil y Comercial de la Nación, el artículo 26 inciso 9.a de la Ley 26.485 (modificada por Ley 27.736), y los artículos 18 incisos h) e i) del Código Procesal de Familia, Niñez y Adolescencia de la provincia de Corrientes.
IV. APLICACIÓN Y ADECUACIÓN DEL FALLO A LAS PRESCRIPCIONES DE LA LEY OLIMPIA
Como ya lo sostuvimos (7), la incorporación de la mirada de género en las sentencias es una obligación en clave constitucional y convencional.La perspectiva de género se erige como una herramienta conceptual o categoría analítica que demanda ser incorporada a las decisiones jurisdiccionales para que reflejen la tolerancia y el respeto de una sociedad pluralista y multicultural, a fin de dar una respuesta adecuada y eficaz a los sectores vulnerables de la sociedad.
En este sentido, debe recordarse -tal y como lo sostiene Maturana Cabezas- que «la efectiva vigencia material de la igualdad entre hombres y mujeres es la meta última que pretende realizarse por medio de una justicia con perspectiva de género» (8), lo que exige adoptar decisiones jurisdiccionales que no solo reparen el daño individual, sino que contribuyan a desarticular estructuras sociales de discriminación.
La Ley 27.736, conocida como «Ley Olimpia», sancionada en diciembre de 2023, introdujo en el ordenamiento jurídico argentino la figura de violencia digital como modalidad específica de violencia por motivos de género, incorporándola dentro del artículo 6 de la Ley 26.485 de Protección Integral para Prevenir, Sancionar y Erradicar la Violencia contra las Mujeres. Asimismo, modificó el artículo 26 de dicha ley, añadiendo el inciso 9.a, que otorga facultades expresas a la autoridad judicial para ordenar la supresión de contenidos digitales que configuren actos de violencia digital o telemática.
Desde un punto de vista normativo, la aplicación de esta ley al caso resulta pertinente y técnicamente adecuada.El fallo en análisis identifica de forma fundada una conducta que, si bien no implica un contacto físico ni una agresión directa, configura una forma agravada de violencia simbólica y psicológica mediada por tecnología, que se proyecta en el entorno digital, afecta la dignidad y la imagen de dos adolescentes, y tiene como instrumento una aplicación que permite la simulación de desnudez sin consentimiento.
La paulatina incorporación de la perspectiva de género en la labor judicial al momento de decidir la solución a un caso concreto importa el cumplimiento de la obligación constitucional y convencional de hacer efectivo el derecho a la igualdad, en el marco de las aún vigentes situaciones desiguales y asimétricas de carácter estructural, cuyos sesgos androcéntricos aún perduran en nuestra realidad (9).
En tal sentido, el juzgado no solo recurre a la Ley Olimpia como fundamento normativo, sino que la incorpora dentro de un plexo de normas protectorias, integrando también por la Ley 26.061 (protección de los derechos de niños, niñas y adolescentes), la Ley 26.485 y la Convención sobre los Derechos del Niño, lo que permite enmarcar la decisión dentro de una estrategia de tutela reforzada de derechos fundamentales.
La adopción de una medida cautelar consistente en el bloqueo del acceso al sitio web UndressHer.app, se basa expresamente en el nuevo artículo 26 inciso 9.a de la Ley 26.485 (t.o. Ley Olimpia), que autoriza al juez a ordenar, mediante resolución fundada, la remoción de contenidos digitales, identificando la URL específica y notificando a las plataformas mediante canales electrónicos, incluso con fundamento en el artículo 122 de la Ley General de Sociedades. En este punto, la decisión judicial cumple con los requisitos legales formales: se encuentra debidamente fundada, se identifica el sitio involucrado, y se establece el mecanismo de notificación correspondiente.No obstante, desde el prisma de una interpretación dinámica, cabe señalar que la Ley Olimpia -en cuanto regula la remoción de contenido digital- no prevé expresamente la figura del «bloqueo total» de sitios o dominios completos, pero se vislumbra como una herramienta de mayor intensidad que la prevista para la supresión de contenidos puntuales. En este sentido, algunos autores han advertido que la ley requiere una interpretación armónica con los principios de proporcionalidad y mínima intervención, propios de cualquier restricción de derechos en entornos digitales.
Asimismo, la ley exige que el contenido cuya remoción se ordena sea claramente identificado a través de una URL específica, lo que en este caso no se evidencia en los términos literales del fallo, donde se ordena el bloqueo total del dominio https://undressher.app, sin referencia concreta a una página interna o contenido específico vinculado con las víctimas. Este punto es relevante, ya que podría tensionarse con principios de libertad de expresión, legalidad y debido proceso digital, especialmente cuando el sitio no fue oído ni notificado con anterioridad.
A pesar de ello, debe destacarse que la resolución judicial se inscribe en una situación urgente y de alta sensibilidad, en la que el juez valora el riesgo de reiteración del daño y el acceso irrestricto a una herramienta digital que, según se describe en la pericia, opera sin filtros de edad ni control alguno sobre el uso de imágenes de terceros. En ese marco, el fallo cumple una función de acción directa ante una amenaza concreta, lo cual es coherente con el espíritu preventivo que inspira la Ley Olimpia.
En efecto, cuando un sitio se destina esencialmente a la difusión de contenido lesivo generado mediante inteligencia artificial -como en el caso de los deepfakes sexuales no consentidos- el bloqueo total del dominio se presenta como una medida razonable, proporcionada y necesaria, ya que no existe en dicho entorno digital un contenido lícito relevante que justifique su subsistencia parcial.Esta solución se adapta al caso concreto, toda vez que prioriza la protección integral de las víctimas frente a una herramienta tecnológica que opera exclusivamente como medio de violencia digital.
Desde una perspectiva más amplia, el caso pone de manifiesto las fortalezas y también las zonas grises de la Ley 27.736 : por un lado, ofrece herramientas concretas para que el Poder Judicial intervenga en defensa de derechos vulnerados en el entorno digital; por el otro, plantea el desafío de precisar los límites, alcances y garantías procedimentales que deben acompañar esas medidas, especialmente cuando se trata de plataformas extranjeras, anónimas o alojadas fuera de la jurisdicción nacional.
V. ANÁLISIS DE LA SENTENCIA: TEST DE CONSTITUCIONALIDAD Y CONVENCIONALIDAD
a) Control de constitucionalidad
El control de constitucionalidad d e una resolución judicial exige examinar si la decisión respeta las garantías, principios y derechos consagrados en la Constitución Nacional, tanto desde el punto de vista formal como material.
En el caso bajo análisis, el juzgado dicta una medida cautelar que restringe el acceso a un sitio web, justificando su decisión en la protección urgente de derechos fundamentales de dos adolescentes cuyos rostros fueron empleados, sin su consentimiento, en imágenes digitales de contenido sexual simulado. En ese marco, el fallo invoca la tutela del interés superior del niño (art. 75 inc. 22 CN), así como el derecho a la dignidad humana, a la intimidad (art. 19 CN) y a la integridad psicofísica de las personas menores de edad.
Desde el punto de vista material, la decisión cumple con el objetivo legítimo de preservar derechos fundamentales reconocidos por la Constitución.Asimismo, puede considerarse razonable en tanto responde a una situación concreta de vulneración, cuenta con sustento pericial y se adopta en el marco de un procedimiento de familia y niñez, con competencia legalmente establecida.
Sin embargo, es posible advertir algunas debilidades en la argumentación sobre la proporcionalidad y necesidad de la medida, en particular en lo que respecta a su alcance general (bloqueo total del sitio web), su eficacia potencial y la falta de ponderación respecto de otros derechos que podrían verse afectados, como la libertad de expresión o el acceso a la información. El fallo no explicita la inexistencia de medios menos lesivos -como la remoción específica de contenido mediante URL- ni analiza el impacto concreto de la restricción impuesta.
Tampoco se evalúa la eventual afectación del principio de legalidad y de debido proceso respecto del sitio afectado o sus responsables, que no fueron oídos ni notificados antes de adoptarse la medida. Aunque se invoca el artículo 122 de la Ley 19.550, no se justifica cómo se intentó su aplicación ni se prevé una instancia ulterior de contradicción.
Desde esta perspectiva, el fallo supera el test de legalidad y finalidad legítima, pero presenta tensiones en el plano de la proporcionalidad en sentido estricto, especialmente al tratarse de una medida de bloqueo digital con efectos amplios y extraterritoriales.
En principio, podemos decir que la tensión es solo aparente.Decimos esto porque puede superarse si se ensaya una tarea de ponderación y valoración de los derechos en juego, porque si bien encontramos una posible tensión entre derechos fundamentales (derecho a la integridad sexual y psicofísica- derecho al debido proceso legal), la misma puede sortearse poniendo sobre la balanza los bienes jurídicos protegidos respectivamente, para de ese modo hacer jugar la ponderación y concluir que frente al primer derecho del que hablamos (la integridad sexual y psicofísica de las adolescentes), debe ceder el segundo de ellos (derecho al debido proceso legal). Quizás la debilidad de la argumentación recae en este punto nodal, y hubiese sido óptimo que el juzgado ensayara algún tipo de ponderación de este tipo, que integradora y complementaria de otras razones que esgrime, sortearía cualquier argumento en contra.
b) Control de convencionalidad
El control de convencionalidad impone a los jueces nacionales la obligación de interpretar y aplicar las normas internas conforme a los tratados internacionales de derechos humanos con jerarquía constitucional (art. 75 inc.22 CN), y a los estándares desarrollados por los órganos internacionales de interpretación autorizada, como la Corte Interamericana de Derechos Humanos.
En este caso, la resolución judicial se funda explícitamente en normas de jerarquía supralegal y convencional, entre ellas:
– La Convención sobre los Derechos del Niño, que en sus artículos 16 y 19 protege la intimidad y ordena la adopción de medidas para resguardar a niñas y niños de toda forma de violencia.
– La Convención de Belém do Pará, que amplía la noción de violencia por motivos de género e impone deberes de prevención, sanción y reparación, incluso en ámbitos privados y virtuales.
– La doctrina de la Corte Interamericana, que en casos como Campo Algodonero, Ramírez Escobar o González Lluy, estableció la obligación estatal de actuar con debida diligencia frente a situaciones de riesgo estructural y violencia basada en género, especialmente cuando involucra a niñas o adolescentes.
El fallo también se alinea con instrumentos más recientes del sistema de Naciones Unidas, como el informe de la Oficina del Alto Comisionado para los Derechos Humanos sobre los riesgos de la inteligencia artificial generativa (A/HRC/53/40, 2023), que alerta sobre su uso indebido en la creación de contenido sexual falso y la necesidad de establecer medidas regulatorias urgentes para proteger a mujeres y menores de edad.
En ese marco, la resolución judicial puede ser valorada positivamente desde el control de convencionalidad: reconoce los estándares internacionales aplicables, actúa de forma preventiva frente a una amenaza tecnológica concreta y procura evitar una repetición del daño mediante la adopción de una medida razonablemente urgente y fundada.
Es que, sin ánimos de ser reiterativos, la perspectiva de género necesariamente requiere consagrarse como un eje transversal en la hermenéutica de cada caso particular, en la interpretación de la norma y en el juego de principios y demás fuentes del derecho.La mirada no se agota ni siquiera en el derecho positivo, sino que demanda trascender en su conexa y congruente articulación con los derechos humanos y el derecho natural que subyace el mundo de lo corpóreo, lo concreto y lo superficial (10).
En ese sentido, jurisprudencialmente se sostiene que «Toda controversia judicial donde se advierta una situación de violencia o vulneración de derechos por razones de género hace necesario que la misma sea tenida en cuenta a fin de visibilizarla y eliminar o morigerar las consecuencias que las mismas producen» (11).
No se trata de una cuestión antojadiza, sino de una obligación que está estrechamente asociada a los derechos humanos: juzgar con perspectiva de género es -per se- una cuestión de derechos humanos (12).
c) Reflexión integradora: compatibilidad y tensiones entre ambos planos
El control de constitucionalidad y el control de convencionalidad no son esferas disociadas, sino dimensiones complementarias del principio de supremacía normativa. En el presente caso, la resolución judicial refleja una voluntad activa de armonizar ambos planos, en particular al ponderar el interés superior del niño y la protección contra nuevas formas de violencia digital.
Sin embargo, la medida adoptada -bloqueo completo de un sitio web extranjero- presenta algunas tensiones -en principio solo aparentes- entre la eficacia simbólica del acto y la necesidad de respetar principios constitucionales como la legalidad, la defensa en juicio y la proporcionalidad. Si bien el contenido afectado justifica una respuesta judicial decidida, la técnica empleada (bloqueo total) podría resultar excesiva si no se ajusta a mecanismos de precisión y control, en especial cuando no se evalúa la posible afectación de derechos de terceros o la eficacia real de la medida adoptada.
En definitiva, el fallo logra satisfacer los estándares fundamentales del control de convencionalidad y parcialmente los del control de constitucionalidad, pero plantea la necesidad de seguir construyendo una doctrina judicial prudente, razonable y técnicamente rigurosa frente a las particularidades que plantea el entorno digital y el uso de inteligencia artificial generativa con fines lesivos.
VI.ASPECTOS CRÍTICOS DEL FALLO A LA LUZ DE UNA INTERPRETACIÓN CONSECUENCIALISTA
La interpretación consecuencialista exige a los jueces considerar no sólo la validez formal de sus decisiones, sino también sus efectos prácticos, previsibles y sostenibles en el tiempo. Esta perspectiva, hoy presente tanto en la doctrina contemporánea como en la jurisprudencia de tribunales constitucionales y organismos internacionales de derechos humanos, promueve una racionalidad jurídica comprometida con la eficacia real de las resoluciones y con el respeto a los principios estructurantes del orden jurídico, incluso frente a nuevos desafíos tecnológicos como la inteligencia artificial generativa.
Como bien lo señala su nombre, este tipo de exégesis propone prever las consecuencias que se desprenden de las decisiones judiciales de cara al futuro, y que repercuten, claro está, en la sociedad misma. Importa mirar más allá de la solución para el caso particular, y centrar la atención también en las consecuencias que la decisión judicial implica para casos análogos y en circunstancias actuales y futuras, porque la proyección se ensaya no sólo para agotarse en el caso justiciable bajo análisis, sino como una perspectiva que se irá trazando a futuro.
En el caso objeto de análisis, el fallo dictado por el Juzgado de Familia, Niñez y Adolescencia de Paso de los Libres se inscribe en un contexto de alta sensibilidad institucional y social: el uso de una aplicación basada en IA generativa para crear imágenes sexuales simuladas de menores de edad, lo que configura una forma compleja y reciente de violencia digital. Frente a este hecho, el tribunal adopta una medida cautelar urgente ordenando el bloqueo del sitio UndressHer.app desde el territorio argentino, al considerar que su accesibilidad representa un riesgo cierto de reiteración del daño.
Desde una mirada consecuencialista, la decisión presenta tanto méritos como limitaciones que merecen ser analizados en forma integrada.
Por un lado, la resolución judicial cumple una función simbólica y protectora de gran relevancia.Visibiliza un fenómeno emergente -la manipulación de imágenes con fines lesivos mediante IA- y proporciona una respuesta institucional que afirma el deber estatal de actuar con debida diligencia en defensa de los derechos de niñas, niños y adolescentes. En este sentido, el fallo fortalece la legitimidad del Poder Judicial en su rol de garante de los derechos fundamentales, particularmente frente a nuevas formas de agresión digital que tradicionalmente escapaban al radar del derecho.
No obstante, desde el punto de vista técnico y estratégico, pueden señalarse algunos elementos críticos vinculados a los efectos prácticos, previsibles e indirectos de la medida adoptada.
En primer término, la eficacia de la orden de bloqueo es limitada: los mecanismos técnicos que posibilitan su ejecución -a través de ENACOM y los proveedores de servicios de Internet- son relativamente fáciles de eludir mediante el uso de VPN, DNS alternativos u otras herramientas disponibles para el usuario común. A ello se suma la posible proliferación de sitios espejo y nuevas plataformas con funcionalidades similares, lo que convierte la intervención en un remedio focalizado sobre un único nodo en una red global descentralizada. Desde esta óptica, la medida puede resultar insuficiente como técnica de prevención general y poco efectiva como estrategia de disuasión.
En segundo lugar, la extensión de la medida -que implica el bloqueo total del dominio sin identificación precisa de las URLs involucradas- plantea tensiones con el principio de proporcionalidad en sentido estricto, y podría sentar un precedente problemático si se generaliza su uso en otros contextos. La ausencia de individualización del contenido concreto vinculado al caso y la falta de previsión de una instancia de contradicción posterior limitan el control jurisdiccional y aumentan el riesgo de afectación de derechos de terceros o de libertad digital.
En tercer lugar, la decisión no desarrolla en profundidad una estrategia de articulación con organismos internacionales o mecanismos de cooperación interestatal, lo cual debilita su eficacia en contextos de extraterritorialidad tecnológica.La UFECI es mencionada como órgano interviniente, pero sin un plan de acción claro ni vinculación con instrumentos multilaterales como el Convenio de Budapest o redes regionales de ciberdelito.
Por último, si bien la medida encuentra cobertura legal en la Ley Olimpia, la práctica judicial aún se encuentra en fase incipiente respecto de su aplicación. No hay todavía lineamientos jurisprudenciales uniformes sobre el uso de bloqueos generales en entornos digitales, ni protocolos que aseguren su ejecución respetando los estándares del debido proceso y del control judicial de contenidos en plataformas alojadas en el extranjero.
Frente a todo ello, el fallo constituye un primer paso necesario y positivo en la materia que nos convoca, más allá de algunos aspectos que en decisiones futuras merecen atención y demandarán mayores precisiones para la efectividad y eficacia de las decisiones judiciales. No obstante, entendemos que es incuestionablemente valioso como declaración institucional de intolerancia frente a la violencia digital, pero su eficacia dependerá de que sea acompañado por un desarrollo normativo y doctrinario más concreto y elaborado, que permita construir herramientas procesales idóneas, prever garantías mínimas de control, y facilitar la cooperación internacional en entornos virtuales sin fronteras.
La inteligencia artificial generativa plantea una mutación en la forma en que se producen, reproducen y difunden los daños extrapatrimoniales, especialmente en los grupos más vulnerables. En este escenario, los jueces deben actuar con rapidez y premura, pero también con previsibilidad, proyectando el impacto de sus decisiones en el ecosistema jurídico general, sin perder de vista que el derecho digital -por su propia naturaleza- exige intervenciones cuidadosas, proporcionadas y técnicamente justificadas, tanto en su oportunidad como en su alcance.
Como dice Sanz Lurruga:«La interacción entre el Derecho y la tecnología constituye un fenómeno cada vez más relevante con implicación creciente para los operadores jurídicos y que afecta a todos los sectores del ordenamiento jurídico» (13).
Asimismo, no debemos perder de vista que más allá de los derechos y obligaciones que surgen y surgirán a futuro en el entorno tecnológico y digital, a lo largo de estos 30 años transcurridos desde la sanción de la Constitución Nacional, se han logrado avances significativos directamente ligados al caso que nos convoca como la incorporación de la perspectiva de género como un eje transversal en materia de decisiones judiciales, la visibilización y el reconocimiento de derechos en materia de género y la implementación de programas y políticas encaminadas en esa dirección. Sin embrago aún persisten grandes desafíos en aras de lograr una sociedad más igualitaria y justa para todas las personas.
VII. CONCLUSIONES
El reciente fallo dictado por el Juzgado de Familia, Niñez y Adolescencia de Paso de los Libres representa un esfuerzo loable y meritorio por brindar una respuesta judicial inmediata, protectora y efectiva frente a un fenómeno emergente de violencia digital facilitada por el uso y aplicación de inteligencia artificial generativa. Entendemos que, través de una medida cautelar de carácter innovador -el bloqueo preventivo del sitio UndressHer.app-, el tribunal procuró preservar la integridad, la intimidad y la dignidad de dos adolescentes, y ello resulta trascendental frente a este panorama en el que las herramientas digitales también pueden ser vehículos de agresión simbólica, emocional y social, especialmente cuando reproducen estereotipos o sexualizan cuerpos de niñas y mujeres sin su consentimiento.
Entre los principales aciertos del pronunciamiento, destacamos que subyace en el mismo una clara impronta de una interpretación que recepta la perspectiva de género como categoría transversal, así como la incorporación de estándares internacionales en materia de derechos humanos de las mujeres, la niñez y la adolescencia.A nuestro criterio, el tribunal aplicó de forma expansiva y razonada la Ley 27.736 (Ley Olimpia), y esa interpretación resulta atinada y necesaria como herramienta normativa eficaz aun frente a tecnologías no expresamente contempladas por el legislador.
Entre otros méritos del pronunciamiento, cabe poner de resalto que la decisión es también una traducción del principio precautorio, que permite actuar ante riesgos inminentes aun cuando el daño todavía no se haya producido, en un contexto donde los efectos de la exposición digital son difíciles de dimensionar, pero potencialmente devastadores. En este sentido, el fallo se sitúa en una línea progresiva, que prioriza la protección de derechos frente a un fenómeno en construcción, como es el uso lesivo de la inteligencia artificial generativa en la producción y difusión de contenidos que simulan desnudez.
Más allá de las observaciones que puedan aportarse y de algunos puntos que podrán mejorarse en futuros pronunciamientos, la tendencia general del fallo es valorable, especialmente si se lo enmarca en el contexto de transformaciones tecnológicas vertiginosas que desafían los marcos jurídicos tradicionales y exigen soluciones interpretativas creativas, fundadas y comprometidas con los derechos fundamentales.
Esta nueva corriente interpretativa, basada en el reconocimiento de lagunas jurídicas dinámicas que requieren soluciones igualmente dinámicas y evolutivas, permite justificar una intervención judicial que, por su alcance y finalidad, procura dar una respuesta eficaz a una problemática en creciente proliferación entre adolescentes. De no mediar decisiones urgentes y proactivas, estos fenómenos -como la simulación de desnudez mediante inteligencia artificial- podrían expandirse a otros ámbitos sociales y colectivos vulnerables, agravando la afectación de derechos fundamentales.Como dice Engisch, «Las lagunas aparecen cuando el derecho no puede dar una solución inmediata a una cuestión jurídica» (14).
En efecto, los diferentes Instrumentos Internacionales de Derechos Humanos que fueron incorporados al ordenamiento jurídico argentino con jerarquía constitucional como consecuencia del proceso de constitucionalización del derecho internacional y los efectos que los procesos de internacionalización, constitucionalización y convencionalización tuvieron en la normativa interna, generan las bases para el dictado de decisiones judiciales que, en esa construcción hermenéutica, deben dar respuesta a una realidad empírica que requiere una adecuación al paradigma de derechos humanos (15).
Las premisas de las que parten estos instrumentos, y la idea de un ordenamiento jurídico constitucional-convencional, demandan inexcusablemente considerar los cambios y adelantos que nos acercan la inteligencia artificial y las Tecnologías de la Información y la Comunicación (TIC). Ello exige no sólo una lectura adecuada del derecho vigente, sino también un diálogo constante entre el derecho, la ciencia y la cultura, a fin de integrar los nuevos desafíos en una praxis judicial respetuosa de la dignidad humana.
El uso de la inteligencia artificial irá aumentando de cara al futuro porque los avances en el campo se presentan a pasos agigantados. El desafío que hoy afronta el Derecho es pensar en formas diversas de regular una realidad esencialmente mutable, sobre bases suficientemente dinámicas que puedan incluso servirse de la propia tecnología para acompañar y adecuarse a esa evolución. En esa tarea, el rol de la judicatura como garante de los derechos fundamentales es crucial, especialmente cuando la urgencia de la respuesta no puede esperar el tiempo -lento y a veces esquivo- de la reforma legislativa.
El caso aquí analizado inaugura un camino:el de la adaptación dinámica de las previsiones normativas al sustrato empírico y la interpretación evolutiva del derecho frente a la disrupción tecnológica, sin renunciar a los principios constitucionales y a los mandatos convencionales que -sobre todo en materia de derechos humanos fundamentales- demandan el reconocimiento de su irrestricta vigenci a. Una senda compleja, pero necesaria.
Bibliografía
1. Carril, M. P. (2024). Reflexiones sobre la compensación económica y la perspectiva de género. A 30 años de la Reforma Constitucional. ElDial.com – MJ-DOC-17971-AR. https://www.eldial.com/nuevo/micj/mp_ver.asp?id=17971
2. Carril, M. P. (2024). Derechos del niño e inteligencia artificial. A 30 años de la reforma constitucional de 1994. Revista Procesal y de Derecho Procesal Informático, (8), 44-54.
3. Montalbán Huertas, J. L. (2023). Violencia digital y género: reflexiones sobre los nuevos desafíos jurídicos frente a las tecnologías de simulación profunda. Revista Procesal y de Derecho Procesal Informático, (7), 23-41. https://www.saij.gob.ar/nueva-edicion-revista-procesal-procesal-informatico-0000058423-original.pdf
. ONU – Oficina del Alto Comisionado para los Derechos Humanos. (2023). Informe sobre los riesgos de la inteligencia artificial generativa. A/HRC/53/40. https://digitallibrary.un.org/record/4012212
5. Corte Suprema de Justicia de la Nación. (2009). Halabi, Ernesto c/ PEN s/ amparo ley 16.986. Fallos 332:111.
6. Engisch, K. (2005). Introducción al pensamiento jurídico (trad. M. B. Majfud). Madrid: Civitas Ediciones.
7. Sanz Larruga, M. J. (2022). El principio de precaución en el ámbito de la inteligencia artificial: riesgos, incertidumbres y límites. Revista de Derecho Ambiental y Tecnologías Emergentes, 5(2), 23-47.
8. Maturana Cabezas, M. (2020). Control de convencionalidad: apuntes conceptuales y su desarrollo jurisprudencial. Santiago de Chile: Ediciones Jurídicas.
9. República Argentina. (2006). Ley 26.061 de Protección Integral de los Derechos de Niños, Niñas y Adolescentes. Boletín Oficial de la República Argentina, 26 de octubre de 2005.
10. República Argentina.(2009). Ley 26.485 de Protección Integral para Prevenir, Sancionar y Erradicar la Violencia contra las Mujeres. Boletín Oficial, 14 de abril de 2009.
11. República Argentina. (2023). Ley 27.736 – «Ley Olimpia». Boletín Oficial, 11 de diciembre de 2023.
———–
(1) Las redes generativas antagónicas (GAN, por sus siglas en inglés) son un tipo de algoritmo de aprendizaje automático en el que dos redes neuronales se enfrentan entre sí en un juego. Una red genera datos (como imágenes), y la otra evalúa si los datos parecen reales. Este proceso mejora continuamente la calidad de los datos generados, permitiendo crear imágenes, sonidos o textos que simulan ser reales. https://www.ibm.com/es-es/topics/generative-adversarial-networks
(2) Es un instrumento de análisis que permite descubrir y comprender los mecanismos que en la práctica, a pesar del reconocimiento formal del derecho de igualdad, mantiene la subsistencia de la primacía cultural de los valores androcéntricos tanto con la sociedad como en el derecho. Simultáneamente, es una técnica que permitirá avanzar en la consecución de la igualdad material, sustantiva y real. Montalbán Huertas, Inmaculada (2003). Consejo General del Poder Judicial, ed. Perspectiva de género: Criterio de interpretación internacional y constitucional. p. 222.
(3) Desde la perspectiva cossiana del trialismo jurídico, resulta material y jurídicamente imposible que ante el vertiginoso ritmo en que las tecnologías se presentan en el plano sociológico, puedan ser realidades asequibles y materialmente captadas como el sustrato empírico que subyace a la norma. Así, el plano sociológico no puede adecuarse al plano normativo en términos estrictamente literales, de modo que la interpretación dinámica se aparece como la única posibilidad de readecuar las previsiones normativas para que, teleológicamente hablando, se pueda alcanzar en el plano dikelógico, la finalidad querida por el legislador.
(4) María Paula Carril, «Derechos del niño e inteligencia artificial: un análisis en clave constitucional», en Revista Diálogos y Voces Judiciales, Vol. 2, Nº 2, diciembre de 2024, p.60.
(5) María Paula Carril, «Derechos del niño e inteligencia artificial: un análisis en clave constitucional», op. cit., p. 51.
(6) Insistimos que no se trata de una laguna jurídica de origen voluntario para el legislador, en el sentido que el sustrato empírico no pudo preverse como antecedente de la norma para que pudiera ser receptado por la consecuencia jurídica prevista en el supuesto normativo porque -en resumidas cuentas- no existía al momento de la sanción. La laguna se presenta en esos términos como una laguna dinámica por evolución, que es generada por situaciones fácticas no prevista en el horizonte normativo pero que demandan ser superadas en la tarea interpretativa, de modo que la laguna es de la ley pero no del juzgador, que en su obligación de decir el derecho debe superar el escollo y ensayar la justicia distributiva y conmutativa del caso concreto.
(7) M. Paula Carril, «Reflexiones sobre la compensación económica y la perspectiva de género. A 30 años de la Reforma Constitucional», en: ElDial.com – MJ-DOC-17971-AR, 13/09/2024, p.1 .
(8) Maturana Cabezas, P. A. (2019). Juzgar con perspectiva de género: fundamentos y análisis de sentencias. Anuario de Derechos Humanos, Vol. 15, Nro. 2, 282
(9) M. Paula Carril, «Reflexiones sobre la compensación económica y la perspectiva de género. A 30 años de la Reforma Constitucional», en: ElDial.com – MJ-DOC-17971-AR, 13/09/2024, p. 1-2.
(10) M. Paula Carril, «Reflexiones sobre la compensación económica y la perspectiva de género. A 30 años de la Reforma Constitucional», en: ElDial.com – MJ-DOC-17971-AR, 13/09/2024, p. 9.
(11) Corte Suprema de Justicia de la Nación, Compendio de Jurisprudencia con perspectiva de género 2020-2024, Oficina de la Mujer, 2024, p. 6.
(12) M. Paula Carril, «Reflexiones sobre la compensación económica y la perspectiva de género. A 30 años de la Reforma Constitucional», en:ElDial.com – MJ-DOC-17971-AR, 13/09/2024, p. 9.
(13) Francisco J. Sanz Larruga, «Derecho y tecnología: una relación indispensable», Revista General de Derecho Administrativo, Nº 58, Iustel, 2021.
(14) Theodor Engisch, Introducción al pensamiento jurídico, trad. Vicente Ávila, Ariel, 2001, p. 128.
(15) María Paula Carril, «Derechos del niño e inteligencia artificial: un análisis en clave constitucional», en: Revista Diálogos y Voces Judiciales, Vol. 2, N.º 2, diciembre de 2024, p. 53.
(*) Especialista en Derecho Procesal (UCSE-UNR). Abogada por la UCSE y Diplomada en Derechos Humanos y Control de Constitucionalidad y Convencionalidad por la Universidad de Bolonia. Posgrado en Derecho Laboral por la UBA, Posgrado en Derecho Penal y Diversidad Cultural por la UNJU. Secretaria de la Suprema Corte de Justicia de la Provincia de Jujuy.
(**) Magister en Derecho del Trabajo y Relaciones Laborales Internacionales por la Universidad de Tres de Febrero. Posgrado en Derecho Procesal y Riesgos del Trabajo. Abogado por la Universidad del Norte Santo Tomás de Aquino. Secretario de la Suprema Corte de la Provincia de Jujuy.
