Aún no estás suscripto a Microjuris? Ingresá aquí.
Autor: Vidal, Carlos
Fecha: 05-02-2026
Colección: Doctrina
Cita: MJ-DOC-18613-AR||MJD18613
Voces: INTELIGENCIA ARTIFICIAL – DERECHOS Y ACTOS PERSONALÍSIMOS – TECNOLOGÍA DE LA INFORMACIÓN Y LAS COMUNICACIONES – VICIOS DE LA VOLUNTAD
Sumario:
I. Conclusiones. II. Fundamentos. III. Bibliografía.
Doctrina:
Por Carlos Vidal (*)
I. CONCLUSIONES
Las nuevas tecnologías se nutren, integran, y retroalimentan, de los sistemas lógicos desarrollados, de las redes de comunicación e información, y del almacenamiento, procesamiento y flujo de datos. Brindan servicios útiles de información, conocimientos, trabajo, intercambio de bienes y servicios, y simultáneamente ingresan al fuero íntimo del individuo, recogiendo, registrando, almacenando, procesando y suministrando información personal, relativa a hábitos, creencias, preferencias, sentimientos, contactos, estados de ánimo, resultando susceptibles de afectar la voluntad jurídica.
Existe asimetría entre el poder inherente a las nuevas tecnologías y la vulnerabilidad estructural del individuo, acrecentándose en grupos que suman otros factores de vulnerabilidad.
Las nuevas tecnologías se sostienen y repotencian en su funcionamiento integral, de datos personales, con la finalidad de predecir conductas, explotar información personal y colectiva, condicionando patrones conductuales, mientras afectan derechos personalísimos de sus titulares, invadiendo la esfera de su autonomía privada.
Los avances producidos por las nuevas tecnologías, en diversas materias, acarrean ciertos riesgos susceptibles de producir consecuencias disvaliosas en la persona o bienes de todos sus destinatarios, y en especial en los más débiles, viciando la intención y/o la libertad, o agravando la situación de vulnerabilidad en que se encuentra quien carece de discernimiento por inmadurez etaria o alteración mental.
Existe tensión de derechos personalísimos derivados de la dignidad humana como son la intimidad y privacidad, con derechos tales como el acceso a la información, y el derecho a generar desarrollos tecnológicos, que suponen el derecho a ejercer industria y/o comercio lícito.
Las nuevas tecnologías, y en especial la inteligencia artificial, resultan susceptibles de viciar elementos internos de la voluntad, tales como la intención y la libertad, a través de lo que se ha dado en llamar manipulación algorítmica, y también pueden coartar el elemento libertad entendida como posibilidad de elegir entre distintas alternativas, lesionando consecuentemente la autonomía de la voluntad, pudiendo el individuo incurrir en error a consecuencia de una estrategia o manipulación dolosa, y/o servíctima de una presión o coacción moral e inconsciente que vicie el elemento libertad.
En la materia bajo análisis, el sujeto responsable de uno u otro vicio, no puede ser el algoritmo que no constituye una persona jurídica ni humana, sino los diseñadores o desarrolladores de sistemas, modelos o arquitecturas algorítmicas de manipulación, y de quienes los ponen en práctica, proveen y/o explotan.
Existe necesidad de rediseñar un sistema doctrinario normativo preventivo y reparador, que amplíe, incluya y permita, en materia de vicios de la voluntad, como de responsabilidad civil, la individualización de sujetos responsables en los desarrolladores, creadores, o explotadores de sistemas tecnológicos riesgosos, asentado sobre factores de atribución subjetivos u objetivos, según el caso, y que ante tales supuestos de hechos, además de determinar la ineficacia del acto, respondan adecuadamente por el daño causado. Se impone la cobertura sugerida, para las personas vulnerables.
Debe recibir especial consideración y tratamiento la responsabilidad plena que conforme art. 1750 del Código Civil y Comercial vigente, basada sobre un criterio de equidad como factor de atribución objetivo, se atribuye al autor de un acto involuntario, por cuanto las nuevas tecnologías tienen mayor incidencia sobre los más vulnerables, por carencia de discernimiento, coadyuvando a la eventual causación del daño.
II. FUNDAMENTOS
1. Las nuevas tecnologías. Beneficios y pérdidas. Asimetrías
Las nuevas tecnologías, sobre la base de su infraestructura física, se nutren, integran, y retroalimentan, de los sistemas lógicos desarrollados, de las redes de comunicación e información, y del almacenamiento, procesamiento y flujo de datos.Ellas protagonizan la llamada Cuarta Revolución Industrial.
Brindan servicios útiles, viabilizando en general la comunicación e información a través de las denominadas TIC (Tecnologías de la información y la Comunicación), facilitando, a través de distintas plataformas virtuales, la adquisición de conocimientos, la formación educativa, el trabajo humano, el intercambio de bienes y servicios electrónicos, y una mayor participación ciudadana, conllevando, en definitiva, beneficios para las personas a las que alcanzan.
Sin perjuicio de ello, por voluntad de sus destinatarios o involuntariamente, ingresan en su fuero íntimo, a lo largo de todo el trayecto de vida, recogiendo, registrando, almacenando, procesando y suministrando información personal, relativa a hábitos, creencias, preferencias, sentimientos, contactos, estados de ánimo, etc., afectando finalmente la voluntad jurídica de aquellos.
Existe asimetría entre el poder inherente a las mismas, y la vulnerabilidad estructural del individuo, acrecentándose en grupos que suman más factores de vulnerabilidad, como inmadurez etaria, alteraciones mentales u otros, todos quienes las usan diaria y cotidianamente, constituyendo una constante de los tiempos que corren, llegando a ellos, a través de diversos vehículos, medios o herramientas, ya sea en forma de redes sociales, de aplicaciones de juegos, de inteligencia artificial, de publicidad y compras en línea, entre otros. Como consecuencia de ello, resulta susceptible de quedar afectada y en crisis la autonomía de la voluntad, y la voluntariedad misma del acto, ya sea por vicios de los elementos intención y/o libertad, o por sumar tales vicios a causas obstativas del discernimiento.
En definitiva, como contrapartida de los beneficios y utilidades que generan y producen, las nuevas tecnologías afectan la voluntad de las personas, y de manera especial la de las más vulnerables, determinando patrones conductuales, generando prácticas adictivas y comportamientos riesgosos, susceptibles de viciar su voluntad, y eventualmente generar daños para sí o para terceros.
2. Los datos personales.Eventuales efectos
Las nuevas tecnologías, objeto de consumo, se abastecen, sostienen y repotencian en su funcionamiento integral de datos personales, con la finalidad de predecir conductas, explotar información personal y colectiva, manejándolos como insumos informáticos de intercambio, en la mayoría de los casos para generar valor pecuniario, incidiendo, manipulando y condicionando patrones conductuales, mientras afecta derechos personalísimos de sus titulares, invadiendo la esfera de su autonomía privada, resultando afectados múltiples derechos derivados de la dignidad del hombre, entre los que cuenta el derecho a la intimidad, a la libertad y a la autodeterminación.
Es que los entornos digitales receptan tantos datos sobre la persona considerada integralmente, que su solo almacenamiento y conocimiento, constituye una agresión a la intimidad, y eventualmente un alto riesgo dañoso.
A consecuencia de lo señalado, como casi en todos los ámbitos de la vida en sociedad, existen y se ejercen derechos que tensionan entre sí.
En los últimos años, los sorprendentes avances tecnológicos han permitido el desarrollo y surgimiento de nuevas tecnologías, fomentando su uso cotidiano, sobre todo entre los más jóvenes. Desde la creación de las redes sociales, los juegos, grupos de whatsApp, compras en línea, entre otras actividades que se pueden llevar a cabo a través de la red de redes, han significado para los jóvenes una herramienta aún más atractiva que para el resto de los individuos, debido al alcance e inmediatez de los servicios que en general ofrecen.
Sin embargo, el uso no planificado, reiterativo y muchas veces en solitario de estas herramientas marcan en algunos individuos, un sin número de alteraciones psicológicas que de no ser atendidas oportunamente dejarían serios problemas de salud mental.
Efectos similares pueden producir en quienes tienen alguna disminución o alteración mental.
3. Tensión de derechos.Autonomía de la voluntad
Los avances producidos por las nuevas tecnologías, en diversas materias relativas a lo social, económico, jurídico, educativo, comunicacional, acarrean ciertos riesgos susceptibles de producir consecuencias disvaliosas en la persona o bienes de todos sus destinatarios, y en especial en los más débiles, viciando como digo supra, la intención y/o la libertad, o agravando la situación de vulnerabilidad en que se encuentra quien carece de discernimiento por inmadurez etaria o alteración mental.
La tensión de derechos existe y a modo ejemplo señalo que reiteradamente colisionan derechos personalísimos derivados de la dignidad humana como son la intimidad y privacidad, con derechos tales como el acceso a la información, y el derecho a generar desarrollos tecnológicos, que suponen el derecho a ejercer industria y/o comercio lícito.
Ante tal contexto de tensión y crisis, la autonomía de la voluntad, como pilar básico de la libertad del hombre, con capacidad para decidir y regular sus intereses, dentro del marco jurídico vigente, debe recibir protección de parte del mismo ordenamiento, para dejar a resguardo las decisiones propias frente a los desarrolladores de sistemas, de tecnología y a los bloques empresariales que las utilizan.
La persona inmersa en un contexto determinado por factores de toda índole, sociales, culturales, ideológicos, tecnológicos, ambientales, se encuentra en situación de riesgo, y concretamente expuestas a que sus intenciones o libertades se encuentren viciadas.
Los más vulnerables debido a inmadurez etaria o disminución mental, muestran una marcada tendencia al uso de teléfonos celulares, computadoras, tablets, etc., resultando susceptibles de ser afectados por las consecuencias nocivas de nuevas tecnologías, desarrollando adicciones, que multiplican el uso de las mismas.4 . La inteligencia artificial
El más relevante sistema tecnológico en la actualidad es la Inteligencia artificial (IA), «producto de la mente humana», clasificada o dividida conforme al campo o materia a que se refiere (inteligencia lógico-matemática, lingüística, musical, kinestésico-corporal, emocional, etc.). Se ha dicho que sus sistemas tienen características de entes inteligentes, con mecanismos de «autoaprendizaje», basándose sobre algoritmos que aprenden por sí mismos, como resultados de comportamientos que desarrollan procesos de pensamiento y razonamiento, partiendo de disponibilidad de datos, en gran cantidad y calidad.
El solo hecho de que la IA constituya una herramienta para facilitar agilidad y amplitud en el proceso de educación, abriendo el abanico de beneficiados, justifica su existencia, sin que ello implique desconocer los riesgos que conlleva, así como la necesidad de prevenir y eventualmente reparar el daño aparejado y producido.
5. Intención y Libertad. Vicios. Sujetos
Las nuevas tecnologías, y en especial la inteligencia artificial, resultan susceptibles de viciar elementos internos de la voluntad, tales como la intención y la libertad, a través de lo que se ha dado en llamar manipulación algorítmica, capaz de llevar la reflexión propia de la intención, en un sentido y dirección distintos al que se hubiera dirigido, en caso de no mediar la existencia de sesgos cognitivos, y también pueden coartar el elemento libertad entendida como posibilidad de elegir entre distintas alternativas, lesionando consecuentemente la autonomía de la voluntad, en contravención a lo normado por arts. 259 y conc. del C.C.y C., que para el acto jurídico, requiere manifestación de voluntad libre.
Los sistemas de inteligencia artificial pueden determinar a través del sesgo cognitivo referido, que la persona reflexione, aprenda, perciba y tome una decisión por error, a consecuencia de la percepción distorsionada que la IA a través de sus sistemas, le ha provocado. También la persona puede resultar sujeto pasivo de un artificio, maquinación o estrategia, que la induzca a celebrar un acto, a consecuencia de los mismos sistemas de inteligencia artificial.Incurrirá en error o será víctima de dolo, de manera inconsciente, a consecuencia de tal manipulación algorítmica.
Igualmente, la IA puede generar presión inconsciente en la toma de decisiones, asimilable a una coacción externa moral que vicia el elemento libertad.
Hoy, se suman a la violencia doméstica y comunitaria, formas de violencia ejercidas a través de medios digitales, emergiendo multiplicidad de estafas virtuales, delitos informáticos, ciberataques, etc.
Una de las violencias más comunes es la ejercida en razón o por motivo de género, que agrede y lesiona a la mujer, durante toda su vida, ejercida de distintas formas, susceptibles de causar daño material en su propio cuerpo o en sus bienes, así como daño moral, incluyendo diversos aspectos de su persona.
Concluyo en que tales sistemas pueden llevar a errar, y/o que ese error puede resultar consecuencia de una estrategia o manipulación dolosa, y/o que el sujeto puede ser víctima de una presión o coacción moral e inconsciente que vicie el elemento libertad, aparejando la ineficacia del acto, así como la obligación de resarcir el daño eventualmente causado.
Esa incidencia de los medios y entornos digitales y virtuales, generadora de error y/o violencia moral, puede afectar principalmente a los individuos más vulnerables. El error y la violencia indirecta ejercida, es producida desde cierto impersonalismo, bajo orígenes prima facie anónimos, relacionadas a distintas materias, como género, raza, políticas, etc.
En la doctrina clásica y normativa vigente relativa a los vicios de la intención (dolo y error) y de la libertad (fuerza física irresistible y violencia moral), el sujeto que procede dolosamente, el que reconoce el error, o el que lleva adelante la violencia, está determinado e individualizado, al momento de resolverse la ineficacia del acto, y la responsabilidad por el eventual daño causado.
En la materia bajo análisis, la individualización del sujeto responsable de uno u otro vicio, no puede ser el algoritmo que no constituye una persona jurídica ni humana.Pero la manipulación algorítmica, a través por ejemplo de persuasión subliminal o de sesgos de recomendación, que es propia de las nuevas tecnologías, resulta igualmente reprochable dado el perjuicio causado, aunque el sistema en sí sea impersonal.
En tales casos, la individualización del sujeto que lleva adelante la maniobra dolosa, la del sujeto que reconoce el error cometido, o del sujeto que ejerce violencia moral, debe recaer en los diseñadores o desarrolladores de tales sistemas, modelos o arquitecturas algorítmicas de manipulación, y de quienes los ponen en práctica, proveen y/o explotan, ya se trate de una persona jurídica o humana, quienes se sirven del algoritmo como medio.
6. Sistemas regulatorios existentes
En el mundo jurídico están presentes el sistema europeo y el sistema estadounidense.
El europeo recepta la prevención, sobre la base de derechos personalísimos que parten de la dignidad del hombre.
Presta especial atención a la autonomía de la voluntad, protegiéndola de condicionamientos tecnológicos, teniendo presente la vulnerabilidad estructural de la persona humana frente al poder de los desarrollos informáticos, plataformas, etc.
Pretende contrarrestar la manipulación de los algoritmos, susceptible de determinar la nulidad o ineficacia del acto, preservando su voluntariedad.
El sistema estadounidense, no recepta la prevención, sino que se limita a regular las consecuencias nocivas ocasionadas por las nuevas tecnologías, una vez producido el daño, cuando ha mediado fraude o manipulación directa.
Privilegia la libertad de mercado y la autorregulación tecnológica, poniendo el acento en la responsabilidad individual, y en consecuencia tiene menor injerencia en relación a la incidencia tecnológica sobre la voluntad jurídica.
El sistema europeo se presenta como garantista frente al estadounidense que privilegia la libertad individual.
7. Necesidad de regulación normativa.Prevención y reparación
Constituye un desafío rediseñar un sistema doctrinario normativo, que amplíe, incluya y permita, en materia de vicios de la voluntad, como de responsabilidad civil, la individualización de sujetos responsables en los desarrolladores, creadores, o explotadores de sistemas tecnológicos riesgosos, asentado sobre factores de atribución subjetivos u objetivos, según el caso, y que ante tales supuestos de hechos, además de determinar la ineficacia del acto, respondan adecuadamente ante el daño causado.
Con más razón se impone la cobertura sugerida, si las personas afectadas, son vulnerables, ya sea por razones de edad, género, alteración mental, necesidad, etc.
Ante asimetrías y tensiones referidas, no resulta suficiente que la persona humana propenda por sí misma a un uso controlado, racional y planificado de las nuevas tecnologías, y tampoco alcanzan especiales cuidados y mayores recaudos que adopten los representantes legales necesarios de menores o de quienes experimenten alguna disminución o alteración mental, dentro del ámbito y entorno familiar o más cercano.
Resulta imperioso que el ordenamiento jurídico ingrese al problema, al sustractum fáctico conflictivo de derechos que se encuentran en tensión, regulando normativamente el funcionamiento de esas tecnologías, brindando la posibilidad de individualizar y prever las responsabilidades de sus diseñadores, proveedores, explotadores, así como el hecho o proceder humano que eventual y nocivamente resulte afectado por ellas, determinando consecuencias, sanciones y reparaciones, pero además de ello, que lo haga de manera preventiva, con la finalidad de proteger la voluntad jurídica, a efectos de evitar el condicionamiento y eventualmente el vicio del acto que lo tornaría involuntario, actuando antes de la ineficacia y/o del daño jurídico.Se trata de buscar y elaborar formas normativas conducentes a que el acto voluntario cuente con los elementos internos de la voluntad libres de vicios (la intención y la libertad), así como que las causas obstativas del discernimiento no se vean agravadas por la incidencia de las nuevas tecnologías, evitando que los entornos o manipulaciones algorítmicas, determinen o acrecienten la involuntariedad del acto.
No es suficiente que un sistema o marco normativo alcance a los efectos de la acción cuando ésta ya ha sido afectada por tales tecnologías, en casos en que con adicción o sin ella, inciden en su voluntariedad y eventualmente causan daños. El ordenamiento jurídico debe prevenir y propender a evitar la incidencia nociva, con anterioridad al vicio de la voluntad, evitando el daño entendido como resultado disvalioso tanto para el sujeto del acto, como para terceros afectados.
Se impone un sistema normativo, que no se limite a predeterminar la reparación resarcitoria de las consecuencias disvaliosas del proceder afectado por las nuevas tecnologías, sino que establezca mecanismos preventivos, capaces de evitar tales afectaciones y la causación del daño consecuente.
La intensidad y gravedad del problema, amerita la elaboración y recepción normativa de un sistema de protección integral, preventivo y reparador, con herramientas, procedimientos, y métodos que disminuyan el riesgo del perjuicio, en el ámbito del derecho cuyo abordaje nos compete.
Resulta impensable detener el avance de las nuevas tecnologías, pero si otras ciencias entienden que la afectación referida existe, corresponde a nuestra ciencia proponer normas al respecto, máxime cuando la exposición e inclusión en los entornos digitales del presente, aparecen indiscutidos, no pudiendo dejar librado a su suerte al individuo afectado por las mismas, y con mayor razón al inmaduro cognitivamente con mayor labilidad emocional o a quien sufre alguna alteración mental o adicci ón, siendo los más expuestos a todas las tecnologías nuevas.
Ante los notables cambios que se van produciendo a diario, vale el esfuerzo de intentar una dogmática en la materia.Es necesario que el derecho regule a entornos digitales en general, en los que se crea, se procesa, almacena, gestiona, transmite o intercambia información electrónica, y que lo haga con la finalidad garantista de prevención, seguridad, protección y resarcimiento de personas y derechos afectadas y lesionados, respectivamente.
Si el derecho no advierte y no regula la nueva realidad, corre el riesgo de quedarse en el tiempo, resultar anacrónico, aplicable a situaciones reales, pero viejas, dejando sin cobertura a lo nuevo en su conjunto, que procede atrapar bajo normas que aseguren el respeto de derechos ampliamente reconocidos y la autonomía de la voluntad, libre de vicios.
Existe una dinámica tal, que todo se entrecruza en el fenómeno digital, la información, la comunicación, la publicidad, el conocimiento, las ideologías, el sexo, los vicios y las virtudes. Esa dinámica caracteriza a las redes sociales, en las que interactúan personas humanas, personas jurídicas a través de sus representantes, que lo hacen en forma anónima o identificada, y que muchas veces, en el rastro digital de todos quienes interactúan, esa individualización se desvanece, mostrando posiciones impersonales, muchas veces dominantes, que resultan difíciles de identificar en forma directa, sobre todo si se advierte que muchas acciones provienen y devienen de sistemas que producen las respuestas o publicaciones en forma automática, a lo que se suman multiplicidad de perfiles no ciertos.
8. Efectos del acto involuntario en el art. 1750 del C.C.yC. – Incidencia de nuevas tecnologías
Una consideración y tratamiento especial, merece la responsabilidad plena que conforme art. 1750 del Código Civil y comercial vigente, basada sobre un criterio de equidad como factor de atribución objetivo, se atribuye al autor de un acto involuntario, a diferencia del viejo sistema del art.907 del Código de Vélez modificado por la ley 17711, que introdujera como agregado la posibilidad de que en supuestos de daños causados por hechos involuntarios, los jueces dispusieran un resarcimiento «a favor de la víctima del daño, fundados en razones de equidad, teniendo en cuenta la importancia del patrimonio del autor del hecho y la situación personal de la víctima».
«Bajo el sistema del Código Civil y Comercial vigente (arts. 261, 1750, 1740 y concordantes), el acto involuntario por carencia de discernimiento que, al momento de su realización, causa un daño, genera frente al sujeto dañado, responsabilidad civil del dañador, con igual carácter y extensión, que si el acto fuera voluntario. La reparación del daño es plena (art. 1740), aunque en ambos supuestos, es posible que la indemnización respectiva pueda ser atenuada por el Juzgador, en los términos del art. 1742 del mismo cuerpo legal».
Tal equiparación de los efectos de un acto involuntario con los efectos de un acto voluntario en el Código Civil y Comercial, en relación a la responsabilidad generada en uno y otro supuesto, fue cuestionada por el suscripto a través de ponencia presentada en las XXVII Jornadas Nacionales de Derecho Civil del año 2019 realizadas en la UNL.
Ante la realidad actual, la preocupación se acrecienta, por cuanto las nuevas tecnologías seguramente tienen mayor incidencia sobre los más vulnerables, por carencia de discernimiento, coadyuvando a la eventual causación del daño, por el que conforme norma citada, debe responder plenamente.
III. BIBLIOGRAFÍA
1) Ana Dobratinich, Gonzalo (dir) «Derecho y nuevas tecnologías» La Ley, 2021. Libro digital
2) Converset, Martín M. (dir) «Derecho y Tecnología» Erreius. 2024.
3) Sáenz, Luis Fernando «Voluntad contractual y contratación electrónica: notas sobre la validez del consentimiento prestado en línea» Revista de Derecho Privado (Bogotá), 2019.
4) Tapia Rodríguez, Mauricio. «Autonomía de la voluntad y derechos fundamentales en la era digital» Revista de Derecho Privado, Universidad de Chile, 2021.
5) Pizarro, Ramón Daniel – Vallespinos, Carlos G. «Instituciones de Derecho Privado. Buenos Aires: Hamurabi, 2017.
6) Kamelmajer de Carlucci, Aída. «Error, dolo y violencia en la contratación contemporánea». La Ley. 2000.
————-
(*) Profesor Adjunto de Derecho Privado I de la Universidad Nacional de Chilecito (UNdeC) y Profesor ayudante de Derecho Privado I de la Universidad Nacional de Córdoba (UNC). Doctorando en derecho y ciencias sociales UNC. Abogado en ejercicio.
