IA y Responsabilidad ante Actos Ilícitos

El Panorama Actual

La inteligencia artificial dejó de ser una promesa de laboratorio para convertirse en una herramienta cotidiana: redacta textos, genera imágenes, clona voces, escribe código y automatiza decisiones. Esa misma potencia que ahorra tiempo y abre oportunidades también reduce el costo y la barrera de entrada para quienes quieren estafar, suplantar identidades, difamar o vulnerar sistemas.

La pregunta ya no es si la IA será usada para cometer delitos, sino quién debe responder cuando eso ocurre y qué consecuencias enfrenta cada actor involucrado.

Una premisa básica: la IA no es sujeto de derecho

Un sistema de inteligencia artificial no tiene personalidad jurídica, no tiene intención propia y no puede ser sancionado como lo sería una persona. No responde penalmente, no paga una indemnización ni cumple una condena. Detrás de cada sistema hay siempre seres humanos y organizaciones que lo diseñan, lo entrenan, lo ofrecen, lo contratan o lo utilizan.

Por eso, el debate jurídico y ético no gira en torno a «castigar a la máquina», sino a distribuir responsabilidades entre las personas y empresas que forman parte de la cadena: quien crea el modelo, quien lo despliega en un producto, quien lo usa y quien lo aprovecha para dañar a terceros.

Usos Ilícitos Más Frecuentes

Los riesgos ya no son hipotéticos. Entre los usos delictivos o abusivos más extendidos se encuentran:

• Fraude y estafas personalizadas: correos de phishing sin errores de redacción, mensajes que imitan el estilo de un familiar o un jefe, y estafas a escala con textos adaptados a cada víctima.
• Suplantación de identidad con deepfakes: videos, imágenes y audios sintéticos que imitan a una persona real para engañar a un banco, a una empresa o a un familiar, por ejemplo con el falso pedido urgente de dinero con la voz de un ser querido.
• Contenido íntimo no consentido y acoso: generación de imágenes sexualizadas de personas reales sin su autorización, una forma de violencia digital con enorme impacto psicológico y reputacional.
• Ciberdelitos: asistencia para crear código malicioso, automatizar ataques o encontrar vulnerabilidades con fines ilegítimos.
• Desinformación y manipulación: campañas de propaganda, reseñas falsas, noticias fabricadas y contenidos diseñados para manipular a la opinión pública.
• Violaciones a la propiedad intelectual y a los datos personales: uso no autorizado de obras, voces, rostros o información privada.
• Discriminación algorítmica: sistemas que, usados en selección de personal, crédito o seguros, reproducen sesgos y vulneran derechos.

¿Quién Responde? La Cadena de Responsabilidad

El usuario que comete el acto

Es el responsable más evidente. Si una persona utiliza una herramienta de IA para estafar, difamar, extorsionar o vulnerar un sistema informático, comete el delito igual que si hubiera usado cualquier otro medio. Que se haya valido de una tecnología nueva no atenúa la conducta: en muchos casos puede incluso agravarla, por la escala, la sofisticación o el engaño que permitió.

El desarrollador o proveedor del sistema

La responsabilidad de quienes crean y ofrecen modelos de IA es más compleja y está en pleno debate. En términos generales, se discuten estos criterios:

• Deber de prevención razonable: si el proveedor puede prever usos dañinos y no adopta medidas proporcionales (filtros, límites, monitoreo, políticas de uso), puede enfrentar responsabilidad civil o administrativa.
• Producto defectuoso o riesgoso: si el sistema carece de salvaguardas básicas o es entregado sin advertencias adecuadas, puede encuadrarse como un producto o una actividad riesgosa.
• Participación o complicidad: cuando el proveedor sabe que su servicio se está usando para delinquir y no actúa, la discusión se acerca a figuras de colaboración o encubrimiento.

La empresa que implementa la IA

Quien integra un modelo en un servicio propio (un banco, una plataforma, una tienda, un sistema de gestión) responde por cómo lo usa frente a sus clientes y por los datos que trata. Si un sistema automatizado causa un perjuicio, la empresa no puede ampararse en que «lo decidió el algoritmo»: la decisión sigue siendo suya.

Las plataformas de difusión

Redes sociales, buscadores y servicios de mensajería funcionan como canales de propagación. Su responsabilidad suele depender de si conocían el contenido ilícito y de la rapidez con la que lo retiran una vez notificados, además de la obligación de contar con mecanismos de denuncia eficaces.

Consecuencias para Quienes Usan la IA para Delinquir

Las consecuencias se dan en varios planos que pueden coexistir:

• Penales: prisión, multas o inhabilitaciones según el delito (estafa, falsificación, amenazas, delitos informáticos, violación de la intimidad, entre otros). El uso de IA puede funcionar como agravante o como evidencia de planificación.
• Civiles: indemnización por daños materiales y morales a las víctimas, además de la obligación de cesar la conducta y retirar el contenido.
• Administrativas y regulatorias: sanciones por incumplir normas de protección de datos, de defensa del consumidor o de regulación específica de IA.
• Laborales y profesionales: despidos, pérdida de matrículas o inhabilitaciones cuando el uso indebido ocurre en un contexto profesional.
• Reputacionales y técnicas: bloqueo de cuentas, baneo en plataformas y pérdida de acceso a las herramientas.

Un Vistazo al Marco Normativo

La regulación está en construcción y varía según el país, pero ya existen herramientas aplicables.

En Argentina

No existe aún una ley integral de inteligencia artificial, pero las conductas dañinas cometidas con IA pueden encuadrarse en normas vigentes:

• Código Penal y Ley 26.388 (delitos informáticos): sanciona, entre otras conductas, el acceso ilegítimo a sistemas, el daño informático y el fraude informático, además de figuras tradicionales como la estafa, las amenazas o la extorsión, que se aplican independientemente del medio utilizado.
• Ley 25.326 de Protección de Datos Personales: regula el tratamiento de datos, con particular importancia cuando se usan datos personales para entrenar o alimentar sistemas.
• Código Civil y Comercial: prevé la responsabilidad por daños, incluida la derivada de actividades o cosas riesgosas, y la protección de la imagen, la voz y la intimidad.
• Ley de Defensa del Consumidor: relevante cuando la IA forma parte de un producto o servicio ofrecido al público.
• Convenio de Budapest sobre Ciberdelincuencia: al que Argentina adhirió, y que facilita la cooperación internacional en la investigación de delitos informáticos.

A nivel internacional

La Unión Europea adoptó un reglamento específico de IA que clasifica los sistemas según su riesgo, prohíbe ciertas prácticas consideradas inaceptables y exige transparencia, por ejemplo, para etiquetar contenidos generados o manipulados artificialmente. Otros países avanzan con leyes sectoriales, normas contra los deepfakes y guías de buenas prácticas.

Responsabilidades Concretas de Quienes Desarrollan IA

Más allá de lo que exija la ley, existe un consenso creciente sobre prácticas mínimas de responsabilidad:

• Evaluación de riesgos previa al lanzamiento, incluyendo pruebas adversarias (red teaming) para detectar usos abusivos.
• Salvaguardas técnicas: rechazo de pedidos claramente dañinos, límites a la generación de contenido sobre personas reales y controles contra la creación de material ilegal.
• Políticas de uso claras y mecanismos reales para hacerlas cumplir.
• Trazabilidad y marcas de agua en contenido sintético, para facilitar su identificación.
• Canales de denuncia y respuesta rápida ante abusos.
• Transparencia sobre las capacidades y las limitaciones del sistema.
• Cooperación con las autoridades dentro del marco legal y respetando la privacidad.

El Rol de Usuarios, Empresas y Sociedad

La responsabilidad no se agota en los desarrolladores. Cada actor puede reducir el daño:

Desafíos Pendientes

Quedan cuestiones abiertas que ponen a prueba al derecho tradicional:

• Atribución: ¿cómo probar quién generó un contenido o dio una instrucción cuando los sistemas son opacos?
• Jurisdicción: el delito puede cometerse desde un país, con un servicio alojado en otro y con víctimas en un tercero.
• Autonomía creciente: a medida que los sistemas actúan con más autonomía (agentes que ejecutan tareas por sí solos), será más difícil delimitar dónde termina la decisión humana.
• Velocidad: la tecnología avanza más rápido que la legislación y que los tiempos de la justicia.
• Equilibrio: regular sin frenar la innovación, la libertad de expresión ni la investigación legítima.

Conclusión

La inteligencia artificial amplifica las capacidades humanas, para bien y para mal. Cuando se usa para cometer actos ilícitos, la responsabilidad no desaparece: se redistribuye entre quien comete el hecho, quien desarrolla y ofrece la tecnología sin la debida diligencia, quien la implementa sin controles y quien la difunde sin límites.

La respuesta no pasa por demonizar la tecnología ni por confiar ciegamente en ella, sino por construir un ecosistema donde el desarrollo sea responsable, el uso sea consciente, las víctimas tengan vías efectivas de reparación y las normas se adapten con criterio.

Recursos para Profundizar

• InfoLEG - Legislación argentina (Ley 26.388, Ley 25.326, Código Civil y Comercial)
• Agencia de Acceso a la Información Pública - Protección de datos personales
• Convenio de Budapest sobre Ciberdelincuencia
• EU Artificial Intelligence Act - Información y texto del reglamento

Este artículo tiene fines informativos y de divulgación general y no constituye asesoramiento legal. Ante un caso concreto, conviene consultar con un profesional del derecho.