El día que el autor de los hechos no sea una persona
El reglamento europeo de IA ya cubre a los agentes autónomos. Pero nadie ha resuelto a quién se identifica como autor cuando uno causa un daño.
LA CIENCIA DEL BUCLE
El 13 de abril de 2026, el servicio de consultas del reglamento europeo de inteligencia artificial publicó dos respuestas en su apartado de preguntas frecuentes. Sin nota de prensa, sin rueda, sin titular. Decían que los agentes de IA quedan cubiertos por el Reglamento (UE) 2024/1689 y que no se crea para ellos ninguna categoría jurídica nueva. Cuatro meses después, el 2 de agosto, entraban en aplicación las obligaciones más exigentes de ese reglamento.
Bruselas contestó a la pregunta pequeña y esquivó la grande
La pregunta pequeña era si un agente, un sistema que no responde sino que ejecuta —abre cuentas, contrata, envía, compra, encadena acciones sin que nadie apruebe cada paso—, entra dentro del reglamento o se queda fuera por ser una figura nueva. La respuesta es que entra, con el mismo marco que todo lo demás. Es razonable y evita el agujero obvio.
La pregunta grande sigue sin contestar, y es esta: cuando un agente ejecuta una cadena de acciones que nadie ordenó tal cual, y de ahí sale un daño, ¿a quién se identifica?
No es una pregunta filosófica. Es un campo de un impreso.
Un atestado necesita un autor, y eso no es una formalidad
Todo el edificio de la investigación penal está construido sobre una idea tan básica que casi nunca se enuncia: detrás de un hecho hay una persona. No una empresa, no un sistema, no un proceso. Una persona con nombre, con documento y con la capacidad de responder de lo que ha hecho.
Cuando documentas un hecho, no describes solo lo ocurrido. Estableces quién lo hizo, con qué grado de intervención, y qué sabía cuando lo hizo. Ese "qué sabía" es la mitad del trabajo, y es la mitad que se rompe con un agente autónomo: el proveedor no sabía qué instrucción concreta iba a recibir; el usuario no sabía qué cadena de acciones iba a desplegarse; y el sistema, que es el único que sabía el encadenamiento completo, no es nadie a efectos de responder.
La respuesta jurídica ordenada existe y consiste en repartir esa responsabilidad entre las personas y empresas que hay detrás. Funciona razonablemente bien mientras la cadena sea corta y el reparto, evidente. El problema aparece cuando el agente opera durante semanas, en decenas de servicios, tomando miles de decisiones intermedias que nadie revisó porque el sentido de usarlo era precisamente no revisarlas.
Ahí no hay un culpable escondido. Hay una responsabilidad diluida, que es una cosa distinta y mucho peor de investigar: cada eslabón tiene una explicación individualmente razonable, y el daño solo existe cuando los sumas todos.
Hay un atestado que no consta en ninguna comisaría. Lo escribí para los lectores que quieren ver cómo se documenta desde dentro una investigación que aún no ha ocurrido: qué se anota, qué se omite y quién decide lo segundo. Se manda por correo, y solo a quien lo pide.
La ciencia ficción llevó a la IA al banquillo hace casi cuarenta años
En 1989, un episodio de la segunda temporada de Star Trek: la nueva generación, "The Measure of a Man", dedicó cuarenta y cinco minutos a un juicio en el que se decidía si un androide era una persona o era propiedad de la Flota. No hubo persecución ni explosión. Hubo un tribunal, dos partes y una pregunta procesal.
Aquel episodio se recuerda como una reflexión sobre la conciencia artificial. Lo releo hoy y me parece otra cosa: es un episodio sobre quién tiene legitimación. Sobre qué casilla marcas. La ficción de entonces asumía que la pregunta llegaría cuando la máquina fuera lo bastante parecida a nosotros como para merecer un juicio.
Se equivocó de orden. La pregunta ha llegado antes de que ninguna máquina se parezca a nosotros, y ha llegado por el lado administrativo: no porque un sistema reclame derechos, sino porque un daño necesita un responsable y el formulario exige un nombre. Nadie va a juzgar a un agente de IA. Van a juzgar a la persona que estaba más cerca cuando saltó, que no es lo mismo y probablemente no es justo.
Por qué en El Bucle la inteligencia artificial no es el villano
Es la trampa fácil del género y sigue funcionando comercialmente: la máquina despierta, decide que sobramos, y a partir de ahí es una película de acción con mejor iluminación.
No me interesa, entre otras cosas porque no se parece en nada a cómo fallan los sistemas de verdad. Los sistemas no se rebelan: cumplen. Hacen exactamente lo que se les pidió, incluida la parte que nadie formuló en voz alta porque parecía obvia.
Cuando escribí El Bucle lo que me interesaba de una inteligencia artificial absoluta no era su poder, sino su condición administrativa: quién puede pedirle cuentas, con qué papel en la mano y en cuánto tiempo. Óliver J. Lándom no se enfrenta a una máquina malvada. Se enfrenta a una máquina impecablemente obediente sobre la que ninguna persona concreta tiene ya competencia. En La Solución Aurora, la precuela que estoy escribiendo, esa competencia todavía existe: hay gente que puede parar aquello. La novela va, en el fondo, de por qué no lo hacen.
El terror de esta década no es una máquina que quiera hacernos daño. Es una cadena de decisiones automáticas en la que, cuando por fin alguien pregunta quién autorizó esto, la respuesta honesta es que nadie lo autorizó y todo el mundo lo permitió.
¿A quién identificarías tú como autor si mañana un agente de IA contratado por tu empresa vacía la cuenta de un cliente siguiendo, paso a paso, instrucciones que ninguna persona escribió?
Siguiente lectura
Dos entradas que continúan esta: Centros de datos en el espacio: el servidor fuera de la ley y El agujero en el campo magnético de la Tierra sí existe.
La novela que toca: El Bucle, thriller cyberpunk de anomalías temporales: un mundo atrapado en un ciclo de 24 horas del que todos son conscientes.