La inteligencia artificial ya toma decisiones ¿Quién responde por ellas?

Durante años hablamos de la inteligencia artificial como si perteneciera a un mundo ajeno al nuestro. Parecía una cuestión reservada a ingenieros, programadores o grandes compañías tecnológicas. Hoy esa frontera prácticamente ha desaparecido. La IA ya interviene en procesos de selección de personal, ayuda a conceder créditos, detecta operaciones bancarias sospechosas, colabora en diagnósticos médicos, organiza turnos de trabajo o redacta documentos jurídicos. Ha entrado en empresas, administraciones y despachos con una rapidez que hace apenas unos años parecía difícil de imaginar. Y, con ella, han llegado preguntas que ya no son tecnológicas, sino jurídicas.

Esta semana asistí al curso organizado por la Agencia Española de Protección de Datos en la Universidade da Coruña sobre protección de datos, gobierno corporativo y gestión del riesgo en entornos tecnológicos complejos. Hubo ponencias de enorme nivel, pero salí con una idea rondándome la cabeza. La inteligencia artificial necesita mucho más que avances tecnológicos. Necesita reglas. Necesita controles. Y necesita que alguien asuma la responsabilidad cuando las cosas salen mal. Eso es, en esencia, la gobernanza.

En la inauguración del curso, el presidente de la Agencia Española de Protección de Datos, Lorenzo Cotino, insistió en esa idea. La inteligencia artificial constituye una realidad irreversible y su capacidad para transformar la sociedad obliga a implicar a empresas, administraciones e instituciones públicas. No basta con desarrollar sistemas cada vez más sofisticados. También hay que gobernarlos.

Ese cambio de mirada resulta especialmente relevante para quienes ejercemos profesiones jurídicas. Durante años la protección de datos se asoció, casi exclusivamente, a documentos, formularios y cláusulas informativas. Era importante, por supuesto, pero muchas veces el cumplimiento terminaba identificándose con una carpeta bien ordenada.

Con la inteligencia artificial esa lógica deja de servir. Lo importante ya no será únicamente acreditar que se cumple la norma, sino demostrar cómo se toman determinadas decisiones, qué riesgos se han evaluado, quién supervisa el sistema y qué mecanismos existen para corregir sus errores. El cumplimiento deja de ser un trámite para convertirse en una forma permanente de gestionar el riesgo.

Todavía hay empresas que ven la inteligencia artificial como una herramienta para ahorrar tiempo o reducir costes. Es una visión comprensible, pero insuficiente.

Europa ha optado por regular ese escenario sin renunciar a la innovación. A menudo se presenta la regulación como un obstáculo para competir. Sin embargo, pocas cosas generan más inseguridad que una tecnología capaz de decidir sobre las personas sin que nadie pueda explicar cómo ha llegado a esa conclusión. La confianza también forma parte de la innovación.

Todo esto ya está ocurriendo. No dentro de diez años. Ahora. Cada empresa que incorpora una herramienta de inteligencia artificial empieza a asumir obligaciones jurídicas nuevas, aunque muchas todavía no sean plenamente conscientes de ello.

Ya vivimos algo parecido con el Reglamento General de Protección de Datos. Al principio muchos lo vieron como otra obligación burocrática. Hoy resulta difícil imaginar cualquier organización seria sin una mínima cultura de protección de datos. Es probable que dentro de unos años ocurra exactamente lo mismo con la inteligencia artificial.

Quizá entonces nos sorprenda recordar que hubo un tiempo en el que aceptábamos decisiones tomadas por algoritmos sin preguntarnos quién los había diseñado, quién los vigilaba o quién respondía cuando fallaban. La tecnología seguirá avanzando, como siempre ha ocurrido. La verdadera decisión sigue siendo humana: decidir quién pone los límites y quién responde cuando esos límites se cruzan.