Justicia y Ética:

La pionera Sentencia del Tribunal Europeo sobre la Inteligencia Artificial que determina que las decisiones de cierto alcance no deben tomarse únicamente mediante algoritmos.

La sentencia pionera del Tribunal de Justicia de la Unión Europea (TJUE) del 7 de diciembre de 2023 abordó la cuestión planteada por el Tribunal Administrativo de Wiesbaden, Alemania relativo a las decisiones automatizadas fomentadas por la inteligencia artificial.

El caso implica a SCHUFA, una firma especializada en proporcionar informes de solvencia (“scoring”) de consumidores a entidades de crédito mediante el uso de procedimientos matemáticos y estadísticos. SCHUFA evalúa a las personas según su historial de comportamiento financiero, permitiendo anticipar patrones de conducta futuros. En esta situación, el demandante, una persona física, vio rechazada su solicitud de préstamo basándose en la información suministrada por SCHUFA.

El demandante ejerció su derecho de acceso a la protección de datos contra SCHUFA. No obstante, SCHUFA solo le proporcionó información de carácter genérico y se resistió a revelar detalles específicos acerca del afectado.

Sin embargo, el art. 22, apartado 1, del Reglamento General de Protección de Datos (RGPD) establece que cualquier persona tiene el derecho de no ser sujeta a una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que tenga efectos jurídicos sobre ella o la afecte de manera similar.

El Tribunal Europeo considera que la aplicabilidad de esta disposición está condicionada por tres requisitos:

1. La existencia de una “decisión”.
2. Que dicha decisión esté “basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles”.
3. Que la decisión tenga “efectos jurídicos que afecten al interesado o que lo afecten “significativamente de modo similar”.

El artículo 71 del Reglamento General de Protección de Datos (RGPD) valida el concepto de “decisión”, especificando que, si una decisión involucra la evaluación de aspectos personales relevantes para el interesado, este tiene el derecho de no basarla en dicha evaluación. Como objeto, “puede incluir una medida” que tenga por efecto “producirle efectos jurídicos” o “afectarle significativamente de manera similar”. Ejemplos de lo que se considera una “decisión” bajo esta nota incluyen el rechazo automático de una solicitud de crédito en línea o de contratación de un servicio en línea, donde no existe intervención humana.

Por lo tanto, debido a la amplitud de la palabra “decisión”, se puede entender que puede abarcar una variedad de acciones que pueden afectar a las partes interesadas de diversas formas. Su alcance es lo suficientemente amplio como para cubrir, por ejemplo, cálculos de solvencia individual expresados como valores de probabilidad con respecto a su capacidad para cumplir con sus compromisos de pago en el futuro.

Cabe sostener que la naturaleza determinante o no de una puntuación crediticia es esencialmente una cuestión fáctica a discreción de cada entidad de crédito que solicita a una agencia como SCHUFA la obtención de un valor de probabilidad sobre la solvencia del solicitante. Además, la práctica del mercado indica que prácticamente todas las entidades de crédito toman en cuenta factores adicionales al tomar decisiones importantes (solicitando puntuaciones adicionales basadas en los mismos o diferentes datos de un interesado, e incluso calculando sus propias puntuaciones con base en la información que poseen sobre el interesado), lo que a veces podría dificultar la determinación de uno de esos valores como determinante en caso de discrepancias.

En TBA, evaluamos que esta decisión judicial tiene un impacto crucial para los ciudadanos que pretenden obtener crédito ya que determina que queda prohibido el uso de datos personales para la toma de decisiones totalmente automatizadas que tengan un efecto jurídico adverso significativo para el solicitante. Por lo tanto, podemos decir (aliviados) que las decisiones de cierto alcance no se producirán automáticamente mediante algoritmos. El TJUE dictamina que la atribución de solvencia ya puede constituir una decisión en virtud del artículo 22 del RGPD y que por tanto la puntuación de solvencia automatizada en su forma actual queda prohibida para las agencias de crédito en toda la UE. Si dichas agencias quieren calcular la solvencia de las personas en el futuro, necesitarán su consentimiento expreso y los interesados podrán impugnar dicha puntuación crediticia si lo estiman oportuno.

Georgy Oganesyan