Regulación de los Sistemas de Scoring Social

Esta página es una traducción del texto original en portugués, ofrecida para facilitar la lectura. Trata del derecho brasileño. En caso de divergencia, prevalece la versión en portugués. Leer el original en portugués

Los sistemas de scoring social ya evalúan a millones de brasileños en decisiones de crédito, empleo y servicios públicos, pero la regulación de esta práctica aún está dando sus primeros pasos en el país.

Qué son los sistemas de scoring social y por qué necesitan regulación

La expresión «sistemas de scoring social» designa mecanismos automatizados que asignan puntuaciones a las personas a partir de sus comportamientos, antecedentes y características personales. Esas puntuaciones se utilizan para tomar decisiones que afectan directamente la vida de las personas, desde la concesión de crédito hasta la priorización en las filas de atención pública. A diferencia del scoring de crédito tradicional, que analiza predominantemente el historial financiero, los sistemas de scoring social pueden incorporar datos de navegación en internet, interacciones en redes sociales, patrones de consumo, ubicación geográfica e incluso vínculos personales.

En Brasil se observa una expansión acelerada de estas tecnologías, tanto en el sector privado como en la administración pública. Las empresas de tecnología financiera utilizan algoritmos de scoring que van mucho más allá del análisis crediticio convencional e incorporan variables de comportamiento que, muchas veces, el propio titular de los datos desconoce. En el sector público existen iniciativas que emplean puntuaciones automatizadas para seleccionar a los beneficiarios de programas sociales, priorizar fiscalizaciones e incluso asignar recursos en políticas de seguridad. Esta difusión plantea cuestiones profundas sobre discriminación algorítmica, transparencia y debido proceso legal.

La necesidad de una regulación específica surge del potencial de estos sistemas para perpetuar y amplificar desigualdades estructurales. Los algoritmos entrenados con datos históricos tienden a reproducir los sesgos presentes en la sociedad y penalizan de manera desproporcionada a las poblaciones vulnerables. Una persona que vive en determinado barrio periférico, por ejemplo, puede recibir automáticamente una puntuación inferior, no por algún comportamiento individual, sino por la correlación estadística entre su ubicación y ciertos indicadores socioeconómicos. Esta dinámica convierte los prejuicios sociales en decisiones aparentemente objetivas y técnicas.

El panorama regulatorio brasileño e internacional

La Ley General de Protección de Datos (LGPD, Ley n.º 13.709/2018) constituye el principal marco normativo brasileño aplicable a los sistemas de scoring social. El artículo 20 de la LGPD garantiza al titular de los datos el derecho a solicitar la revisión de las decisiones adoptadas únicamente sobre la base del tratamiento automatizado de datos personales, incluidas aquellas destinadas a definir perfiles personales, profesionales, de consumo y de crédito. Esta disposición establece una salvaguarda esencial, aunque su aplicación práctica todavía enfrenta desafíos considerables, en especial en lo que respecta a la efectividad de la revisión y a la transparencia de los criterios utilizados.

Además de la LGPD, la Ley del Registro Positivo (Ley n.º 12.414/2011, modificada por la Ley Complementaria n.º 166/2019) regula específicamente el scoring de crédito y establece reglas sobre la formación de bases de datos, los derechos de las personas registradas y las responsabilidades de los gestores. Sin embargo, esta legislación fue concebida para el modelo tradicional de análisis crediticio y no abarca adecuadamente las nuevas modalidades de scoring que incorporan variables de comportamiento y datos no financieros. Se advierte, por lo tanto, un vacío regulatorio significativo entre lo que prevé la legislación vigente y la realidad tecnológica actual.

En el escenario internacional existen enfoques diversos que pueden inspirar al legislador brasileño. La Unión Europea, mediante el AI Act (Reglamento de Inteligencia Artificial), clasificó los sistemas de scoring social operados por autoridades públicas como de riesgo inaceptable y los prohibió expresamente. La legislación europea también impone rigurosas obligaciones de transparencia y de evaluación de impacto para los sistemas de IA utilizados en decisiones que afectan derechos fundamentales. En Estados Unidos, la regulación sigue siendo fragmentada, con iniciativas estatales y sectoriales, como la Ley de Informes de Crédito Justos (Fair Credit Reporting Act), que ofrece protecciones limitadas frente a la sofisticación de los nuevos sistemas.

La ausencia de una regulación específica sobre el scoring social no significa ausencia de derechos: la LGPD, el Código de Defensa del Consumidor y la propia Constitución Federal ya ofrecen fundamentos para cuestionar decisiones algorítmicas discriminatorias.

El Marco Legal de la Inteligencia Artificial en Brasil (PL 2338/2023) representa un intento de llenar estos vacíos. El proyecto de ley prevé la clasificación de los sistemas de IA según niveles de riesgo, con obligaciones proporcionales de transparencia, auditabilidad y rendición de cuentas. Los sistemas de scoring social utilizados para decisiones en áreas como crédito, empleo, educación y servicios públicos tienden a clasificarse como de alto riesgo y, por ello, quedan sujetos a requisitos más estrictos. Se sigue con atención la tramitación de este proyecto, que puede significar un avance importante en la protección de los derechos de los ciudadanos frente a la automatización de las decisiones.

Riesgos concretos e impactos en los derechos fundamentales

Los sistemas de scoring social presentan riesgos tangibles que afectan directamente derechos protegidos por la Constitución. El primero y más evidente es el riesgo de discriminación algorítmica. Cuando los algoritmos utilizan variables correlacionadas con la raza, el género, la clase social o la ubicación geográfica, producen resultados que, aunque formalmente neutros, generan un impacto desproporcionado sobre grupos históricamente marginados. Se analizan casos en que los sistemas de scoring asignan puntuaciones inferiores a residentes de determinadas regiones, a trabajadores informales o a personas con patrones de consumo asociados a franjas de ingresos más bajas, lo que crea barreras adicionales de acceso al crédito, al empleo y a los servicios.

El segundo riesgo relevante es la opacidad de los criterios de decisión. La mayoría de los sistemas de scoring social opera como «cajas negras», en las que los criterios de puntuación están protegidos como secreto comercial o son simplemente demasiado complejos para explicarlos de manera comprensible al titular de los datos. Esta opacidad compromete el ejercicio del derecho de defensa y del contradictorio, pues ¿cómo impugnar una decisión cuyos fundamentos son inaccesibles? La jurisprudencia brasileña viene reconociendo gradualmente que la transparencia algorítmica es una condición para el ejercicio efectivo de los derechos, aunque los contornos de esta exigencia todavía están en construcción.

También existe el riesgo de efectos en cascada. Una puntuación baja en un determinado sistema puede alimentar a otros sistemas y crear un ciclo de exclusión progresiva. Una persona que recibe un score desfavorable en una plataforma de crédito puede, como consecuencia, tener dificultades para alquilar un inmueble, lo que a su vez puede afectar su puntuación en otros contextos. Este fenómeno de retroalimentación negativa es particularmente grave porque opera de manera invisible para la persona afectada, que muchas veces desconoce el origen de las restricciones que enfrenta.

Desde el punto de vista de los derechos fundamentales, los sistemas de scoring social se cruzan con garantías previstas en los artículos 1.º y 5.º de la Constitución Federal, entre ellas la dignidad de la persona humana, la igualdad, la privacidad, la libertad y el debido proceso legal. Cuando un algoritmo determina, sin intervención humana significativa, que una persona no merece crédito, no debe ser contratada o no tiene prioridad en un servicio público, se está ante una restricción de derechos que exige una justificación adecuada y una posibilidad real de impugnación.

Caminos hacia una regulación efectiva en Brasil

La construcción de un marco regulatorio adecuado para los sistemas de scoring social en Brasil exige la articulación de distintos instrumentos normativos e institucionales. En primer lugar, se considera esencial la aprobación de una legislación específica sobre inteligencia artificial que contemple obligaciones claras de transparencia algorítmica. Esto significa no solo el derecho a saber que una decisión fue adoptada por un sistema automatizado, sino también el derecho a comprender, en términos accesibles, qué factores influyeron en la puntuación asignada y cómo fueron ponderados.

En segundo lugar, se defiende la obligatoriedad de las evaluaciones de impacto algorítmico para los sistemas de scoring social que afecten derechos fundamentales. Estas evaluaciones, análogas al Informe de Impacto a la Protección de Datos Personales previsto en la LGPD, deben realizarse antes de la implementación del sistema y actualizarse periódicamente. Deben contemplar pruebas de sesgo y discriminación, un análisis de proporcionalidad entre los datos utilizados y la finalidad pretendida, y mecanismos de corrección de las distorsiones identificadas.

La creación de mecanismos efectivos de impugnación y de revisión humana constituye otro pilar fundamental. El derecho a la revisión previsto en el artículo 20 de la LGPD debe reglamentarse de manera que garantice que la revisión sea sustancial (y no meramente formal) y que la carga de demostrar la corrección de la decisión recaiga sobre el operador del sistema, y no sobre la persona afectada. Esta inversión de la carga de la prueba es coherente con los principios del Código de Defensa del Consumidor y con la lógica de protección de la parte vulnerable en la relación.

Por último, se entiende que la Autoridad Nacional de Protección de Datos (ANPD) debe desempeñar un papel central en la fiscalización y reglamentación de los sistemas de scoring social. La ANPD ya tiene competencia para actuar en este ámbito con base en la LGPD, pero necesita recursos técnicos y humanos acordes con la complejidad de la tarea. La cooperación con órganos como el Ministerio Público, los Procons (organismos estatales y municipales de protección al consumidor) y el CADE (Consejo Administrativo de Defensa Económica) puede potenciar la capacidad de fiscalización y garantizar un enfoque multidisciplinario que contemple tanto los aspectos de protección de datos como las dimensiones de competencia y de consumo del problema.

Cómo puede protegerse hoy el ciudadano

Mientras la regulación específica no se consolide, los ciudadanos brasileños ya cuentan con instrumentos jurídicos para cuestionar decisiones basadas en scoring social. El primer paso es ejercer el derecho de acceso a los datos, previsto en la LGPD, solicitando al responsable del tratamiento información sobre qué datos personales se utilizan, cómo se calcula la puntuación y cuáles fueron los factores determinantes de la decisión. Esta solicitud puede dirigirse directamente al controlador de los datos y, en caso de negativa o de una respuesta insatisfactoria, puede llevarse a la ANPD mediante una petición de titular.

Cuando se constata que una decisión automatizada produjo un resultado discriminatorio o desproporcionado, es posible buscar la revisión judicial con fundamento en la LGPD, en el Código de Defensa del Consumidor y en la Constitución Federal. La tutela colectiva, mediante acciones civiles públicas promovidas por el Ministerio Público o por asociaciones de defensa del consumidor, resulta particularmente adecuada cuando el sistema de scoring afecta de manera sistemática a un grupo amplio de personas.

También se recomienda prestar atención a las prácticas de recolección de datos. Muchos sistemas de scoring social se alimentan de datos recopilados por aplicaciones, plataformas digitales y dispositivos conectados, con frecuencia sobre la base de extensos términos de uso que pocos leen por completo. Revisar los permisos concedidos a las aplicaciones, limitar el intercambio de datos cuando sea posible y ejercer regularmente el derecho de eliminación de los datos innecesarios son medidas preventivas que pueden reducir la exposición a sistemas de puntuación no deseados.

Este asunto guarda relación directa con crédito y scoring, tema que se aborda en un artículo específico.

Para complementar su lectura, vea también el artículo del despacho sobre la IA en la educación.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.