IA y defensa del consumidor: protección frente a prácticas abusivas

Esta página es una traducción del texto original en portugués, ofrecida para facilitar la lectura. Trata del derecho brasileño. En caso de divergencia, prevalece la versión en portugués. Leer el original en portugués

La inteligencia artificial ya influye en las decisiones de consumo, crédito y atención al cliente, y conocer los mecanismos de protección frente a prácticas abusivas es esencial para todo consumidor.

El avance de la inteligencia artificial en las relaciones de consumo

Vivimos un momento en que los sistemas de inteligencia artificial están presentes en prácticamente todas las etapas de la relación entre empresas y consumidores. Desde la personalización de ofertas en plataformas digitales hasta el análisis automatizado de crédito, pasando por los chatbots de atención al cliente y la fijación dinámica de precios, la presencia de los algoritmos en la vida cotidiana del consumidor brasileño es cada vez más intensa. Esta transformación trae beneficios innegables, como mayor agilidad en los servicios y posibilidad de personalización, pero también inaugura riesgos que el ordenamiento jurídico debe enfrentar con seriedad y eficacia.

Al analizar el escenario actual, vemos que muchos consumidores ni siquiera son conscientes de que sus interacciones comerciales están mediadas por sistemas automatizados. La opacidad de los algoritmos crea una asimetría de información aún más profunda que la que caracteriza tradicionalmente las relaciones de consumo. El proveedor, que ya contaba con ventaja técnica y económica, dispone ahora de herramientas capaces de procesar volúmenes masivos de datos personales para dirigir comportamientos, segmentar públicos y, en los casos más graves, implementar prácticas que el Código de Defensa del Consumidor (Código de Defesa do Consumidor, CDC) clasifica como abusivas.

En este contexto, se constata que la protección del consumidor frente a los sistemas de IA no exige necesariamente crear un marco jurídico enteramente nuevo. El CDC, promulgado en 1990, estableció principios lo bastante amplios para abarcar las nuevas tecnologías: buena fe objetiva, transparencia, prohibición de prácticas abusivas y responsabilidad objetiva del proveedor. El desafío consiste en interpretar y aplicar esos principios a la luz de las particularidades de la tecnología algorítmica, garantizando que la innovación no se convierta en un instrumento de vulneración de derechos.

Prácticas abusivas potenciadas por la inteligencia artificial

Las prácticas abusivas previstas en el artículo 39 del Código de Defensa del Consumidor adquieren nuevas dimensiones cuando intervienen sistemas de inteligencia artificial. La fijación dinámica (o personalizada) de precios es uno de los ejemplos más debatidos. Los algoritmos pueden ajustar los precios en tiempo real según el perfil del consumidor, considerando variables como la ubicación geográfica, el historial de navegación, el dispositivo utilizado e incluso el nivel estimado de urgencia de la compra. Cuando esta práctica genera una diferenciación injustificada de precios para el mismo producto o servicio, estamos ante una situación que puede encuadrarse como discriminación abusiva.

Otro fenómeno preocupante es el llamado «dark pattern» algorítmico, en el que las interfaces digitales se diseñan con ayuda de la IA para inducir al consumidor a tomar decisiones que no adoptaría de manera libre e informada. Esto incluye la inclusión automática de productos en el carrito de compras, la dificultad deliberada para cancelar suscripciones, la presentación de falsas señales de escasez («quedan solo 2 unidades») y la manipulación del orden en que se muestran las opciones para orientar las elecciones hacia las más lucrativas para el proveedor. Estas prácticas violan frontalmente el principio de buena fe objetiva y el derecho a una información adecuada.

En el sector del crédito y los seguros, identificamos riesgos igualmente relevantes. Los sistemas de scoring automatizado pueden reproducir y amplificar los sesgos discriminatorios presentes en los datos históricos utilizados para su entrenamiento. Así, un consumidor puede ver denegado su crédito o recibir condiciones desfavorables no por su capacidad financiera real, sino por pertenecer a un grupo demográfico que el algoritmo asocia estadísticamente con mayor morosidad. Esta forma de discriminación algorítmica, muchas veces invisible para el propio consumidor, vulnera no solo el CDC, sino también la Constitución Federal y la Ley General de Protección de Datos (Lei Geral de Proteção de Dados, LGPD).

La protección del consumidor frente a las prácticas abusivas de la IA no exige reinventar el derecho, sino aplicar con firmeza al universo algorítmico los principios ya consagrados de buena fe, transparencia y responsabilidad objetiva.

Los sistemas automatizados de atención al consumidor también merecen atención. Cuando las empresas sustituyen por completo la atención humana por chatbots incapaces de resolver solicitudes complejas, crean barreras artificiales al ejercicio de los derechos. El consumidor que necesita presentar un reclamo, solicitar la cancelación de un servicio o ejercer su derecho de arrepentimiento puede verse atrapado en bucles automatizados que no conducen a ninguna solución efectiva, lo que configura una práctica abusiva por obstaculización del ejercicio de derechos.

El marco legal de la inteligencia artificial y la protección del consumidor

Brasil avanza en la construcción de un marco regulatorio específico para la inteligencia artificial, con proyectos de ley en trámite en el Congreso Nacional que buscan establecer principios, derechos y obligaciones para el desarrollo y el uso de sistemas de IA. Con independencia de la etapa legislativa, ya existen instrumentos normativos aplicables a la protección del consumidor en contextos algorítmicos. El CDC sigue siendo la columna vertebral de esa protección, complementado por la LGPD (Ley n.º 13.709/2018), que incorporó disposiciones de especial relevancia para el tema.

El artículo 20 de la LGPD merece una mención especial, pues garantiza al titular de los datos el derecho a solicitar la revisión de las decisiones adoptadas únicamente sobre la base del tratamiento automatizado de datos personales que afecten sus intereses. Esto incluye las decisiones destinadas a definir su perfil personal, profesional, de consumo o de crédito, o aspectos de su personalidad. Al combinar esta disposición con los derechos previstos en el CDC, se construye un sistema de protección sólido: el consumidor tiene derecho a saber que una decisión fue tomada por un algoritmo, a comprender los criterios utilizados y a impugnar el resultado.

La responsabilidad civil del proveedor que utiliza IA en las relaciones de consumo sigue el régimen de responsabilidad objetiva previsto en los artículos 12 y 14 del CDC. Esto significa que el proveedor responde por los daños causados por sus sistemas automatizados con independencia de la culpa. Si un algoritmo de fijación de precios aplica un precio abusivo, si un sistema de scoring deniega crédito de forma discriminatoria o si un chatbot impide el ejercicio de un derecho, el proveedor es responsable del resultado dañoso, aunque no haya programado intencionalmente ese comportamiento. La complejidad técnica del sistema no constituye una causal de exclusión de responsabilidad.

Entendemos que el principio de transparencia algorítmica se vuelve un pilar fundamental en esta discusión. El consumidor tiene derecho a ser informado, de manera clara y accesible, de cuándo está interactuando con un sistema automatizado, qué datos personales alimentan las decisiones algorítmicas y qué criterios generales orientan esas decisiones. Esta transparencia no implica necesariamente revelar el código fuente del algoritmo (lo que podría entrar en conflicto con el secreto industrial), pero exige que el proveedor sea capaz de explicar la lógica general del sistema en un lenguaje comprensible.

Mecanismos de defensa del consumidor en la era algorítmica

Ante las prácticas abusivas implementadas por sistemas de IA, el consumidor brasileño dispone de diversos mecanismos de defensa. El primero y más accesible es presentar un reclamo ante los organismos de protección al consumidor, como los Procons estatales y municipales, y en la plataforma Consumidor.gov.br. Estos canales permiten la mediación entre consumidor y proveedor y, al concentrar los reclamos, ayudan a identificar patrones de conducta abusiva que pueden dar lugar a acciones colectivas o procedimientos administrativos.

En el ámbito judicial, las acciones individuales y colectivas siguen siendo instrumentos esenciales. El Ministerio Público, la Defensoría Pública y las asociaciones de defensa del consumidor pueden interponer acciones civiles públicas (ações civis públicas) para frenar prácticas abusivas que afecten a colectividades de consumidores. Consideramos que esta vía es particularmente relevante en el contexto de la IA, pues las prácticas algorítmicas tienden a afectar a un gran número de personas de manera simultánea, lo que hace que la tutela colectiva sea más eficiente que la individual.

La inversión de la carga de la prueba, prevista en el artículo 6º, inciso VIII, del CDC, cobra una importancia redoblada en las disputas que involucran IA. Cuando el consumidor alega haber sido víctima de discriminación algorítmica o de una práctica abusiva automatizada, sería irrazonable exigirle que demostrara técnicamente el funcionamiento interno del sistema. Corresponde al proveedor probar que su algoritmo opera dentro de los parámetros legales, que no discrimina sin justificación y que respeta los derechos del consumidor. Esta distribución de la carga probatoria es coherente con la vulnerabilidad informacional del consumidor frente a sistemas opacos.

Se recomienda, además, que el consumidor adopte prácticas proactivas de protección, como leer con atención las políticas de privacidad (especialmente en lo relativo a las decisiones automatizadas), ejercer regularmente los derechos previstos en la LGPD (acceso, corrección y eliminación de datos), documentar las interacciones con sistemas automatizados mediante capturas de pantalla y registros, y comparar precios y condiciones en distintos dispositivos y perfiles para identificar una eventual discriminación.

Perspectivas para la regulación de la IA en las relaciones de consumo

El debate regulatorio sobre la inteligencia artificial avanza a nivel global, y Brasil sigue esa tendencia con una atención creciente a la dimensión del consumo. La experiencia de la Unión Europea con el AI Act (Reglamento de Inteligencia Artificial) ofrece referencias importantes, en especial la clasificación de los sistemas de IA por niveles de riesgo y la imposición de obligaciones proporcionales a ese riesgo. Los sistemas que afectan directamente a las relaciones de consumo, como los de scoring de crédito y de fijación personalizada de precios, tienden a clasificarse como de alto riesgo, y quedan sujetos a obligaciones más estrictas de transparencia, supervisión humana y evaluación de impacto.

En el escenario brasileño, observamos que la Secretaría Nacional del Consumidor (Senacon) y la Autoridad Nacional de Protección de Datos (ANPD) desempeñan papeles complementarios en la fiscalización de las prácticas algorítmicas abusivas. La tendencia es que la actuación coordinada de estos organismos se intensifique en los próximos años, con la emisión de directrices específicas sobre el uso de la IA en las relaciones de consumo, la realización de auditorías algorítmicas y la aplicación de sanciones a los proveedores que vulneren los derechos de los consumidores mediante sistemas automatizados.

Consideramos fundamental que la regulación de la IA en Brasil adopte un enfoque que equilibre innovación y protección. La tecnología algorítmica puede beneficiar a los consumidores cuando se utiliza de forma ética y transparente, ofreciendo servicios más personalizados, eficientes y accesibles. Lo que se busca frenar no es el uso de la IA en sí, sino su instrumentalización para prácticas que perjudiquen al consumidor, vulneren su autonomía de decisión o perpetúen discriminaciones injustificables. Una regulación eficaz debe crear incentivos para que las empresas desarrollen y utilicen la IA de forma responsable y, al mismo tiempo, garantizar mecanismos efectivos de reparación cuando se violen derechos.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.