IA y protección del consumidor vulnerable

Esta página es una traducción del texto original en portugués, ofrecida para facilitar la lectura. Trata del derecho brasileño. En caso de divergencia, prevalece la versión en portugués. Leer el original en portugués

La inteligencia artificial ya influye en decisiones de crédito, salud y consumo que afectan a millones de brasileños vulnerables, y el Derecho debe acompañar esta transformación.

El avance de la inteligencia artificial en las relaciones de consumo

Vivimos un momento en que los sistemas de inteligencia artificial impregnan prácticamente todas las etapas de la relación entre proveedores y consumidores. Desde la oferta personalizada de productos hasta el análisis automatizado de crédito, pasando por los chatbots de atención al cliente y la fijación dinámica de precios, los algoritmos toman decisiones que repercuten directamente en la vida de millones de personas. Al examinar este escenario desde la óptica del Código de Defensa del Consumidor (CDC), advertimos que los mecanismos tradicionales de protección enfrentan desafíos inéditos ante la opacidad y la velocidad de estas tecnologías.

El consumidor vulnerable, concepto ya consolidado en la doctrina consumerista brasileña, adquiere contornos aún más complejos en este contexto. Personas mayores que interactúan con asistentes virtuales sin comprender la naturaleza automatizada de la atención, personas con escasa formación digital sometidas a extensos contratos electrónicos, personas con discapacidad que encuentran barreras de accesibilidad en plataformas algorítmicas: todos estos grupos experimentan una vulnerabilidad agravada por la mediación tecnológica. Identificamos aquí lo que la doctrina ha llamado «vulnerabilidad algorítmica», una condición que se superpone a las vulnerabilidades ya reconocidas (técnica, jurídica, fáctica e informacional) y que exige respuestas normativas a la altura.

La asimetría informacional, que siempre ha caracterizado las relaciones de consumo, alcanza niveles sin precedentes cuando el proveedor utiliza sistemas de IA capaces de procesar volúmenes masivos de datos personales para predecir comportamientos, identificar fragilidades emocionales y ajustar estrategias de venta en tiempo real. En esta ecuación, el consumidor ni siquiera es consciente de que está siendo perfilado ni de que las ofertas que recibe han sido calibradas para explotar sus tendencias de comportamiento.

El marco legal de la IA y la protección del consumidor vulnerable en Brasil

El debate legislativo brasileño sobre la regulación de la inteligencia artificial ha avanzado con la tramitación de proyectos que buscan establecer principios, derechos y obligaciones para el desarrollo y el uso de sistemas de IA. En este contexto, la protección del consumidor vulnerable aparece como uno de los ejes centrales de las discusiones. El principio de no discriminación algorítmica, la exigencia de transparencia en las decisiones automatizadas y el derecho a la explicación son pilares que dialogan directamente con el sistema protector del CDC.

Cabe señalar que la Ley General de Protección de Datos de Brasil (LGPD, Ley 13.709/2018) ya ofrece instrumentos relevantes para esta tutela. El artículo 20 de la LGPD garantiza al titular el derecho a solicitar la revisión de decisiones adoptadas únicamente sobre la base de un tratamiento automatizado de datos personales, incluidas las decisiones destinadas a definir su perfil personal, profesional, de consumo y de crédito. Esta disposición representa una primera capa de protección frente a decisiones algorítmicas que puedan perjudicar a consumidores vulnerables, aunque su efectividad depende de una reglamentación y una fiscalización adecuadas.

El Código de Defensa del Consumidor, por su parte, sigue siendo la columna vertebral de la protección. Los principios de la buena fe objetiva, de la transparencia y de la información adecuada (artículos 4º y 6º del CDC) se aplican plenamente a las relaciones mediadas por IA. El proveedor que utiliza algoritmos para interactuar con los consumidores no queda eximido de la obligación de informar de manera clara y accesible las condiciones de los productos y servicios ofrecidos. La vulnerabilidad presumida del consumidor (artículo 4º, inciso I) adquiere una dimensión ampliada si se considera que el interlocutor al otro lado de la pantalla puede ser un sistema automatizado diseñado para maximizar conversiones.

La vulnerabilidad algorítmica exige que el Derecho del Consumidor evolucione para garantizar transparencia, explicabilidad y equidad en las decisiones automatizadas que afectan a grupos hiposuficientes.

Observamos también que el Decreto 7.962/2013, que reglamenta el comercio electrónico, y el Marco Civil de Internet (Ley 12.965/2014) integran el marco normativo aplicable. Sin embargo, ninguno de estos instrumentos fue concebido para abordar específicamente los riesgos que la IA generativa y los sistemas de decisión automatizada representan para los grupos vulnerables. Esta laguna refuerza la urgencia de una legislación específica que dialogue con el sistema de protección ya existente.

Riesgos concretos de la IA para los consumidores vulnerables

Cuando mapeamos los riesgos que los sistemas de inteligencia artificial representan para los consumidores en situación de vulnerabilidad, identificamos patrones preocupantes que ya se manifiestan en el día a día de las relaciones de consumo brasileñas. La discriminación algorítmica es quizá el más grave de ellos. Los sistemas de scoring de crédito basados en IA pueden reproducir y amplificar sesgos históricos, negando el acceso a productos financieros a consumidores de determinadas regiones, rangos de edad o perfiles socioeconómicos, sin que exista una justificación legítima para la distinción.

La fijación personalizada (o discriminatoria) de precios constituye otro riesgo significativo. Los algoritmos capaces de identificar la disposición individual de pago pueden cobrar valores distintos por el mismo producto o servicio según el perfil del consumidor. Una persona mayor que demuestra menor familiaridad con la comparación de precios en línea puede ser dirigida hacia ofertas más caras, mientras que un consumidor joven y con buena alfabetización digital recibe descuentos por considerarse más propenso a cambiarse a la competencia. Esta práctica, cuando alcanza a consumidores hipervulnerables, configura un abuso que el ordenamiento jurídico no puede tolerar.

En el sector de la salud suplementaria se advierten riesgos igualmente graves. Los sistemas de IA utilizados por las operadoras de planes de salud para analizar la siniestralidad y autorizar procedimientos pueden crear barreras automatizadas de acceso a los tratamientos. Un consumidor de edad avanzada o con una enfermedad crónica puede ver sus solicitudes sistemáticamente denegadas o postergadas por algoritmos entrenados para reducir costos, sin que un profesional humano analice adecuadamente las particularidades del caso.

Los llamados «dark patterns» algorítmicos merecen especial atención. Se trata de interfaces y flujos de interacción diseñados con ayuda de IA para inducir al consumidor a tomar decisiones que no tomaría si dispusiera de información clara y de un tiempo adecuado de reflexión. Suscripciones automáticas difíciles de cancelar, botones de confirmación colocados en posiciones estratégicas, lenguaje persuasivo generado por IA para sortear objeciones: todas estas prácticas afectan de manera desproporcionada a los consumidores con menor alfabetización digital.

Poblaciones especialmente afectadas

Entre los grupos más impactados cabe destacar a las personas mayores, que representan una proporción creciente de los consumidores digitales brasileños y que muchas veces carecen de la fluidez tecnológica necesaria para identificar interacciones automatizadas o prácticas abusivas. Las personas con discapacidad enfrentan barreras adicionales cuando los sistemas de IA no se diseñan con la accesibilidad como requisito, lo que produce una exclusión digital que se convierte en exclusión del consumo. Los consumidores sobreendeudados son particularmente susceptibles a ofertas de crédito predatorio dirigidas por algoritmos que identifican su frágil situación financiera como una oportunidad comercial.

Mecanismos de protección y papel de la regulación sectorial

Ante este panorama, corresponde analizar los mecanismos de protección que pueden movilizarse en favor del consumidor vulnerable frente a la IA. En primer lugar, la inversión de la carga de la prueba prevista en el artículo 6º, inciso VIII, del CDC cobra aún mayor relevancia. Dada la opacidad de los sistemas de IA (el problema de la «caja negra»), exigir al consumidor que demuestre el nexo causal entre la decisión algorítmica y el daño sufrido equivaldría a imponerle una prueba diabólica. Corresponde al proveedor demostrar que su sistema opera de manera lícita, no discriminatoria y transparente.

La responsabilidad objetiva del proveedor por el hecho del producto o del servicio (artículos 12 y 14 del CDC) constituye otro pilar fundamental. Entendemos que el sistema de IA utilizado por el proveedor forma parte de la cadena de suministro, y que los eventuales defectos algorítmicos (decisiones discriminatorias, información incorrecta generada por IA, fallas de accesibilidad) configuran un vicio del servicio que genera el deber de reparar con independencia de la culpa.

En el plano de la regulación sectorial, observamos movimientos importantes. El Banco Central ha emitido normas sobre el uso de IA en el sistema financiero, con atención a la prevención de la discriminación en los análisis de crédito automatizados. La Agencia Nacional de Salud Suplementaria (ANS) enfrenta el desafío de reglamentar el uso de algoritmos en la autorización de procedimientos médicos. La Secretaría Nacional del Consumidor (Senacon) se ha pronunciado sobre la necesidad de transparencia algorítmica en las relaciones de consumo digitales.

Cabe destacar también la importancia de los mecanismos colectivos de tutela. Las acciones civiles públicas promovidas por el Ministerio Público y por entidades de defensa del consumidor pueden ser instrumentos eficaces para combatir prácticas algorítmicas abusivas que afectan a grupos enteros de consumidores vulnerables. La tutela colectiva es particularmente adecuada en este contexto, pues los daños causados por los sistemas de IA tienden a ser difusos y de difícil percepción individual.

Buenas prácticas para los proveedores

Se recomienda que los proveedores que utilizan sistemas de IA en las relaciones de consumo adopten, como mínimo, las siguientes prácticas: realizar evaluaciones de impacto algorítmico antes de implementar sistemas automatizados de decisión, con especial atención a los efectos sobre los grupos vulnerables; garantizar una supervisión humana significativa en las decisiones que puedan restringir derechos o el acceso a servicios esenciales; implementar canales accesibles para que los consumidores puedan impugnar decisiones automatizadas y obtener una revisión humana; y adoptar medidas de accesibilidad digital que aseguren que los sistemas basados en IA no creen barreras adicionales para las personas con discapacidad.

Perspectivas para la tutela del consumidor en la era de la IA

Al proyectar el futuro de la protección del consumidor vulnerable frente a la inteligencia artificial, constatamos que Brasil cuenta con un sólido marco de principios en el CDC y en la LGPD, pero que este marco necesita actualización y complementación para enfrentar los desafíos específicos de la era algorítmica. La aprobación de una ley general de inteligencia artificial que dialogue expresamente con el sistema consumerista es un paso fundamental, siempre que no se limite a enunciar principios genéricos y establezca obligaciones concretas, mecanismos de fiscalización y sanciones efectivas.

La formación de una cultura de auditoría algorítmica es igualmente esencial. Así como los productos físicos pasan por controles de calidad y seguridad, los sistemas de IA que interactúan con consumidores deben someterse a auditorías periódicas e independientes, centradas en detectar sesgos discriminatorios, verificar la conformidad con los principios consumeristas y evaluar el impacto sobre los grupos vulnerables.

Concluimos que la protección del consumidor vulnerable en la era de la inteligencia artificial no es un problema exclusivamente tecnológico, sino fundamentalmente jurídico y social. Exige la articulación entre distintas ramas del Derecho, la cooperación entre órganos reguladores y la participación activa de la sociedad civil. El principio de vulnerabilidad, piedra angular del Derecho del Consumidor brasileño, debe ser reinterpretado y fortalecido para asegurar que la revolución algorítmica no se convierta en un instrumento de profundización de las desigualdades que el ordenamiento jurídico busca combatir.

Este tema guarda relación directa con la protección contra prácticas abusivas, asunto que abordamos en un artículo específico.

Para complementar su lectura, vea también el artículo del despacho sobre guía completa.

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.