El pasado 1° de septiembre de 2025, 23.4 millones de niños y adolescentes volvieron a clases en México. Cada uno tenía una lista de útiles para el inicio de cursos. ¿Hay herramientas tecnológicas que puedan realizar esa compra más simple, rápida, inteligente y barata? ¿Qué riesgos trae consigo? Veamos qué ha hecho la Inteligencia Artificial (IA) al respecto.

Este año comenzaron a operar los “agentes de compra”, una herramienta de ChatGPT (modo agente, OpenAI) que puede leer una lista tanto en foto como en PDF, buscar equivalentes, comparar precios, disponibilidad y entrega, aplicar cupones y dejar el pedido listo para revisión y pago con permiso explícito. Google Shopping añadió Modo IA y un rastreador de precios. Microsoft y Perplexity también avanzan en ese sentido. Esto ayuda a completar listas en minutos y optimiza las “canastas” por costo y tiempos de entrega.

El comercio electrónico movió 6.334 billones de dólares (bdd) en 2024 (cerca de 20.1 por ciento de las ventas minoristas mundiales). Las empresas pioneras en e-commerce fueron Amazon y eBay en 1995 y se caracterizaban por eliminar la tienda física, operar 24 horas durante los siete días de la semana (24/7), ofrecer un catálogo virtual casi ilimitado y cobrar a distancia. Hoy, más de la mitad de las compras online ya se concretan desde el celular (57 por ciento del e-commerce mundial).

No obstante, tal actividad no podría efectuarse sin el marketing digital y el análisis de datos. Desde el punto de vista de Cathy O’Neil en su libro Armas de Destrucción Matemática, la mercadotecnia no es solamente persuasión, sino una máquina estadística que clasifica a las personas, les asigna puntajes y les envía mensajes a escala industrial.

¿En qué consiste este mecanismo? Se diseñan modelos suministrados por cada búsqueda, clic o compra. Esto permite inferir rasgos o conductas (capacidad de pago, necesidades y gustos), estimar probabilidades (de hacer clic, comprar o suscribirse) y, a partir de ello, asignar ofertas y precios para maximizar el rendimiento por dólar.

La autora califica a este tipo de algoritmos (que además de publicidad se utiliza en créditos, seguros, empleo, educación y justicia) como Armas de Destrucción Matemática debido a tres de sus características: 1) Opacidad (la complejidad técnica hace que casi nadie entienda el modelo y, por tanto, no se pueda apelar); 2) Escala (el modelo puede tener un error “pequeño”, pero al replicarse en millones de personas; su efecto se vuelve masivo); y 3) Daño (los costos por equívoco recaen en las personas con menos recursos para defenderse, por ejemplo, la publicidad “depredadora” se dirige a la población con gran necesidad y poca información).

La IA, cuyo gasto alcanzará 644 mil millones de dólares (mdd) en 2025, permea todo el e-commerce: interpreta catálogos y listas, ordena resultados según intención y presupuesto, conforma la compra con sustitutos y complementos, ajusta precios en tiempo real, estima entregas y detecta fraudes. En el aspecto operativo, unifica y depura datos, sigue el recorrido del cliente, mide campañas, anticipa demanda, optimiza inventario y detecta anomalías.

Pero también pueden existir efectos negativos. Cuando los modelos cumplen “el trípode” de O’Neil (opacidad, escala y daño) los efectos perjudiciales destacan: precios y ofertas distintos por perfil o código postal; publicidad que explota la necesidad, desinformación de las personas y trabas automáticas que excluyen comercios e individuos de acuerdo con su colonia o dispositivo y que después se autorrefuerzan. De acuerdo con Bloomberg, en 2016, un estudio mostró que vecindarios con población mayoritariamente negra tenían menos acceso a entregas de Amazon.

Como los espíritus invocados en el poema El aprendiz de brujo, de Goethe, los modelos de los que Cathy O’Neil nos previenen que pueden volverse contra los más pobres y desinformados en forma de publicidad depredadora y créditos usureros. Los modelos financieros sin control pueden agravar las crisis económicas y, en materia de justicia, la predicción de riesgos puede sesgar sentencias. Los algoritmos deben ser herramientas dirigidas por los hombres y no al revés.