En su libro Minority Report, adaptado al cine por Steven Spielberg en 2002, el novelista estadounidense Philippe K. Dick imaginaba una sociedad distópica en la que los asesinos potenciales eran detenidos y juzgados antes incluso de cometer un asesinato. El secreto de esta justicia predictiva: mutantes con precognición.

A falta de tales mutantes, cada vez más fuerzas policiales de todo el mundo recurren a algoritmos que analizan conjuntos masivos de datos para identificar “cajas rojas”, zonas en las que es probable que se produzcan delitos, que la policía puede evitar interviniendo con antelación. En la actualidad se detiene a jóvenes, en su mayoría mestizos y de clase trabajadora, por delitos que podrían cometer. La distopía se ha hecho realidad.

Para los economistas canadienses Jonathan Durand Folco y Jonathan Martineau, este fenómeno es sintomático del advenimiento de una “sociedad algorítmica”, cuyo nacimiento y características analizan en su libro Le capital algorithmique.

El nuevo Eldorado del capitalismo

Esta sociedad surgió tras dos décadas de acumulación de “capital algorítmico”. Mientras que muchos ensayos consideran las tecnologías algorítmicas como la inteligencia artificial (IA), las redes sociales, el reconocimiento facial, etc., independientemente del contexto en el que se produjeron, los dos autores nunca las disocian del sistema económico que les dio origen: el capitalismo, del que ahora son su núcleo.

Estas tecnologías se basan en un nuevo tipo de materia prima: los datos. El nuevo Eldorado del capitalismo, los datos, son a la vez un material que se puede extraer –mediante el análisis cuantitativo del comportamiento humano– y una mercancía que se puede vender. El capitalismo algorítmico se apoya en dos pilares. En primer lugar, la extracción masiva de lo que la socióloga estadounidense Shoshana Zuboff denominó, en su libro L’Âge du capitalisme de surveillance(Zulma, 2018), el “excedente conductual”, es decir, la captación de una “plusvalía” del trabajo, transformada en datos digitales; y en segundo lugar, la predicción, gracias a estos datos, del comportamiento de los usuarios.

Los primeros capitalistas algorítmicos –Google, Amazon, Facebook, Apple y Microsoft, los famosos Gafam– se convirtieron en adalides de esta nueva era del capitalismo tras la crisis económica de 2007-2008. Los autores del libro fechan en ese periodo la transición del neoliberalismo al capitalismo algorítmico. La década que siguió a la crisis financiera vio el ascenso al poder de los Gafam, que hoy son algunas de las empresas más cotizadas en bolsa gracias a un sinfín de inventos (teléfonos inteligentes, ordenadores portátiles, un número cada vez mayor de sensores, etc.). Al mismo tiempo, los agentes económicos tradicionales han integrado los algoritmos en sus propios procesos de trabajo. La pandemia de Covid-19 y los sucesivos confinamientos habrán actuado como aceleradores –como un “gran salto digital”– de una tendencia global fundamental.

Sin embargo, los capitalistas algorítmicos no han construido su imperio únicamente sobre la eficacia de sus tecnologías. Al mismo tiempo que han aumentado la productividad, el trabajo se ha degradado y devaluado en todos los sectores. Trabajo asalariado disfrazado (Uber, Deliveroo, etc.), microtrabajo (“granjas de clics”, Mechanical Turk de Amazon, etc.), subcontratación a países del Sur global (formación de ChatGPT por trabajadores kenianos mal pagados por OpenAI) o incluso explotación del trabajo gratuito de los usuarios (las valoraciones dadas a tal o cual establecimiento en Google, Yelp, Airbnb, etc.): a las plataformas no les falta imaginación a la hora de fragmentar y coartar a los trabajadores que dan forma a sus algoritmos… y aumentar sus beneficios en consecuencia.

Una distopía deseada

¿Cómo ha podido nacer semejante distopía, que se estaba construyendo a la vista de todos desde hacía veinte años? Ésta es una de las tesis más sólidas de las 22 de Jonathan Durand Folco y Jonathan Martineau: la sociedad algorítmica pudo surgir porque fue deseada. Y ante todo por los gobiernos. Lejos de controlar a las Gafam estadounidenses o a las BATXchinas (Baidu, Alibaba, Tencent y Xiaomi), los gobiernos han preferido aliarse con ellas para desarrollar una nueva “gubernamentalidad algorítmica” incompatible con el ejercicio de la democracia.

Utilizando el poder de los algoritmos para determinar y dirigir los impulsos dentro de sociedades complejas, los Estados contemporáneos están convirtiendo “la información en un instrumento de política que anima a los distintos actores a actuar de determinadas maneras en lugar de otras”. Los algoritmos se han introducido en casi todos los ámbitos del poder público: la policía, pero también en la justicia –en Estados Unidos, los algoritmos recomiendan veredictos y los jueces determinan las penas adecuadas–, las prisiones –Taiwán está experimentando con “cárceles sin guardias”– e incluso la asignación de programas sociales según criterios opacos, incluso a los ojos de los funcionarios públicos.

A pesar de lo aterrador de este capitalismo de la vigilancia promovido tanto por gobiernos como por multinacionales, hay que decir que una gran parte de la población mundial parece aceptar este estado de cosas. Las últimas tesis de Algorithmic Capital examinan las razones de esta ambigua aceptación social. Si tanta gente equipa su casa inteligente con un frigorífico conectado que pide leche directamente cuando se le acaba, una cama inteligente que analiza la calidad del sueño y otros artilugios tecnológicos, es porque lo ven como una forma de aliviarse de parte del trabajo doméstico… todo ello sabiendo perfectamente que están abriendo la ventana de su intimidad doméstica a estas empresas.

La explotación de la intimidad puede ir aún más lejos. Además de la plétora de juguetes sexuales y muñecas hinchables inteligentes, la industria produce ahora errobots, generalmente chatbots, como Replika, con los que los usuarios necesitados de interacción humana pueden entablar amistad o incluso formar parejas virtuales. Se completa así el círculo: frente al vacío humano que crea, el capitalismo ofrece soluciones tecnológicas… que sólo sirven para aislar aún más a los desamparados. Surge una nueva forma de subjetividad; en la era de las redes llamadas “sociales”, emerge un yo conectado, apogeo del narcisismo social, que muestra su vida privada en público y obtiene placer de ello.

“Tecnosobrios”

A pesar de todo, parece surgir un rayo de esperanza en el sombrío panorama del mundo pintado por los dos Jonathan. En su opinión, los algoritmos no son esencialmente malos, porque todo depende de cómo se utilicen. En un enfoque que pretenden “tecnosobrio” y no “tecnofóbico”, estos canadienses imaginan algoritmos arrebatados al capitalismo y puestos al servicio de la democracia, con vistas a su mejor ejercicio, en el que se automatizarían los procesos complejos más laboriosos, para reducir el tiempo de trabajo y aumentar el tiempo de ocio de sus miembros.

Teniendo en cuenta el catastrófico coste medioambiental del sector digital, que los economistas están analizando en detalle, una propuesta así está aún por demostrar a largo plazo y, sobre todo, plantea dudas sobre su pertinencia: ¿realmente necesitamos automatizar algo? ¿Debemos esperar a que los algoritmos aprendan a compartir nuestro trabajo y sus frutos de forma justa?