Cuando hablamos de inteligencia artificial (IA), recurrimos a la metáfora, como hacemos siempre que tratamos con algo nuevo y desconocido. Las metáforas son, por naturaleza, imperfectas, pero aun así debemos elegirlas con cuidado, porque las malas pueden llevarnos por mal camino. Por ejemplo, se ha vuelto muy común comparar las IA potentes con los genios de los cuentos de hadas. La metáfora pretende resaltar la dificultad de hacer que entidades poderosas obedezcan tus órdenes. El informático Stuart Russell ha citado la parábola del Rey Midas, que exigía que todo lo que tocaba se convirtiera en oro, para ilustrar los peligros de que una IA haga lo que uno le dice que haga en lugar de lo que uno quiere que haga. Esta metáfora tiene múltiples problemas, pero uno de ellos es que extrae lecciones equivocadas del cuento al que se refiere. La idea de la parábola de Midas es que la codicia te destruirá y que la búsqueda de la riqueza te costará todo lo que es verdaderamente importante. Si la lectura de la parábola es que, cuando los dioses te conceden un deseo, debes formularlo con mucho, mucho cuidado, entonces te has perdido el mensaje.
Así que me gustaría proponer otra metáfora para los riesgos de la IA. Sugiero que pensemos en la IA como una empresa consultora de gestión de empresas, al estilo de McKinsey & Company. Las empresas como McKinsey son contratadas por una amplia variedad de motivos, y los sistemas de IA también se utilizan por muchos motivos. Pero las similitudes entre McKinsey -una consultora que trabaja con el noventa por ciento de las empresas de Fortune 100- y la IA también son claras. Las empresas de medios de comunicación sociales utilizan el aprendizaje automático para mantener a los usuarios pegados a sus canales de contenido. De forma similar, Purdue Pharma recurrió a McKinsey para averiguar cómo "turboimpulsar" las ventas de OxyContin durante la epidemia de opioides. Al igual que la IA promete ofrecer a los directivos un sustituto barato de los trabajadores humanos, McKinsey y empresas similares ayudaron a normalizar la práctica de los despidos masivos como forma de aumentar la cotización de las acciones y la remuneración de los ejecutivos, contribuyendo a la destrucción de la clase media en Estados Unidos.
Un antiguo empleado de McKinsey ha descrito la empresa como "ejecutores voluntarios del capital": si quieres que se haga algo pero no quieres ensuciarte las manos, McKinsey lo hará por ti. Esa evasión de responsabilidades es uno de los servicios más valiosos que prestan las consultorías de gestión. Los jefes tienen ciertos objetivos, pero no quieren que se les culpe por hacer lo necesario para alcanzarlos; contratando a consultores, la dirección puede decir que se limitó a seguir un consejo independiente y experto. Incluso en su forma rudimentaria actual, la IA se ha convertido en una forma de que una empresa eluda su responsabilidad alegando que sólo está haciendo lo que dice "el algoritmo", a pesar de que fue la empresa la que encargó el algoritmo en primer lugar.
La pregunta que deberíamos hacernos es: a medida que la IA se hace más potente y flexible, ¿hay alguna forma de evitar que se convierta en otra versión de McKinsey? Merece la pena plantearse la pregunta en diferentes acepciones del término "IA". Si pensamos en la IA como un amplio conjunto de tecnologías que se comercializan a las empresas para ayudarles a reducir sus costes, la pregunta es: ¿cómo evitamos que esas tecnologías funcionen como "ejecutores voluntarios del capital"? Alternativamente, si imaginamos la IA como un programa de software semiautónomo que resuelve problemas que los humanos le piden que resuelva, la pregunta es entonces: ¿cómo evitamos que ese software ayude a las empresas de forma que empeore la vida de las personas? Supongamos que hemos construido una IA semiautónoma que obedece totalmente a los humanos y que comprueba repetidamente que no ha malinterpretado las instrucciones que ha recibido. Este es el sueño de muchos investigadores de la IA. Sin embargo, este tipo de software fácilmente podría causar tanto daño como el que ha causado McKinsey.
Nótese que no puedes decir simplemente que vas a construir una I.A. que sólo ofrezca soluciones prosociales a los problemas que le pidas que resuelva. Eso equivaldría a decir que puedes desactivar la amenaza de McKinsey creando una consultora que sólo ofrezca ese tipo de soluciones. La realidad es que las empresas de Fortune 100 contratarán a McKinsey en lugar de a tu empresa prosocial, porque las soluciones de McKinsey aumentarán el valor para los accionistas más que las soluciones de tu empresa. Siempre será posible construir una IA que persiga el valor para el accionista por encima de todo, y la mayoría de las empresas preferirán utilizar esa IA en lugar de una limitada por tus principios.
¿Hay alguna forma de que la IA haga algo más que afilar la hoja del cuchillo del capitalismo? Para que quede claro, cuando me refiero al capitalismo, no hablo del intercambio de bienes o servicios a precios determinados por un mercado, que es una propiedad de muchos sistemas económicos. Cuando hablo de capitalismo, hablo de una relación específica entre capital y trabajo, en la que personas privadas que tienen dinero pueden beneficiarse del esfuerzo de otros. Así que, en el contexto de este debate, cuando critico el capitalismo, no critico la idea de vender cosas; critico la idea de que la gente que tiene mucho dinero pueda ejercer poder sobre la gente que realmente trabaja. Y, más concretamente, critico la concentración cada vez mayor de riqueza en un número cada vez menor de personas, que puede ser o no una propiedad intrínseca del capitalismo, pero que caracteriza absolutamente al capitalismo tal y como se practica hoy en día.
Tal como se aplica en la actualidad, la IA a menudo consiste en un empeño por analizar una tarea que realizan los seres humanos y encontrar la forma de sustituirlos. Casualmente, este es exactamente el tipo de problema que la dirección quiere resolver. Como resultado, la IA ayuda al capital a expensas de la mano de obra. En realidad, no existe nada parecido a una empresa de asesoría laboral que favorezca los intereses de los trabajadores. ¿Es posible que la IA asuma ese papel? ¿Puede la IA ayudar a los trabajadores en lugar de a la dirección?
Algunos dirán que la misión de la IA no es oponerse al capitalismo. Puede que sea cierto, pero tampoco es tarea de la IA reforzar el capitalismo. Sin embargo, eso es lo que hace actualmente. Si la IA no es capaz de reducir la concentración de la riqueza, es difícil afirmar que es una tecnología neutra, y mucho menos benefactora.
Mucha gente piensa que la IA creará más desempleo, y plantean la Renta Básica Universal, o RBU, como solución a ese problema. En general, me gusta la idea de la Renta Básica Universal; sin embargo, con el tiempo, me he vuelto escéptico sobre la forma en que la gente que trabaja en IA sugiere la RBU como respuesta al desempleo provocado por la IA. Sería diferente si ya tuviéramos una Renta Básica Universal, pero no la tenemos, así que expresarse a favor de ella parece una forma de que la gente que desarrolla la IA pase la pelota al gobierno. En efecto, están intensificando los problemas que crea el capitalismo con la expectativa de que, cuando esos problemas se agraven lo suficiente, el gobierno no tendrá más remedio que intervenir. Como estrategia para hacer del mundo un lugar mejor, esto parece dudoso.
Tal vez recuerden que, en el período previo a las elecciones de 2016, la actriz Susan Sarandon, ferviente partidaria de Bernie Sanders, dijo que votar a Donald Trump sería mejor que votar a Hillary Clinton porque provocaría la revolución más rápidamente. No sé hasta qué punto Sarandon había reflexionado sobre ello, pero el filósofo esloveno Slavoj Žižek dijo lo mismo, y estoy bastante seguro de que había reflexionado mucho sobre el asunto. Sostuvo que la elección de Trump sería una sacudida tan fuerte para el sistema que provocaría un cambio.
Lo que defendía Žižek es un ejemplo de una idea conocida en filosofía política como aceleracionismo. Hay muchas versiones diferentes del aceleracionismo, pero el hilo común que une a los aceleracionistas de izquierdas es la noción de que la única manera de mejorar las cosas es empeorarlas. El aceleracionismo dice que es inútil intentar oponerse o reformar el capitalismo; en su lugar, tenemos que exacerbar las peores tendencias del capitalismo hasta que todo el sistema se venga abajo. La única manera de ir más allá del capitalismo es pisar el acelerador del neoliberalismo hasta que el motor explote.
Supongo que ésta es una forma de conseguir un mundo mejor, pero, si es el enfoque que está adoptando la industria de la IA, quiero asegurarme de que todo el mundo tiene claro para qué están trabajando. Al desarrollar IA para hacer tareas que antes realizaban las personas, los investigadores de IA están aumentando la concentración de riqueza a niveles tan extremos que la única forma de evitar el colapso social es que intervenga el gobierno. Intencionadamente o no, esto es muy similar a votar a Trump con el objetivo de conseguir un mundo mejor. Y el ascenso de Trump ilustra los riesgos de perseguir el aceleracionismo como estrategia: las cosas pueden ir muy mal, y seguir muy mal durante mucho tiempo, antes de mejorar. De hecho, no tenemos ni idea de cuánto tardarán las cosas en mejorar; de lo único que podemos estar seguros es de que habrá mucho dolor y sufrimiento a corto y medio plazo.
No me convencen demasiado las proclamas según las cuales la I.A. representa un peligro para la humanidad porque podría desarrollar objetivos propios e impedirnos que la desactivemos. Sin embargo, sí creo que la I.A. es peligrosa en la medida en que aumenta el poder del capitalismo. El escenario del fin del mundo no es una I.A. manufacturera transformando todo el planeta en clips de papel, como ha imaginado un famoso experimento mental. Se trata de corporaciones sobrecargadas de IA que destruyen el medio ambiente y a la clase trabajadora en su búsqueda del beneficio de los accionistas. El capitalismo es la máquina que hará lo que sea necesario para evitar que la apaguemos, y el arma más exitosa de su arsenal ha sido su campaña para evitar que consideremos cualquier alternativa.
A veces se califica de luditas a quienes critican las nuevas tecnologías, pero conviene aclarar qué querían realmente los luditas. Su principal protesta era que sus salarios disminuían al mismo tiempo que aumentaban los beneficios de los propietarios de las fábricas, así como los precios de los alimentos. También protestaban por las condiciones de trabajo inseguras, el uso de mano de obra infantil y la venta de productos de mala calidad que desacreditaban a toda la industria textil. Los luditas no destruían máquinas indiscriminadamente; si el propietario de una máquina pagaba bien a sus trabajadores, la dejaban en paz. Los luditas no eran antitecnológicos; lo que querían era justicia económica. Destruían maquinaria como forma de llamar la atención de los propietarios de las fábricas. El hecho de que la palabra "ludita" se utilice ahora como un insulto, una forma de llamar a alguien irracional e ignorante, es el resultado de una campaña de desprestigio de las fuerzas del capital.
Cada vez que alguien acusa a otro de ser un ludita, vale la pena preguntarse: ¿está la persona acusada realmente en contra de la tecnología? ¿O está a favor de la justicia económica? Y la persona que hace la acusación, ¿está realmente a favor de mejorar la vida de las personas? ¿O sólo intenta aumentar la acumulación privada de capital?
Hoy nos encontramos en una situación en la que la tecnología se ha asimilado al capitalismo, que a su vez se ha asimilado a la noción misma de progreso. Si uno intenta criticar el capitalismo, se le acusa de oponerse tanto a la tecnología como al progreso. Pero, ¿qué significa el progreso si no incluye una vida mejor para las personas que trabajan? ¿Qué sentido tiene una mayor eficiencia si el dinero que se ahorra no va a ninguna parte, excepto a las cuentas bancarias de los accionistas? Todos deberíamos esforzarnos por ser luditas, porque todos deberíamos preocuparnos más por la justicia económica que por el aumento de la acumulación privada de capital. Tenemos que ser capaces de criticar los usos perjudiciales de la tecnología -y entre ellos se incluyen los usos que benefician a los accionistas en detrimento de los trabajadores- sin que se nos describa como opositores a la tecnología.
***
Imaginemos un futuro ideal, dentro de cien años, en el que nadie esté obligado a trabajar en lo que no le gusta y todo el mundo pueda dedicar su tiempo a lo que más le enriquezca personalmente. Obviamente, es difícil ver cómo llegaríamos a ese punto desde este de ahora. Pero consideremos ahora dos posibles escenarios para las próximas décadas. En uno, la dirección empresarial y las fuerzas del capital son aún más poderosas que ahora. En el otro, los trabajadores son más poderosos que ahora. ¿Cuál de los dos parece más probable que nos acerque a ese futuro idealizado? Y, tal como se despliega actualmente, ¿hacia cuál nos empuja la IA?
Por supuesto, existe el argumento de que las nuevas tecnologías mejoran nuestro nivel de vida a largo plazo, lo que compensa el desempleo que crean a corto plazo. Este argumento tuvo peso durante gran parte del periodo posterior a la Revolución Industrial, pero ha perdido fuerza en el último medio siglo. En Estados Unidos, el PIB per cápita casi se ha duplicado desde 1980, mientras que la renta media de los hogares se ha quedado muy rezagada. Ese periodo abarca la revolución de las tecnologías de la información. Esto significa que el valor económico creado por el ordenador personal e Internet ha servido sobre todo para aumentar la riqueza del 1% de los más ricos, en lugar de elevar el nivel de vida del conjunto de los ciudadanos estadounidenses.
Claro que ahora todos tenemos Internet, e Internet es increíble. Pero los precios de los bienes raíces, las matrículas universitarias y los costes de la sanidad han subido más deprisa que la inflación. En 1980, era común mantener a una familia con un solo ingreso; ahora es poco común. Entonces, ¿cuánto hemos avanzado realmente en los últimos cuarenta años? Claro que comprar por Internet es rápido y fácil, y ver películas en casa es genial, pero creo que mucha gente cambiaría de buena gana esas ventajas por la posibilidad de tener casa propia, enviar a sus hijos a la universidad sin endeudarse para toda la vida e ir al hospital sin caer en la bancarrota. No es culpa de la tecnología que la renta media no haya seguido el ritmo del PIB per cápita; la culpa es sobre todo de Ronald Reagan y Milton Friedman. Pero parte de la responsabilidad recae también en las políticas de gestión de consejeros delegados como Jack Welch, que dirigió General Electric entre 1981 y 2001, así como en consultoras como McKinsey. No estoy culpando al ordenador personal por el aumento de la desigualdad de riqueza, sólo digo que la afirmación de que una tecnología superior mejorará necesariamente el nivel de vida de la gente ya no es creíble.
El hecho de que los ordenadores personales no incrementaran la renta media es especialmente relevante a la hora de pensar en los posibles beneficios de la IA. A menudo se sugiere que los investigadores deberían centrarse en las formas en que la IA puede mejore la productividad de los trabajadores individuales en lugar de sustituirlos; esto se conoce como la vía del aumento, en contraposición a la vía de la automatización. Es un objetivo loable, pero por sí solo no mejorará la suerte económica de la gente. El software de productividad que funcionaba en los ordenadores personales era un ejemplo perfecto de aumento en lugar de automatización: los programas de tratamiento de textos sustituían a las máquinas de escribir en lugar de a los mecanógrafos, y los programas de hojas de cálculo sustituían a las hojas de cálculo en papel en lugar de a los contables. Pero el aumento de la productividad personal que trajo consigo el ordenador personal no se vio acompañado de un aumento del nivel estándar de vida.
La única forma de que la tecnología eleve el nivel de vida es que existan políticas económicas que distribuyan adecuadamente los beneficios de la tecnología. No hemos tenido esas políticas en los últimos cuarenta años y, a menos que las tengamos, no hay razón para pensar que los próximos avances en IA aumentarán la renta media, incluso si somos capaces de idear formas para que aumente a los trabajadores individuales. La IA reducirá sin duda los costes laborales y aumentará los beneficios de las empresas, pero eso es totalmente distinto de mejorar nuestro nivel de vida.
Sería muy práctico que pudiéramos asumir que un futuro utópico está a la vuelta de la esquina y ponernos a desarrollar tecnología para utilizarla en ese futuro. Pero el hecho de que una tecnología determinada sea útil en una utopía no implica que lo sea ahora. En una utopía en la que existiera una máquina que convirtiera los residuos tóxicos en alimentos, la generación de residuos tóxicos no sería un problema, pero, aquí y ahora, nadie podría afirmar que generar residuos tóxicos es inofensivo. Los aceleracionistas podrían argumentar que generar más residuos tóxicos motivará la invención de un convertidor de residuos en alimentos, pero ¿hasta qué punto es convincente? Evaluamos el impacto medioambiental de las tecnologías en el contexto de las mitigaciones disponibles en la actualidad, no en el contexto de hipotéticas mitigaciones futuras. Del mismo modo, no podemos evaluar la IA imaginando lo útil que será en un mundo con RBU.; tenemos que evaluarla a la luz del desequilibrio existente entre capital y trabajo y, en ese contexto, la IA es una amenaza por la forma en que ayuda al capital.
Un antiguo socio de McKinsey defendió las acciones de la empresa diciendo: "No hacemos política. Hacemos ejecución". Pero es una excusa bastante endeble; es más probable que se tomen decisiones políticas perjudiciales cuando las consultoras -o las nuevas tecnologías- ofrecen formas de aplicarlas. La versión de la IA que se está desarrollando actualmente facilita a las empresas el despido. Entonces, ¿hay alguna forma de desarrollar un tipo de IA que lo haga más difícil?
En su libro "Cómo ser anticapitalista en el siglo XXI", el sociólogo Erik Olin Wright ofrece una taxonomía de estrategias para responder a los daños del capitalismo. Dos de las estrategias que menciona son aplastar el capitalismo y desmantelar el capitalismo, que probablemente quedan fuera del ámbito de este debate. Las que son más relevantes aquí son domesticar el capitalismo y resistirse al capitalismo. A grandes rasgos, domesticar el capitalismo significa regulación gubernamental, y resistirse al capitalismo significa activismo de base y sindicatos. ¿Hay formas de que la IA refuerce estas cosas? ¿Hay alguna forma de que la IA refuerce los sindicatos o las cooperativas de trabajadores?
En 1976, los trabajadores de la Lucas Aerospace Corporation de Birmingham, Inglaterra, se enfrentaban a despidos debido a los recortes en el gasto de defensa. En respuesta, los delegados sindicales elaboraron un documento conocido como el Plan Lucas, en el que se describían ciento cincuenta "productos socialmente útiles", desde máquinas de diálisis hasta turbinas eólicas y motores híbridos para automóviles, que los trabajadores podrían fabricar con sus conocimientos y equipos actuales en lugar de ser despedidos. La dirección de Lucas Aerospace rechazó la propuesta, pero sigue siendo un notable ejemplo moderno de trabajadores que intentan dirigir el capitalismo en una dirección más humana. Seguro que algo parecido es posible con la tecnología informática moderna.
¿Tiene que ser el capitalismo tan dañino como lo es actualmente? Puede que no. Las tres décadas que siguieron a la Segunda Guerra Mundial se conocen a veces como la edad de oro del capitalismo. Este periodo fue en parte el resultado de mejores políticas gubernamentales, pero el gobierno no creó la edad de oro por sí solo: la cultura corporativa era diferente durante esta época. En el informe anual de General Electric de 1953, la empresa alardeaba de lo mucho que pagaba en impuestos y lo mucho que gastaba en nóminas. Decía explícitamente que "maximizar la seguridad del empleo es un objetivo primordial de la empresa". El fundador de Johnson & Johnson afirmaba que la responsabilidad de la empresa para con sus empleados era superior a su responsabilidad para con sus accionistas. Las empresas de entonces tenían una concepción radicalmente diferente de su papel en la sociedad en comparación con las empresas de hoy.
¿Hay alguna forma de volver a esos valores? Parece improbable, pero hay que recordar que la edad de oro del capitalismo llegó después de la enorme desigualdad de riqueza de la era 'Gilded Age' [finales del siglo XIX en EEUU]. Ahora mismo estamos viviendo una segunda 'Gilded Age', en la que la desigualdad de la riqueza es más o menos la misma que en 1913, así que no es imposible que podamos pasar de donde estamos ahora a una segunda edad de oro. Por supuesto, entre la primera 'Gilded Age' y la edad de oro tuvimos la Gran Depresión y dos Guerras Mundiales. Un aceleracionista podría decir que esos acontecimientos fueron necesarios para llegar a la edad de oro, pero creo que la mayoría de nosotros preferiría saltarse esos pasos. La tarea que tenemos ante nosotros es imaginar vías por las que la tecnología nos haga avanzar hacia una edad de oro sin provocar antes otra Gran Depresión.
Vivimos en un sistema capitalista, así que todos somos partícipes del capitalismo, nos guste o no. Y es razonable preguntarse si hay algo que tú, como individuo, puedas hacer. Si trabajas como científico alimentario en Frito-Lay y tu trabajo consiste en inventar nuevos sabores de patatas fritas, no voy a decir que tienes la obligación ética de renunciar porque estás ayudando al motor del consumismo. Estás utilizando tu formación en ciencia alimentaria para proporcionar a los clientes una experiencia agradable; es una forma perfectamente razonable de ganarse la vida.
Pero muchos de los que trabajan en IA lo consideran más importante que inventar nuevos sabores de patatas fritas. Dicen que es una tecnología que cambiará el mundo. Si es así, tienen el deber de encontrar la forma de que la IA mejore el mundo sin empeorarlo. ¿Puede la IA mejorar las desigualdades de nuestro mundo sin llevarnos al borde del colapso social? Si la IA es una herramienta tan poderosa como afirman sus defensores, deberían poder encontrarle otros usos además de intensificar la crueldad del capital.
***
Si hay alguna lección que debamos extraer de las historias de genios que conceden deseos, es que el deseo de conseguir algo sin esfuerzo es el verdadero problema. Pensemos en la historia de "El aprendiz de brujo", en la que el aprendiz lanza un hechizo para que las escobas transporten agua, pero es incapaz de conseguir que dejen de hacerlo. La lección de esa historia no es que la magia sea imposible de controlar: al final de la historia, el hechicero vuelve e inmediatamente arregla el desastre que hizo el aprendiz. La lección es que no puedes librarte de hacer el trabajo duro. El aprendiz quería evitar sus tareas, y buscar un atajo fue lo que le metió en problemas.
La tendencia a pensar en la IA como un solucionador mágico de problemas es indicativa de un deseo de evitar el duro trabajo que requiere la construcción de un mundo mejor. Ese trabajo duro implicará cosas como abordar la desigualdad de la riqueza y domar el capitalismo. Para los tecnólogos, el trabajo más duro de todos -la tarea que más quieren evitar- será cuestionar la suposición de que más tecnología es siempre mejor, y la creencia de que pueden continuar con los negocios como de costumbre y todo se resolverá por sí solo. A nadie le gusta pensar en su complicidad con las injusticias del mundo, pero es imperativo que las personas que están construyendo tecnologías revolucionarias se comprometan con este tipo de autoexamen crítico. Es su voluntad de analizar sin pestañear su propio papel en el sistema lo que determinará si la IA conduce a un mundo mejor o a uno peor.
