La tecnología promete mejorar nuestras vidas, pero muchos viven cada vez peor.
Esto es porque el desarrollo tecnológico tiene una paradoja: los sistemas nuevos pueden destruir las alternativas, pero tener alternativas es fundamental para negociar. Perder las alternativas implica perder poder de negociación y quedar obligados a aceptar cualquier condición. Entonces, construir sistemas más eficientes puede terminar siendo perjudicial. Esto sucede todo el tiempo, cada vez más rápido, y está en el centro del mundo en que vivimos.
El sector tecnológico y de las plataformas encarna el problema en forma más notoria, porque la cara más atractiva de las plataformas tiene una contracara que nos está arruinando. Para los inversores, las plataformas más exitosas y atractivas son las que mejoran cuantos más usuarios tienen. Por ejemplo, Uber consigue viajes más rápido cuanta más gente la usa, y MercadoLibre ofrece más variedad de productos cuantos más vendedores tiene (y ayuda a vender más cuantos más compradores). La característica de mejorar con la cantidad de usuarios se conoce como “efecto de red”. Como todos tienden a usar la plataforma con más usuarios, por ser la más eficaz, todos convergen a la misma plataforma y emerge un monopolio multimillonario.
La contracara de que un sistema mejore cuantos más usuarios tiene es que empeora cuantos menos usuarios tiene. A medida que la gente se muda a la plataforma más importante, las alternativas pierden a su gente y se arruinan. Cuando mis amigos se mudaron a Facebook chat, usar MSN se volvió inútil, por lo que me mudé a Facebook Chat. La vieja plataforma de chat no me ofrecía nada si nadie la usaba. A quienes usaban MySpace les sucedió algo parecido. El abandono de una plataforma obsoleta se retroalimenta: el sistema pierde gente, funciona peor, lo cual ahuyenta más gente y funciona aún peor. Me gusta llamar “defectos de red” al lado B de los efectos de red en que se destruyen las alternativas.
Después de que Facebook, ahora Meta, se transformó en un monopolio y desplazó a las alternativas, impuso sus propias condiciones. Su plataforma Instagram puede leer nuestros mensajes privados, usar información personal para entrenar algoritmos de recomendación e inteligencias artificiales, y dispararnos videos adictivos cada vez que abrimos la aplicación. Las tres condiciones me irritan, pero me veo obligado a aceptarlas porque no hay alternativa. Defectos de red.
Alguien podría objetar que, en realidad, sí tengo una alternativa: dejar de usar redes sociales. Tendría razón. De hecho, de vez en cuando paso tiempo sin usarlas, y llegué a durar meses en más de una racha. Pero siempre me veo obligado a volver. Esto es porque cuando Meta creció, no debilitó únicamente a MySpace, Fotolog y otras plataformas digitales. Paulatinamente, también debilitó la socialización cara a cara. A medida que la socialización, la difusión cultural, la reputación y la coordinación se mudaron a una aplicación, empezó a ser más difícil conocer gente, ganar presencia en ciertas escenas y coordinar actividades por fuera de ella. El centro cultural, la biblioteca popular, el club social y la cafetería perdieron su centralidad. Ya no marcan el rumbo sino que replican las redes1. En otras palabras, los defectos de red alcanzan y debilitan al mundo no digital. Del mismo modo, las plataformas de reparto a domicilio llevaron a que los restaurantes dejaran de encargarse del reparto de comida, y hoy la falta de alternativas lleva a tener precios altos para los consumidores y pésimas condiciones laborales para los repartidores.
La relación entre los efectos y defectos de red no empieza con la digitalidad. Existió durante toda la historia y es tan básica como que cuando un sistema gana, otro sistema pierde. La digitalidad aumentó la escala, la velocidad y la gravedad de los hechos, pero la dinámica siempre estuvo ahí.
Imaginemos, por un momento, un pueblo medieval. Un panadero, por ejemplo, proveía pan al resto de los habitantes, y esto le permitía acceder a varios otros productos: queso, abrigos de lana, aceite, miel, zapatos de cuero, muebles artesanales, carne y cereales. Cuando aparecieron las fábricas, nadie habría aceptado un salario que no alcanzara, por lo menos, para comprar queso, abrigos de lana, aceite, miel, y todos los productos a los que se podía acceder trabajando en el pueblo, porque implicaría estar peor. Gracias a que el pueblo existía como alternativa, los empresarios se veían obligados a ofrecer mejores condiciones de vida para atraer trabajadores. Sin embargo, la economía del pueblo se debilitó al perder gente. El zapatero perdió la mitad de sus clientes y debió mudarse porque ya no era rentable trabajar. Cuando se fue el zapatero, el panadero dejó de acceder a los zapatos de cuero. Paulatinamente, el pueblo dejó de ofrecer queso, zapatos y muebles, y se debilitó como alternativa. A medida que esto sucedía, los empresarios de la ciudad podían ofrecer peores salarios y condiciones laborales, porque la gente estaría obligada a aceptarlos por perder su alternativa2. El crecimiento de un sistema más productivo debilitó a la alternativa y obligó a la gente a aceptar peores condiciones de las que tenían antes del nuevo sistema. La productividad mejoró, pero cayó la esperanza de vida, aumentaron la pobreza y el desempleo y apareció la exclusión económica estructural.
Muchos imaginan a la Edad Media como una época descolorida, harapienta y pobre, donde la Iglesia perseguía científicos y detractores, pero eso es un mito surgido en la modernidad. En realidad, el medioevo europeo tenía algo parecido al pleno empleo y redes de contención que protegían a los enfermos, huérfanos y discapacitados. Hacia el Renacimiento, la Iglesia estaba más ávida de replicar experimentos científicos que de censurarlos y, en algunas ciudades, había semanas laborales de prácticamente tres días3. Más interesante que el mito me resulta observar de dónde nace: todas esas ideas sobre el medioevo fueron realidades, durante la modernidad, en instituciones que todavía sobrevivían del medioevo. Con la nueva industria, los pueblos vaciados sí se empobrecieron, y la iglesia debilitada sí se volvió violentamente conservadora para compensar su pérdida de centralidad. Todo eso que, popularmente, imaginamos que terminó con la industria moderna, en realidad empezó con la industria moderna, precisamente debido a los defectos de red.
Lo mismo que pasó en los pueblos a nivel europeo sucedió también con las aldeas y civilizaciones a nivel internacional. Cuanta más gente se integraba a la economía mercantil, más se debilitaban las alternativas, lo que obligó a aceptar peores condiciones. Muchos asocian la pobreza de África y América Latina al saqueo de metales preciosos y otros recursos naturales por parte de las potencias, y subestiman los defectos de red4. Los primeros que se integraron a la economía global accedieron a mejores condiciones que las que tenían antes, junto con armas de fuego y poder. Sin embargo, esa integración debilitó las economías locales hasta hacerlas colapsar. El resto se vio obligado a incorporarse a la economía global aceptando cualquier condición, por falta de alternativas. Sorprendentemente, incorporarse a un sistema más productivo hizo que crecieran la pobreza y el desempleo.
Todo lo anterior es especialmente relevante para entender el futuro. En la actualidad, los modelos de inteligencia artificial más importantes funcionan como plataformas. Se ejecutan en servidores a los que los usuarios se conectan como clientes, y los modelos suelen mejorar conforme crece la cantidad de usuarios por dos motivos. El primero es que las plataformas con más usuarios obtienen más datos de uso que pueden aprovecharse para afinar los modelos para que funcionen mejor. El segundo es que las plataformas con más usuarios suelen obtener más recursos para entrenar mejores modelos5. A medida que estas plataformas crezcan, las formas alternativas de hacer las cosas van a debilitarse.
Con los defectos de red, desarrollar sistemas más eficaces destruye las alternativas, pero lo que determina nuestro bienestar son las alternativas, porque ahí radica nuestro poder de negociación. Las alternativas determinan qué condiciones nos vemos obligados a aceptar y en qué podemos apoyarnos. Paradójicamente, los defectos de red pueden hacer que el desarrollo tecnológico nos lleve a estar cada vez peor.
Los abanderados de la inteligencia artificial nos recuerdan que la revolución industrial causó daño, pero que al mismo tiempo nos sacó del medioevo. Lo que no cuentan, en su simpática analogía histórica, es que la imagen harapienta y atroz del medioevo con la que pretenden asustarnos no representa realmente al medioevo, sino a lo que le pasó a los pueblos después de la revolución industrial. Los aceleracionistas tecnológicos intentan convencernos de que un bando defiende la prosperidad colectiva y el otro propone un mundo de subordinación y harapos. Si fuera así, no están del lado que creen.
Hola!
Soy Juan, escribí la nota de más arriba.
Estuve un par de semanas sin escribir porque estuvimos dando un curso sobre Inteligencia Artificial junto con Valentín Muro para Cenital. Pronto vamos a preparar algo escrito y compartirlo.
Quiero contarte, además, que los últimos meses estuve subiendo una idea breve cada día a mis apuntes. Todavía falta mucho, pero me gustaría irlo completando con el tiempo.
Además, quería avisarte que desde el lunes voy a estar durante un mes en España, con cierta libertad para moverme. Si estás ahí o conocés a alguien con quien sería enriquecedor tomar un café, no dudes en escribirme.
Te mando un abrazo grande!
Una consecuencia de que el centro de la cultura esté en las redes es que se terminan discutiendo las ideas más virales en lugar de las más profundas. Es otra condición que no me gusta, que la cultura actual impone, pero que me veo obligado a aceptar por los defectos de red.
Alguien podría objetar que, incluso tras colapsar la economía del pueblo, alguien podría exigir un salario suficiente para vivir bien. El problema es que, tras desaparecer el pueblo, la mayoría aceptará salarios de miseria, por lo que sería improbable que contraten por un salario mayor a alguien perfectamente reemplazable. La alternativa es construir un sindicato para exigir salarios juntos, lo cual lleva a una serie de problemas de burocratización y escalabilidad que exceden al contenido de esta nota.
Esto lo aprendí de Ada Palmer, historiadora que vengo leyendo y recomiendo muchísimo. En aquella época, el laboratorio científico más grande se encontraba en el vaticano. La inquisición se concentraba en reprimir desacuerdos religiosos, no científicos. El juicio a Galileo fue por sus textos que interpretaban la Biblia, no por el heliocentrismo, que era corriente en matemáticos de la época. El único científico condenado a muerte por la inquisición fue Giordano Bruno, también por afirmaciones religiosas más que científicas, pero predominantemente por un altercado con su mecenas que lo llevó a ser considerado un embustero. Por otra parte, si a alguien le interesa la desmitificación de Galileo como un genio científico, el historiador de la matemática Victor Blasjo tiene mucho para decir.
Perder el oro y la plata es importante siempre y cuando uno esté subordinado a un sistema organizado por el oro y la plata. La subordinación a ese sistema nace de los defectos de red. En menor escala, muchas aldeas del tercer mundo satisfacían sus necesidades sin usar dinero, gracias a la cooperación comunitaria. Cuando sus economías locales colapsaron debido a los defectos de red, la falta de dinero empezó a ser un problema, porque empezó a ser sinónimo de pobreza. Sin embargo, la falta de dinero no fue su problema fundamental, sino un problema derivado de los defectos de red y el colapso de su economía local. Perder el oro o la plata genera un efecto equivalente, donde aceptar el valor del dinero o el oro pone a la periferia en desventaja, y no sucedería si los defectos de red no obligaran a que eso sucediera.
En la IA, la parte más costosa es entrenar sistemas para que aprendan. Después, una vez que el modelo aprendió, usarlo para hacerle preguntas requiere hacer cálculos infinitamente más sencillos, por lo que es comparativamente muy barato. Entonces uno puede entrenar un modelo una vez (que sale caro) y después ofrecerlo a millones de personas sin que eso sea mucho más caro que ofrecerlo a miles. Esto es parecido a lo que pasa en Netflix, donde pueden gastar mucha plata en filmar una serie, pero después enviar ese video a miles de computadoras es virtualmente gratis. Este mecanismo no es tan poderoso porque una plataforma sin usuarios podría invertir mucho dinero para ofrecer un servicio razonable. Por eso, las plataformas buscan modos irremplazables de aprovechar a sus usuarios (por ejemplo, mejorando sus algoritmos de recomendación, o guiando el desarrollo de sus productos, haciendo uso de los datos que ellos generan).
los aceleracionistas son lo peor de la humanidad Nick land, thiel etc