No vale la pena vivir la vida algorítmica

Es la Semana de la Privacidad aquí en CoinDesk y nos hemos sumergido en una variedad de ángulos tecnológicos y legales sobre las consecuencias de la vigilancia digital. La ansiedad por el aumento del espionaje omnipresente a menudo puede parecer una cuestión de principios académicos, o una serie de advertencias sobre casos extremos importantes pero poco comunes: el cónyuge maltratado siendo acosado con malware, el disidente rastreado y asesinado por un gobierno, el consumidor con derechos legales pero gustos socialmente marginados . Estos escenarios de compromiso de la Privacidad tienen serias implicaciones, por supuesto, para quienes son víctimas y para cada ONE de nosotros.

Pero el uso más extendido de la vigilancia digital puede parecer mucho más mundano que estos ejemplos de titulares, aunque potencialmente mucho más insidioso.

Este artículo es parte de la serie Semana de la Privacidad de CoinDesk .

La segmentación algorítmica de contenido es la base de empresas de información omnipresentes como Google y Facebook, y te afecta cada momento que estás en línea. Puede volverte menos informado, menos único, menos reflexivo y menos interesante, de manera tan sutil que T siquiera te das cuenta.

La investigadora de Harvard Shoshana Zuboff describe el impacto de la focalización algorítmica como "la privatización de la división del aprendizaje". Cada vez más, hemos entregado nuestras decisiones sobre todo al software de reconocimiento de patrones, argumenta. Guía nuestras interacciones con las redes sociales, los sitios de citas, los motores de búsqueda, la publicidad programática y las fuentes de contenido, y se basa casi en su totalidad en modelos de comportamiento Human pasado. En su raíz estructural, es hostil a la novedad, la innovación y la independencia. Y sus pioneros se han beneficiado enormemente de ello: según Zuboff, Google ahora tiene una “concentración histórica mundial de conocimiento y poder”.

Tengo un nombre un poco más ágil para esto que Zuboff: Bucle Algorítmico. Como la mayoría de los bucles, es fácil quedar atrapado en él porque recopila nuestras preferencias y luego usa esos datos para KEEP enganchados y tomar el control. Seguro que nos muestra fechas potenciales, títulos de películas o anuncios de noticias en los que sabe que es probable que hagamos clic. Pero esas sugerencias, a su vez, moldean nuestro deseo por lo siguiente que consumimos.

En resumen, el bucle algorítmico no sólo predice nuestros gustos, actitudes y creencias, sino que los crea. Y como les da forma basándose únicamente en lo que ya sabe y puede comprender, nos vuelve menos creativos y menos individuales en formas que apenas hemos comenzado a comprender.

Con el tiempo, los efectos individuales y colectivos pueden resultar devastadores.

¿Cómo está reduciendo el bucle algorítmico el alcance del pensamiento y la creatividad Human ?

La dinámica varía, pero considere lo básico. Empresas como Facebook, Amazon y Google, en última instancia, ganan dinero mostrándote cosas que quizás quieras comprar. Un nivel más arriba, las plataformas sociales, de búsqueda y de streaming KEEP tu atención mostrándote contenido que probablemente te resulte más “atractivo”. Logran estos objetivos observando su comportamiento, comparándolo con el comportamiento de personas similares y luego mostrándole las otras cosas que les gustaron a esas personas.

Estos sistemas a veces son elogiados por su capacidad para ayudar a los usuarios con gustos específicos a encontrar precisamente lo que buscan, y hay algo de verdad en eso. Pero la dinámica más amplia es fácil de detectar: ​​el bucle algorítmico opera sobre la suposición fundamental de que sus gustos son intercambiables con los de otras personas. El algoritmo no puede predecir ni crear personalidad, innovación o encuentros casuales, lo que significa que, en última instancia, es hostil al empoderamiento personal y la individualidad.

Como experimento mental, imaginemos a un usuario verdaderamente promedio de YouTube o Amazon PRIME Video. ¿Qué le sugieres a alguien que ha alquilado cinco películas convencionales de Hollywood porque eso es todo lo que ha oído hablar? Bueno, les ofreces más del mismo contenido convencional, intermedio y sencillo. Incluso cuando el contenido realmente se adapta a un nicho demográfico, el proceso creativo se ha convertido en un ejercicio de marcar casillas: Netflix, como es sabido, utiliza su bucle algorítmico para “optimizar” un contenido para que tenga éxito antes de producirlo. Si el mejor arte es un proceso de autodescubrimiento y aprendizaje, el bucle algorítmico nos está alejando de eso y acercándonos simplemente a repetirnos sin cesar.

Ese sesgo algorítmico hacia la banalidad, junto con otras fuerzas, ya ha embrutecido nuestra cultura de maneras mensurables. En los más de 20 años transcurridos desde que los motores de recomendación algorítmica comenzaron a funcionar (primero en librerías en línea como Amazon, luego en el servicio de DVD de Netflix y luego en plataformas de streaming de video y música), la cultura popular global ha experimentado una contracción radical centrada en los aspectos más populares. y éxitos de taquilla inofensivos.

Por ejemplo, Spotify, una plataforma de música centrada en algoritmos, concentra transmisiones y ganancias entre un puñado de artistas importantes mucho más que el sistema físico de transmisión y medios que lo precedió. Esto es particularmente sorprendente porque el conglomerado de radio terrestre ClearChannel fue a menudo un fantasma para los fanáticos de la música en la década de 1990 antes de Internet, acusado de silenciar a artistas aventureros o controvertidos. Ahora vivimos en la era de la “máquina de discos infinita”, en la que prácticamente toda la música jamás grabada está a solo un clic de distancia; sin embargo, fusionarla con el bucle algorítmico parece haber hecho que el consumo de música sea más monolítico, no menos.

Los estudios cinematográficos de Hollywood, las principales editoriales de libros y los sellos discográficos han respondido a este modelo en el que el ganador se lo lleva todo. Han pasado en masa a centrarse casi por completo en éxitos de taquilla y estrellas, comprometiendo recursos sólo para artistas que producen el producto más querido, e incluso entonces sólo para sus éxitos más claros . Este amplio cambio radical ha hecho que sea mucho más difícil para músicos y cineastas poco convencionales, aquellos capaces de introducir ideas nuevas y emocionantes, apoyar financieramente su trabajo (por no hablar de los escritores, que siempre han tenido dificultades). En cambio, obtenemos una serie interminable de películas de Marvel.

Para ser justos, hay otros factores importantes detrás de estos cambios. Hollywood, por ejemplo, está lidiando con una disminución secular en la asistencia al cine que crea presión para hacer contenido menos desafiante porque necesita colillas en las butacas. La cultura política estadounidense era cada vez más partidista mucho antes de que el bucle algorítmico hiciera que clasificar a las personas en colmenas opuestas e igualmente resueltas fuera un proceso tan inconsciente como respirar. Al más alto nivel, la tendencia hacia una “economía en la que el ganador se lo lleva todo” comenzó con la invención del telégrafo: la mejora de la Tecnología de las comunicaciones permite que los mejores actores, empresas y productos dominen porciones cada vez mayores del mercado mundial por sólo sobre todo.

Pero el bucle algorítmico es lo que permite que la dinámica de "el ganador se lo lleva todo" se infiltre en todos los aspectos de nuestras vidas, en línea y, cada vez más, fuera de ella. Es lo que nos tienta constantemente con noticias, productos o tweets que tal vez no nos hagan más reflexivos, empáticos o bien informados, pero que todos los demás, como sabe el algoritmo, parecen disfrutar.

El bucle algorítmico es la versión mejorada cibernéticamente de un problema con el que los humanos han estado lidiando desde antes de que existieran el aprendizaje automático, Internet o las computadoras.

En la antigüedad, el problema recibía nombres como tradición, jerarquía, superstición, sabiduría convencional o simplemente “como son las cosas”. Hace tres décadas, el jurista Spiros Simitis predijo cuán poderosos podrían ser estos sistemas para moldear el comportamiento de las personas en formas aceptables, muy parecidas a las jerarquías tradicionales. En un pasaje citado por Zuboff, Simitis argumentó que los algoritmos predictivos se estaban “desarrollando… hasta convertirse en un elemento esencial de estrategias de manipulación a largo plazo destinadas a moldear y ajustar la conducta individual”.

Estas fuerzas han sido vistas con sospecha durante miles de años. Probablemente hayas escuchado la frase: "No vale la pena vivir una vida sin examinar", ONE de los aforismos más famosos de Sócrates, el filósofo fundacional del mundo occidental (tal como lo transmitieron sus alumnos Platón y Aristóteles, alumno de Platón; Sócrates no lo hizo). T siquiera escribo, y mucho menos codigo). El sentimiento general es bastante claro y obvio: dedica algún tiempo a reflexionar sobre ti mismo. Es bueno Para ti.

Pero Sócrates también quiso decir algo mucho más específico: para examinarse verdaderamente a sí mismo, debe interrogar todas las normas sociales, suposiciones tácitas y condiciones históricas que lo moldearon. Hasta entonces, eres esencialmente el títere de las personas que te precedieron y establecieron las normas, ya sea que hablemos de doctrina de la iglesia o de juicio estético.

Un par de miles de años después, el psicoanalista pionero Sigmund Freud reafirmó esto de manera un BIT más explícita, en un eslogan que también tiene la ventaja de sonar totalmente rudo en el alemán nativo de Freud: “Wo ist war, soll ich verden”. O en inglés: “ Donde esté, allí estaré”. El “eso” al que se refiere Freud es la mente inconsciente, que él consideraba moldeada por las tradiciones y normas sociales inculcadas a todos nosotros desde que nacimos. En la época de Freud, la modernidad y la Tecnología habían ayudado a que esas normas fueran cada vez más generalizadas, uniformes y uniformes. rígido, particularmente durante la era victoriana de represión sexual de la juventud de Freud.

Freud creía que el conflicto entre las normas sociales y los deseos individuales era una fuente de problemas de salud mental. Esperaba que su “cura hablada” pudiera ayudar a los pacientes que se sentían extrañamente fuera de lugar en su sociedad represiva, al hacer visibles tanto las normas que a menudo no se expresan como los deseos que las personas a veces ocultan incluso a sí mismas. Podríamos entender hallazgos inquietantes sobre los impactos de las redes sociales en la salud mental en términos similares: un flujo constante del contenido más popular a veces puede equivaler a una erosión de la individualidad psíquicamente dañina por parte del orden social dominante.

El bucle algorítmico puede no parecer un maestro tan duro como las normas sociales de la Europa victoriana, pero a menudo es más insidioso. Las normas sociales represivas que son visiblemente impuestas por un policía o un sacerdote pueden ser más fáciles de desafiar que el bucle algorítmico, porque ahora somos nosotros quienes hacemos clic, transmitimos, desplazamos. Ciertamente se siente como si estuviéramos tomando decisiones individuales, afirmando nuestra singularidad y expresándonos.

Pero eso se debe únicamente a que la curva hacia el pensamiento grupal es muy sutil. Visto como un sistema total, el bucle algorítmico inevitablemente degrada la diversidad y singularidad de lo que la mayoría de la gente ve, Aprende y disfruta. Incluso cuando la cantidad de “contenido” que consumimos se dispara (una tendencia inquietante en sí misma), parece que cada vez se ofrecen menos consecuencias reales: menos que pueda desafiarte, ayudarte a crecer, convertirte en una mejor persona.

No importa cuánto nos desplacemos, tubomos o tuiteemos, podemos comenzar a sospechar que nuestras elecciones son ilusorias.

¿Cómo, entonces, te liberas de una enredadera estranguladora que lee su futuro en tu misma lucha? ¿Cómo reafirmas el control sobre tus propias elecciones y tu propio cerebro?

Por supuesto, existen prácticas individuales que requieren diversos grados de compromiso. Una ONE sencilla, aunque no del todo fácil, es deshacerse de Facebook y Google en la medida de lo posible. Especialmente Facebook: la empresa que ahora se hace llamar Meta no es de fiar, simple y uniformemente. (Y sí, Facebook puede rastrearte incluso cuando no estás usando Facebook.com . A continuación te explicamos cómo cambiar eso ).

Utilice DuckDuckGo para realizar búsquedas. ProtonMail es una alternativa popular a Gmail, que, sí, también te espía. De hecho, es aprender a escribir tus correos Para ti , otro ejemplo del ciclo mortal seductor y narcotizante del que debemos escapar de alguna manera.

Es probable que los beneficios sean marginales (en parte porque ya tienen muchos datos), pero estos movimientos al menos harán que a los acaparadores de datos les resulte un poco más difícil perfilarlos y atraerlos en línea.

Regresar a los medios físicos es otra forma de separarse de la mente colmena: CD y vinilos en lugar de Spotify, DVD y cintas VHS en lugar de YouTube o servicios de streaming, libros físicos en lugar de (seamos realistas) tweets. Aprende a apreciar su biblioteca local. Usar más medios físicos te obliga a tomar decisiones meditadas y prestarles atención por un tiempo, en lugar de simplemente seguir el ciclo algorítmico (aunque los MP3 y un servidor PLEX tampoco son una mala opción). Diablos, si realmente quieres volverte loco, consigue un teléfono plegable y suscríbete a un periódico impreso; puedes desaparecer de las redes sociales y del streaming como el Manco .

Pero estos ajustes individuales no son realmente la solución, como tampoco se puede solucionar la epidemia de obesidad comiendo más quinua. Los sistemas digitales son inmensamente más convenientes que los anteriores y sus desventajas son abstractas y colectivas. Incluso si alguien es profundamente consciente de los compromisos que hace todos los días, es demasiado difícil preocuparse por todo esto.

Para esas personas –es decir, la mayoría de las personas– se necesita un enfoque regulatorio más sistemático, y las buenas prácticas y regulaciones de Privacidad son el eje. Los límites cuidadosos sobre la cantidad de datos que brindamos a plataformas publicitarias como Google y Facebook, y cómo exactamente pueden dirigirse a nosotros, crean más espacio para la individualidad. Ya existe algún precedente: Facebook ha sido presionado recientemente para reducir la capacidad de los anunciantes de segmentar por raza , por ejemplo (aunque como se trata de Facebook, por supuesto hay una solución fácil ).

Luego está la opción nuclear: ilegalizar la publicidad programática.

Eso no sucederá en Estados Unidos, hogar de los mayores acumuladores de datos corporativos. Los legisladores estadounidenses están demasiado profundamente sesgados hacia las ganancias como para hacer algo que pueda perjudicar a Facebook o Google o a las miles de empresas auxiliares de publicidad y marketing que se alimentan de su nube de datos.

Pero hipotéticamente, si la segmentación de anuncios programáticos terminara o se redujera seriamente, los datos sobre sus hábitos y preferencias perderían su valor. Facebook dejaría de espiarte no porque se viera obligado a hacerlo, sino porque no tendría ningún incentivo. Si sus datos y su atención pierden repentinamente su valor, podrá Aprende y explorar en sus propios términos.

Bueno, todavía podemos soñar... ¿ no ?