Los arrepentidos de Silicon Valley: “La tecnología controla nuestra mente”

 Por Carlos Manuel Sánchez.

Publicado en XL Semanal

Los escándalos relacionados con las redes sociales han desatado una corriente crítica... entre sus propios creadores. Denuncian que la tecnología nos ha vuelto a todos adictos. Y que las compañías informáticas lo han hecho a sabiendas.

Reclaman que los ciudadanos se conciencien y que los gigantes tecnológicos contraten filósofos. No para que les enseñen la obra de Platón, sino para que cambien radicalmente el diseño de los móviles.

«Han secuestrado nuestras mentes. Nuestras decisiones no son libres, están marcadas por sus intereses, que no son los nuestros. Imponen la manera de relacionarnos, condicionan nuestra capacidad de conversar y ponen en peligro la democracia… ¿Quiénes? Los ingenieros de Google, Facebook y Apple».

Quien dice todo esto es Tristan Harris, de 34 años, un filósofo muy peculiar. La revista The Atlantic lo describe como «lo más parecido a la conciencia de Silicon Valley». Harris lidera una revuelta para poner la tecnología al servicio de la humanidad, porque considera que la humanidad está ahora al servicio de los gigantes tecnológicos.

conciencia de Silicon Valley

Este joven, Tristan Harris de 34 años lidera una revuelta que reclama poner la tecnología al servicio del ser humano y no al revés. Fue jefe de diseño ético de Google. Abandonó la compañía precisamente por problemas éticos.

Lo que hace especial a Harris es su currículum: no es un profeta de la desconexión que pretende que volvamos a los tiempos en los que un teléfono solo servía para llamar por teléfono. No, Harris era uno de ellos… Uno de esos ingenieros brillantes y algo endiosados de Silicon Valley, jefe de diseño ético de Google, nada menos. Un puesto que abandonó cuando se percató de que sus colegas, que asentían con la cabeza cuando les hacía una presentación con diapositivas, se olvidaban de la ética en cuanto volvían a sus puestos.

Una larga lista de renegados

Lo más extraordinario es que Harris no es el único renegado. Otros tan brillantes como él se han unido a la causa. Pioneros, altos ejecutivos, inversores… Harris ha creado el Center for Humane Technology (‘Centro por una Tecnología Humana’). Su objetivo es cambiar un modelo de negocio basado en la economía de la atención. «Lo que empezó como una carrera por monopolizar y monetizar nuestra atención está erosionando ahora los pilares de nuestra sociedad: la salud mental, la democracia, nuestras relaciones sociales y nuestros hijos».

«Para captar nuestra atención, los gigantes de Silicon Valley nos han convertido en adictos», denuncia. Lo han hecho a sabiendas y desde el principio porque sus ingresos publicitarios dependen de ello. Y les ha ido fenomenal, sostiene Harris. «Se han hecho inmensamente ricos. Y encima argumentan que lo han hecho por nuestro bien».

Para revertir el proceso, la primera opción son las medidas legales, pero parece poco probable que los gobiernos estadounidense o europeos vayan a poner toda la carne en el asador para proteger a la ciudadanía de la manipulación, el engaño y la explotación por parte de las corporaciones tecnológicas.

La otra forma es crear una conciencia pública de la necesidad de esa autorregulación. Harris y los otros ‘arrepentidos’ de las tecnológicas son los abanderados de este movimiento que ya puede apuntarse un logro: los CPO. Son las siglas de chief philosophy officer, un jefe de Filosofía. Reclaman que las empresas contraten a filósofos para que trabajen en sus oficinas a tiempo completo.

El interés de Silicon Valley por la filosofía no es nuevo. Se remonta al programa Symbolic Systems, o Symsis, establecido en 1986 por la Universidad de Stanford. Este programa tenía el propósito de formar a la siguiente generación de altos directivos de la tecnología. Analizaba la comunicación entre el ordenador y el ser humano por medio de la neurociencia, la psicología y la filosofía contemporánea. Marissa Mayer -la antigua consejera delegada de Yahoo-, Reid Hoffman -cofundador de LinkedIn– y Mike Krieger -cofundador de Instagram- siguieron estos cursos.

 

onciencia de silicon valley (2)

Justin Rosenstein. El creador del botón ‘Me gusta’. «No es raro que los humanos creemos cosas con la mejor de las intenciones y que estas acaben teniendo consecuencias negativas que no habíamos previsto.

Pero lo que en principio debía ser una herramienta para el bien acabó desviándose de su objetivo ante la fascinación por el poder de la neurociencia y la psicología del comportamiento en el corto plazo. La filosofía no funciona a golpe de clic, pero la manipulación sí.

El rey midas de la persuasión

En 1998, B. J. Fogg, un recién doctorado en Psicología Experimental de Stanford, creó The Stanford Persuasive Technology Lab. y se centró en investigar cómo los móviles pueden ‘motivar’ a la gente. El campo de investigación se llama ahora mobile persuasion y Fogg se ha convertido en el ‘rey Midas del conductismo’.

Fogg es, de hecho, el padre del ‘diseño del comportamiento’, una manera eufemística de referirse a la manipulación de los usuarios para que hagan clic on-line. Por ejemplo, premiando con un ‘me gusta’ instantáneo cuando alguien sube una foto. Algo que parece bastante inocente, pero que es una manera de reforzar ese comportamiento y convertir una actividad ocasional en un hábito diario.

BJ Fogg, Brian J Fogg

El genio de la manipulación B. J. Fogg, psicólogo experimental, es el padre intelectual de la creación de herramientas que impulsan a los usuarios a hacer clic sin pensarlo. Lo llaman ‘diseño del comportamiento’.

Las aplicaciones más exitosas recurren a las pulsiones y necesidades más hondamente arraigadas en el ser humano. LinkedIn, por ejemplo, creó un icono para representar el tamaño de la red de contactos de cada usuario, estimulando nuestra necesidad innata de aprobación social. La reproducción automática de la siguiente canción (Spotify) o vídeo (YouTube) es otra técnica. Facebook notifica al que envía un mensaje cuando lo lee el receptor, lo que activa en este el sentido social de la reciprocidad, muy imbricado en el cerebro, y lo anima a responder. Snapchat va más allá: el usuario es informado en el momento mismo en que un amigo le está escribiendo, lo que presiona a este a terminar y enviarle el mensaje que ha empezado… Todas las aplicaciones recurren a nuestro afán de acumular: contactos, ‘me gusta’, comentarios, visitas…

El salvaje oeste

Tristan Harris fue uno de los que acudió al máster de técnicas de persuasión que dirige el psicólogo experimental B. J. Fogg.

El curso de Fogg estaba estructurado en diez sesiones, Harris no pudo terminarlo. Le rechinaba que apenas se plantearan dudas éticas. Fichó por Google porque, según él, es la primera línea del frente. «Controla tres plataformas decisivas en nuestras vidas (no solo el buscador): el correo electrónico (Gmail), el sistema Android de los teléfonos móviles y el navegador Chrome». Harris intentó que Google se replantease sus productos. Se despidió frustrado.

«Vivimos en una inmensa ciudad digital. Es el nuevo entorno. Y es una ciudad sin ley, como el Salvaje Oeste -dice Harris-. Son nuestras vidas las que están en juego. Nuestro tiempo. El coste de oportunidad de no hacer las cosas que podríamos hacer si no estuviéramos condicionados para consumir tecnología de manera compulsiva. El adolescente que abandona Snapchat se arriesga, además, a perder una manera fundamental de comunicarse con sus amigos. Y el empleado que no responde a un correo de su jefe fuera de horas puede perder oportunidades profesionales». Harris matiza que no aboga por dejar de usar la tecnología. Lo que pide es que los ciudadanos y los políticos presionen a las tecnológicas para que rediseñen sus productos pensando en los usuarios y no solo en su propio beneficio. «Si nadie las obliga, no lo van a hacer por sí solas».

Loren_Brichter

Loren Brichter. Inventor del panel de actualización de twitter. «Tengo dos hijos pequeños y me arrepiento de cada instante que no les presto atención porque estoy pegado al móvil. Me he pasado años pensando si algo de lo que hice ha tenido un impacto positivo en la sociedad.

Tampoco los usuarios por sí solos pueden combatir el problema. «El sistema es mejor a la hora de secuestrar los instintos que usted controlándolos. Hay que gastar una enorme cantidad de energía para evitar que nos manipulen. La gente cree que otras personas sí pueden ser persuadidas, pero no ellos. Y que, si te conviertes en un adicto, es por tu culpa. Porque eres débil. Porque caes en la tentación. Pero no se percatan de que hay un ejército de ingenieros que se valen de todo tipo de técnicas para convertirlos en adictos, que saben cómo generar ansiedad y la sensación constante de que te estás perdiendo algo».

Está claro, admiten, que la reflexión ética no puede sustituir a las obligaciones legales, pero en el medio plazo hay que cambiar la ‘filosofía’ del negocio en sí mismo.

Por qué esta vez puede ser diferente

El escándalo por las fake news, la filtración de datos de Facebook para que una empresa del ultraconservador Robert Mercer pudiese manipular a los votantes, la intervención de Rusia en el hackeo de ordenadores del Partido Demócrata… Donald Trump ha alterado la vida política de Estados Unidos desatando procesos sociales imprevisibles hace poco más de un año.

La comparecencia de Mark Zuckerberg ante el Senado del país para dar explicaciones sobre la falta de seguridad en Facebook es un síntoma de la alarma entre los empresarios de Silicon Valley ante el desencanto de los usuarios con las redes sociales y la exigencia de unos mínimos éticos en su funcionamiento. Pero no son solo las redes sociales, la inteligencia artificial, que avanza de manera exponencial, es aun más inquietante.

Y aquí entran los filósofos. Son ellos los que pueden ayudar a determinar a qué reglas tienen que atenerse los desarrolladores. ¿Hay que programar tales algoritmos con el único objetivo de maximizar el tiempo que el usuario dedica a la plataforma, con independencia de lo que tales contenidos puedan representar para el usuario? Un CPO puede contribuir al desarrollo de unas directrices o protocolos favorecedores de una programación más ‘moral’.

Christian Voegtlin, profesor de responsabilidad social corporativa en la escuela de negocios francesa Audiencia, lo tiene claro: «La filosofía puede ayudar a establecer unos propósitos y una dirección. Es importante a la hora de responder a las preguntas sobre cómo convivimos y cómo tratamos a los demás».

¿Esto de los CPO o consultores filosóficos no será la enésima excentricidad de Silicon Valley? Voegtlin no lo cree: «La contratación de filósofos es un fenómeno nuevo, emergente. Seguramente va a resultar controvertido. En una primera etapa es de esperar que los filósofos se encuentren con dificultades parecidas a las de los primeros directivos especializados en la responsabilidad social de las corporaciones. Han de hacerse oír en un entorno que sigue otorgando prioridad a la obtención de beneficios. No solo eso, sino que se encuentran con el problema de traducir complicados pensamientos filosóficos a un lenguaje práctico, de aplicación en el mundo de los negocios. Lo que siempre ha supuesto una dificultad para los filósofos».

La ética del diseño

Precisamente, para hacer que las teorías éticas se materialicen, filósofos como Evan Selinger -profesor del Departamento de Filosofía del prestigioso Instituto de Tecnología de Rochester- proponen empezar por algo tan ‘tangible’ como el diseño de la tecnología. «Si las compañías de verdad quieren hacer las cosas mejor, deben revolucionar éticamente el diseño de sus productos. No se trata solo de los impenetrables términos de los contratos de servicio, que nos mantienen en la ignorancia de modo premeditado. El diseño de las cosas influye en nuestra manera de percibir los riesgos y las recompensas». El diseño nunca es neutral.

privacidad redes sociales, silicon valley (2)

Chamath Palihapitiya. Exejecutivo de facebook (2007-2011). «Me siento culpable. Hemos creado herramientas basadas en los circuitos de retroalimentación de la dopamina que destruyen los fundamentos de la sociedad. No os dais cuenta, pero estáis siendo programados. No permito que mis hijos usen esta mierda».

Así lo dejó claro un memorando filtrado hace poco, escrito por el vicepresidente de Facebook, Andrew Bosworth: «Todos y cada uno de los detalles en el diseño de Facebook tienen la función primordial de conseguir que no ceses de compartir cosas y de que te sientas muy contento al hacerlo».

Woodrow Hartzog, profesor de derecho y ciencia computacional, autor de Plan de privacidad. la batalla para controlar el diseño de las nuevas tecnologías, lo tiene claro: «Hay una razón por la que el diseño hoy es una cuestión ética de primer orden: porque las leyes y las normativas apenas le han prestado atención. Los legisladores se centran en el procesamiento de datos, pero ignoran las normas imperantes en el diseño de las tecnologías digitales».

En el Center for Humane Technology, que dirige Tristan Harris, ya han comenzado a hacer propuestas concretas para remodelar ese diseño.

Más escéptico, Scott Berkun -un antiguo ejecutivo de Microsoft y licenciado en Filosofía- afirma que ve muy difícil que en Silicon Valley se acabe valorando realmente el potencial de la filosofía. «Si Sócrates levantara la cabeza, se sentiría anonadado al ver que tantos jóvenes dedican su tiempo a cosas que ni mejoran el mundo ni los hacen mejores a ellos».