Por CARLOS MANUEL SÁNCHEZ
XLSemanal, 13 de mayo de 2018
Noticias falsas. Manipulación. Falta de
privacidad. Los escándalos
relacionados con las redes sociales han
desatado una corriente crítica... entre sus propios
creadores. Denuncian que la tecnología nos ha vuelto a todos adictos. Y que las
compañías informáticas lo han hecho a sabiendas. Reclaman
que los ciudadanos se conciencien y que los gigantes tecnológicos contraten filósofos.
No para que les enseñen la obra de Platón, sino para que cambien radicalmente
el diseño de los móviles. «Han secuestrado nuestras mentes.
Nuestras decisiones no son libres, están marcadas por sus intereses, que no son
los nuestros. Imponen la manera de relacionarnos, condicionan nuestra capacidad
de conversar y ponen en peligro la democracia. ¿Quiénes? Los ingenieros de
Google, Facebook y Apple».
Quien dice todo esto es Tristan Harris, de 34 años, un filósofo muy
peculiar. La revista The Atlantic lo
describe como «lo más parecido a la conciencia de Silicon Valley». Harris
lidera una revuelta para poner la tecnología al servicio de la humanidad,
porque considera que la humanidad está ahora al servicio de los gigantes tecnológicos.
Lo que hace especial a Harris es su currículum: no es un profeta de la desconexión que pretende que volvamos a los tiempos en los que un teléfono solo servía para llamar por teléfono. No, Harris era uno de ellos… Uno de esos ingenieros brillantes y algo endiosados de Silicon Valley, jefe de diseño ético de Google, nada menos. Un puesto que abandonó cuando se percató de que sus colegas, que asentían con la cabeza cuando les hacía una presentación con diapositivas, se olvidaban de la ética en cuanto volvían a sus puestos.
Una larga lista de renegados
Lo más extraordinario es que Harris no es el único renegado. Otros tan
brillantes como él se han unido a la causa. Pioneros, altos ejecutivos,
inversores… Harris ha creado el Center for Humane Technology (‘Centro por una
Tecnología Humana’). Su objetivo es cambiar un modelo de negocio basado en la
economía de la atención. «Lo que empezó como una carrera por monopolizar y
monetizar nuestra atención está erosionando ahora los pilares de nuestra
sociedad: la salud mental, la democracia, nuestras relaciones sociales y
nuestros hijos».
“Los
gigantes de Silicon Valley nos han convertido en adictos. Sus ingresos
publicitarios dependen de ello. Hay que obligarlos a que rediseñen sus
productos”
«Para captar nuestra atención, los gigantes de Silicon Valley nos han
convertido en adictos», denuncia. Lo han hecho a sabiendas y desde el principio
porque sus ingresos publicitarios dependen de ello. Y les ha ido fenomenal,
sostiene Harris. «Se han hecho inmensamente ricos. Y encima argumentan que lo
han hecho por nuestro bien».
Para revertir el proceso, la primera opción son las medidas legales,
pero parece poco probable que los gobiernos estadounidense o europeos vayan a
poner toda la carne en el asador para proteger a la ciudadanía de la manipulación,
el engaño y la explotación por parte de las corporaciones tecnológicas.
La otra forma es crear una conciencia pública de la necesidad de esa
autorregulación. Harris y los otros ‘arrepentidos’ de las tecnológicas son los
abanderados de este movimiento que ya puede apuntarse un logro: los CPO. Son
las siglas de chief
philosophy officer, un jefe de Filosofía. Reclaman que las empresas
contraten a filósofos para que trabajen en sus oficinas a tiempo completo.
El interés de Silicon Valley por la filosofía no es nuevo. Se remonta
al programa Symbolic Systems, o Symsis, establecido en 1986 por la Universidad
de Stanford. Este programa tenía el propósito de formar a la siguiente generación
de altos directivos de la tecnología. Analizaba la comunicación entre el
ordenador y el ser humano por medio de la neurociencia, la psicología y la
filosofía contemporánea. Marissa Mayer -la antigua consejera delegada de
Yahoo-, Reid Hoffman -cofundador de
LinkedIn– y Mike Krieger -cofundador de Instagram-
siguieron estos cursos.
Pero lo que en principio debía ser una herramienta para el bien acabó
desviándose de su objetivo ante la fascinación por el poder de la neurociencia
y la psicología del comportamiento en el corto plazo. La filosofía no funciona
a golpe de clic, pero la manipulación sí.
El rey midas de la
persuasión
En 1998, B. J. Fogg, un recién doctorado en Psicología Experimental de
Stanford, creó The Stanford Persuasive Technology Lab. y se centró en
investigar cómo los móviles pueden ‘motivar’ a la gente. El campo de
investigación se llama ahora mobile persuasion y Fogg se ha convertido en el ‘rey Midas
del conductismo’.
Fogg es, de hecho, el padre del ‘diseño del comportamiento’, una
manera eufemística de referirse a la manipulación de los usuarios para que
hagan clic on-line. Por
ejemplo, premiando con un ‘me gusta’ instantáneo cuando alguien sube una foto.
Algo que parece bastante inocente, pero que es una manera de reforzar ese
comportamiento y convertir una actividad ocasional en un hábito diario.
Las aplicaciones más exitosas recurren a las pulsiones y necesidades más
hondamente arraigadas en el ser humano. LinkedIn, por
ejemplo, creó un icono para representar el tamaño de la red de contactos de
cada usuario, estimulando nuestra necesidad innata de aprobación social. La
reproducción automática de la siguiente canción (Spotify) o vídeo (YouTube) es
otra técnica. Facebook notifica al que envía un mensaje cuando lo lee el
receptor, lo que activa en este el sentido social de la reciprocidad, muy
imbricado en el cerebro, y lo anima a responder. Snapchat va más
allá: el usuario es informado en el momento mismo en que un amigo le está
escribiendo, lo que presiona a este a terminar y enviarle el mensaje que ha
empezado… Todas las aplicaciones recurren a nuestro afán de acumular:
contactos, ‘me gusta’, comentarios, visitas…
El salvaje oeste
Tristan Harris fue uno de los que acudió al máster de técnicas de
persuasión que dirige el psicólogo experimental B. J. Fogg. El curso de
Fogg estaba estructurado en diez sesiones, Harris no pudo terminarlo. Le
rechinaba que apenas se plantearan dudas éticas. Fichó por Google porque, según
él, es la primera línea del frente. «Controla tres plataformas decisivas en
nuestras vidas (no solo el buscador): el correo electrónico (Gmail), el sistema
Android de los teléfonos móviles y el navegador Chrome». Harris intentó que
Google se replantease sus productos. Se despidió frustrado.
“Se
podría eliminar muy fácilmente el panel deslizante de Twitter, pero la gente lo
adora y son incontables las aplicaciones que lo utilizan”,-Loren Brichter-.
«Vivimos en una inmensa ciudad digital. Es el nuevo entorno. Y es una
ciudad sin ley, como el Salvaje Oeste -dice Harris-. Son nuestras vidas las que
están en juego. Nuestro tiempo. El coste de oportunidad de no hacer las cosas
que podríamos hacer si no estuviéramos condicionados para consumir tecnología
de manera compulsiva. El adolescente que abandona Snapchat se arriesga, además,
a perder una manera fundamental de comunicarse con sus amigos. Y el empleado
que no responde a un correo de su jefe fuera de horas puede perder
oportunidades profesionales». Harris matiza que no aboga por dejar de usar la
tecnología. Lo que pide es que los ciudadanos y los políticos presionen a las
tecnológicas para que rediseñen sus productos pensando en los usuarios y no
solo en su propio beneficio. «Si nadie las obliga, no lo van a hacer por sí
solas».
Tampoco los usuarios por sí solos pueden combatir el problema. «El
sistema es mejor a la hora de secuestrar los instintos que usted controlándolos.
Hay que gastar una enorme cantidad de energía para evitar que nos manipulen. La
gente cree que otras personas sí pueden ser persuadidas, pero no ellos. Y que,
si te conviertes en un adicto, es por tu culpa. Porque eres débil. Porque caes
en la tentación. Pero no se percatan de que hay un ejército de ingenieros que
se valen de todo tipo de técnicas para convertirlos en adictos, que saben cómo
generar ansiedad y la sensación constante de que te estás perdiendo algo».
Está claro, admiten, que la reflexión ética no puede sustituir a las
obligaciones legales, pero en el medio plazo hay que cambiar la ‘filosofía’ del
negocio en sí mismo.
Por qué esta vez puede
ser diferente
El escándalo por las noticias falsas, la filtración de datos de Facebook para
que una empresa del ultraconservador Robert Mercer pudiese
manipular a los votantes, la intervención de Rusia en el hackeo de ordenadores
del Partido Demócrata… Donald Trump ha alterado la vida política de Estados
Unidos desatando procesos sociales imprevisibles hace poco más de un año.
La comparecencia de Mark Zuckerberg ante
el Senado del país para dar explicaciones sobre la falta de seguridad en
Facebook es un síntoma de la alarma entre los empresarios de Silicon Valley
ante el desencanto de los usuarios con las redes sociales y la exigencia de
unos mínimos éticos en su funcionamiento. Pero no son solo las redes sociales,
la inteligencia artificial, que avanza de manera exponencial, es aun más
inquietante.
Y aquí entran los filósofos. Son ellos los que pueden ayudar a
determinar a qué reglas tienen que atenerse los desarrolladores. ¿Hay que
programar tales algoritmos con el único objetivo de maximizar el tiempo que el
usuario dedica a la plataforma, con independencia de lo que tales contenidos
puedan representar para el usuario? Un CPO puede contribuir al desarrollo de
unas directrices o protocolos favorecedores de una programación más ‘moral’.
Christian Voegtlin, profesor de responsabilidad social corporativa en
la escuela de negocios francesa Audiencia, lo tiene claro: «La filosofía puede
ayudar a establecer unos propósitos y una dirección. Es importante a la hora de
responder a las preguntas sobre cómo convivimos y cómo tratamos a los demás. ¿Son los consultores filosóficos una
excentricidad de Silicon Valley? También lo fueron los primeros directivos de
responsabilidad social corporativa y hoy están en todas las empresas”
¿Esto de los CPO o consultores filosóficos no será la enésima
excentricidad de Silicon Valley? Voegtlin no lo cree: «La contratación de filósofos
es un fenómeno nuevo, emergente. Seguramente va a resultar controvertido. En
una primera etapa es de esperar que los filósofos se encuentren con
dificultades parecidas a las de los primeros directivos especializados en la
responsabilidad social de las corporaciones. Han de hacerse oír en un entorno
que sigue otorgando prioridad a la obtención de beneficios. No solo eso, sino
que se encuentran con el problema de traducir complicados pensamientos filosóficos
a un lenguaje práctico, de aplicación en el mundo de los negocios. Lo que
siempre ha supuesto una dificultad para los filósofos».
La ética del diseño
Precisamente, para hacer que las teorías éticas se materialicen, filósofos
como Evan Selinger -profesor del Departamento de Filosofía del prestigioso
Instituto de Tecnología de Rochester- proponen empezar por algo tan ‘tangible’
como el diseño de la tecnología. «Si las compañías de verdad quieren hacer las
cosas mejor, deben revolucionar éticamente el diseño de sus productos. No se
trata solo de los impenetrables términos de los contratos de servicio, que nos
mantienen en la ignorancia de modo premeditado. El diseño de las cosas influye
en nuestra manera de percibir los riesgos y las recompensas». El diseño nunca
es neutral.
Así lo dejó claro un memorando filtrado hace poco, escrito por el
vicepresidente de Facebook, Andrew Bosworth: «Todos y cada uno de los detalles
en el diseño de Facebook tienen la función primordial de conseguir que no ceses
de compartir cosas y de que te sientas muy contento al hacerlo».
“El diseño es una cuestión ética de primer orden,
pero no está regulado. Los legisladores se centran en el procesamiento de
datos, pero ignoran el poder del diseño de las tecnologías”
Woodrow Hartzog, profesor de derecho y ciencia computacional, autor de Plan de privacidad. La batalla para
controlar el diseño de las nuevas tecnologías, lo tiene claro: «Hay una razón por la
que el diseño hoy es una cuestión ética de primer orden: porque las leyes y las
normativas apenas le han prestado atención. Los legisladores se centran en el
procesamiento de datos, pero ignoran las normas imperantes en el diseño de las
tecnologías digitales».
En el Center for Humane Technology, que dirige Tristan Harris, ya han
comenzado a hacer propuestas concretas para remodelar ese diseño.
Más escéptico, Scott Berkun -un antiguo ejecutivo de Microsoft y
licenciado en Filosofía- afirma que ve muy difícil que en Silicon Valley se
acabe valorando realmente el potencial de la filosofía. «Si Sócrates levantara la cabeza,
se sentiría anonadado al ver que tantos jóvenes dedican su tiempo a cosas que
ni mejoran el mundo ni los hacen mejores a ellos».
