Quien haya leído la saga Fundación, de Isaac Asimov (iniciada en 1942), recordará el término psicohistoria: una herramienta de predicción y control de la evolución social basada en una combinación de psicología, historia y estadística. En aquella serie literaria de ciencia ficción el control estaba orientado positivamente: buscaba acortar el tiempo de recuperación tras un colapso civilizatorio de 30.000 a 1.000 años de oscuridad (su inspiración fue la obra de Edward Gibbon, Historia de la decadencia y caída del Imperio Romano).
Me he acordado de ello al leer el escándalo que ha provocado la fuga de un vídeo de "design fiction" generado por y para comunicación interna entre el equipo Google, y que, al transcender, ha hecho saltar bastantes alarmas por hacer explícitas las nuevas capacidades de un actor global a la hora de influir en la evolución de nuestra sociedad, incluso cuando los ejemplos de aplicación que menciona son en principio loables: lucha contra el cambio climático, cuidado de la salud, etc.
Me he acordado de ello al leer el escándalo que ha provocado la fuga de un vídeo de "design fiction" generado por y para comunicación interna entre el equipo Google, y que, al transcender, ha hecho saltar bastantes alarmas por hacer explícitas las nuevas capacidades de un actor global a la hora de influir en la evolución de nuestra sociedad, incluso cuando los ejemplos de aplicación que menciona son en principio loables: lucha contra el cambio climático, cuidado de la salud, etc.
Estamos escandalizados ante determinadas novedades que vienen de la mano de la tecnología, pero ¿de verdad son tan inéditos estos fenómenos? ¿no cuentan con precedentes?
Cabe distinguir aquí tres conceptos:
- El fenómeno del control social
- Las herramientas que lo posibilitan
- Los propósitos a los que se orienta dicho control
Sobre el fenómeno: no debemos ser naífs, la prensa -ese cuarto poder, junto con sus hermanas, la publicidad y la propaganda política- han venido orientando sus esfuerzos hacia el control social desde su propia creación, bien independientemente o bien al servicio de los intereses a los que a menudo los medios se han supeditado. ¿Cuál es la novedad? ¿que se rompe el monopolio de un sector “tradicional”? Sinceramente, cuando políticos y periodistas se quejan de la irrupción de las nuevas tecnologías en el debate público ¿no recuerda esto a la misma queja que tuvo la iglesia cuando la imprenta democratizó la difusión de contenidos? Los intentos de control siempre van a estar ahí, las herramientas cambiarán, y lo que debemos vigilar son los propósitos, los incentivos que tienen quienes están al volante (si es que hay alguien al volante, lo que dudo)... y permanecer suficientemente alerta a través del pensamiento crítico pero también riguroso, lo que sólo se logra a través de la educación, la experiencia y el esfuerzo de contrastar fuentes, algo afortunadamente cada vez más fácil para todos precisamente gracias a la democratización de la información que han facilitado empresas como Google.
Sobre las herramientas: las redes sociales ha desintermediado a los medios tradicionales, con las siguientes consecuencias, que cada uno podrá tratar de clasificar en pros y contras:
1) la diversidad: estas plataformas ponen voz a la sociedad, lo que en principio es bueno porque aumenta la pluralidad y permite la fiscalización directa del poder por parte de la gente. Además, 2) el sano sentido del humor ha barrido con la solemnidad pomposa de las locuciones del siglo XX; el humor sin embargo es un arma de doble filo, por un lado engrasa el citado pensamiento crítico, por otro fácilmente se decanta hacia la crueldad y la demagogia. Quiero creer que estamos en la etapa inicial -una suerte de adolescencia crispada- de un fenómeno que madurará con el tiempo.
3) el ruido: hilando con lo anterior, la nueva voz que las redes sociales ponen a la gente deja oír muchas cosas, y no todas son buenas. Se producen linchamientos públicos, la agresividad eclipsa el debate sosegado y argumentado, y parece que quien más grita ostenta la razón, pero ¿esta polarización es tan novedosa? ¿no estaban los medios ya previamente decantados desde tiempos históricos? El reto para la actual audiencia es separar la señal entre tanto ruido, pero ya lo era antes. La diferencia está en la explosión de la oferta de contenidos, que hace más difícil la tarea.
4) Otro elemento es la calidad de las piezas de comunicación: al abrirse las compuertas, allí donde en los años 90 escribían 200 creadores de opinión supuestamente filtrados por criterios de rigor y calidad contrastados por los editores, en los 2010 hay cientos de miles de participantes en el debate, y en este campo hay de todo, hasta intoxicadores profesionales. En principio identificar las fuentes y los analistas más lúcidos y rigurosos sería un trabajo individual cuyos resultados agregados han de guiar un proceso darwinista que destaque los mejores contenidos por encima del resto. Sin embargo es evidente que la selección no siempre favorece la calidad, sino ese efectismo vacío que sólo persigue el clickbait (un defecto tampoco nuevo, pues es como el de la telebasura desde hace décadas: ¿no es en realidad responsabilidad de la audiencia premiar y castigar los contenidos por su calidad?)
Entramos en el quinto elemento, el que cierra el círculo uniéndose con la cuestión desencadenante de esta reflexión: 5) el papel de las grandes empresas tecnológicas en su nuevo rol de intermediarias entre los hechos y la opinión pública, los nuevos agentes que priorizan lo que vemos y leemos en reemplazo de los medios tradicionales. Parece que descubrimos asombrados que estos nuevos oligopolios no son asépticos, no se limitan a crear las autopistas por las que ahora circula la información, sino que además dirigen el tráfico movidas por el incentivo de que los usuarios pasen cada vez más tiempo en sus plataformas (y además han medido que esto se consigue radicalizando progresivamente los contenidos expuestos). Esto atenta claramente contra el primero de los principios, el de la pluralidad, fomentando la creación de cámaras de eco (aquí, consejos para evitarlo).
Sobre las finalidades: este es el punto clave, ¿al servicio de qué propósitos recaen estas nuevas capacidades de influencia o control social? ¿quiénes los ejercen y cuáles son sus motivaciones?
Nada tendrán que ver los incentivos de un gobierno democrático frente a los de una dictadura. Ni los de la industria frente a los de los movimientos ecologistas, o los de la asociación del rifle con los de los partidarios de un mayor control de armas en EEUU, por poner ejemplos. El sistema en el que vivimos -el mejor que jamás ha existido, y aún así, mejorable- es el resultado del equilibrio de las anteriores fuerzas antagónicas, y muchas otras más.
Entonces, la gran pregunta sería: ¿cuáles son las motivaciones últimas de las empresas más influyentes en la actualidad, las grandes corporaciones digitales en posición de ejercer ese control social? Navaja de Okham: la respuesta más sencilla es que se mueven por el puro interés de mercado. Persiguen, como cualquier otra empresa, el crecimiento de sus ingresos, y, aunque aparezcan otros incentivos en el horizonte, como los objetivos de desarrollo sostenible (en ese sentido, me ha gustado esta carta de Larry Kink), sería ingenuo no pensar que lo que en mayor medida guía sus acciones no es otra cosa que incrementar el dividendo de sus accionistas, como es lógico.
Vayamos cerrando con el penúltimo escándalo relacionado con el control social: el caso de Cambridge Analytica. Y aquí hay que distinguir los siguientes hechos:
- Primero, los datos fueron usados para un propósito distinto a aquél para el que se informaba que eran recabados (investigación); en esto Facebook pecó por falta de auditoría sobre quienes crean aplicaciones integradas en su plataforma, pero la mayor falta, la intencionada, la cometió Cambridge Analytica, dirigiéndose directamente a 50 millones de usuarios propensos a ser manipulados y decantar su voto ante determinados estímulos "informativos"/emocionales.
- El segundo hecho es que los clientes de Cambridge Analytica -los partidarios del Brexit en GB, y el equipo de Donald Trump en EEUU- podrían haber alcanzado prácticamente el mismo resultado de manera perfectamente legal a través de los servicios del propio Facebook, cuyo modelo de negocio es precisamente el marketing microsegmentado, siendo ella la intermediaria en todos los casos, eso sí. La diferencia es que en el modelo legal los anunciantes eligen los atributos de la audiencia potencial, pero no se dirigen directamente a ella, mientras que Cambrigde Analytica en lugar de categorías usaba datos mucho más granulares sobre la actividad e intereses de su audiencia, puenteando a Facebook, que en principio apantalla la privacidad de sus usuarios.
La ventaja competitiva que introducen estos nuevos intermediarios ha venido para quedarse, y por lo visto tanto los partidarios del Bremain como el equipo de Hillary Clinton hicieron un uso ineficaz de estos nuevos medios. No estoy sugiriendo que los perdedores de esos comicios deberían haber confiado en consultoras con tan pocos escrúpulos como los de Cambridge Analytica, pero saber destinar mejor el dinero a propaganda electoral va a ser la clave en este nuevo tablero de juego.
Entretando, como usuarios tenemos a) el reto de apantallarnos frente al bombardeo de información poco veraz, b) la ventaja de contar con mayores herramientas de contraste que el los tiempos del papel y las hemerotecas, y c) el deber de exigir a los prestadores de servicios digitales una mayor componente ética en el diseño de estos servicios.
PS: sobre la ética en las aplicaciones de la inteligencia artificial hay un mayor desarrollo en este otro artículo.
