Sostenibilidad y Ciudades Inteligentes

Empecemos por las definiciones

Al cambiar recientemente de rumbo profesional para retomar mi vocación urbanística me he visto en la necesidad de explicar a amigos y familiares qué es esto del urbanismo orientado a la sostenibilidad, o qué tienen que ver los datos y la inteligencia artificial con las ciudades.   

¿Qué persigue la "sostenibilidad", en su doble vertiente: medioambiental y social? 

Afortunadamente casi todo el mundo ha oído hablar a estas alturas de la Agenda 2030 de Naciones Unidas, y saben que se compone de 17 Objetivos de Desarrollo Sostenible. En concreto, el ODS número 11 tiene precisamente por foco lograr que las ciudades sean más inclusivas, seguras, resilientes y sostenibles.

Lo que menos gente sabe es que estos 17 ODS se descomponen a su vez en 169 metas, y que para su seguimiento se han diseñado 232 indicadores que están siendo medidos por los institutos nacionales  estadística. Desgranar el ODS 11 en sus metas ofrece una buena idea de lo que perseguimos en este campo de aquí a 2030 a nivel global (aunque evidentemente este hito en el tiempo es algo meramente instrumental para medir evoluciones positivas en un periodo acotado, pasado el cual esta será una tarea continua que necesitará un marco temporal más amplio o incluso una revisión de metas):

11.1 Asegurar el acceso de todas las personas a viviendas y servicios básicos adecuados, seguros y asequibles y mejorar los barrios marginales

11.2 Proporcionar acceso a sistemas de transporte seguros, asequibles, accesibles y sostenibles para todos y mejorar la seguridad vial, en particular mediante la ampliación del transporte público, prestando especial atención a las necesidades de las personas en situación de vulnerabilidad, las mujeres, los niños, las personas con discapacidad y las personas de edad

11.3 Aumentar la urbanización inclusiva y sostenible y la capacidad para la planificación y la gestión participativas, integradas y sostenibles de los asentamientos humanos en todos los países

11.4 Redoblar los esfuerzos para proteger y salvaguardar el patrimonio cultural y natural del mundo

11.5 Reducir significativamente el número de muertes causadas por los desastres, incluidos los relacionados con el agua, y de personas afectadas por ellos, y reducir considerablemente las pérdidas económicas directas provocadas por los desastres en comparación con el producto interno bruto mundial, haciendo especial hincapié en la protección de los pobres y las personas en situaciones de vulnerabilidad

11.6 Reducir el impacto ambiental negativo per capita de las ciudades, prestando especial atención a la calidad del aire y la gestión de los desechos municipales y de otro tipo

11.7 Proporcionar acceso universal a zonas verdes y espacios públicos seguros, inclusivos y accesibles, en particular para las mujeres y los niños, las personas de edad y las personas con discapacidad

11.a Apoyar los vínculos económicos, sociales y ambientales positivos entre las zonas urbanas, periurbanas y rurales fortaleciendo la planificación del desarrollo nacional y regional

11.b Aumentar considerablemente el número de ciudades y asentamientos humanos que adoptan e implementan políticas y planes integrados para promover la inclusión, el uso eficiente de los recursos, la mitigación del cambio climático y la adaptación a él y la resiliencia ante los desastres, y desarrollar y poner en práctica, en consonancia con el Marco de Sendai para la Reducción del Riesgo de Desastres 2015-2030, la gestión integral de los riesgos de desastre a todos los niveles

11.c Proporcionar apoyo a los países menos adelantados, incluso mediante asistencia financiera y técnica, para que puedan construir edificios sostenibles y resilientes utilizando materiales locales

Este consenso internacional sin embargo no recoge bien los diferentes puntos de partida de cada geografía. Es preciso aterrizar a la realidad regional metas adaptadas a las dispares necesidades de cada sociedad. 

En este sentido en la Unión Europea contamos con dos guías principales, la Agenda Urbana Europea, y la Nueva Carta de Leipzig (la versión de 2020 actualiza la de  2007).

En esta misma línea a nivel nacional se aprobó en 2019 la Agenda Urbana Española. De su documento de diagnóstico destaco el siguiente párrafo, porque pone de manifiesto la necesidad de fijar la atención más en la ciudad existente que en las ampliaciones propias de décadas pasadas de urbanismo expansivo: 

"El declive demográfico que acusa el país (al que se une el desplome del saldo migratorio a raíz de la reciente crisis económica) ofrece una oportunidad sin precedentes para superar el dogma del crecimiento sobre el que se ha venido asentando hasta hace pocos años el urbanismo, la construcción y el negocio inmobiliario en general." 

Por otro lado el Marco Estratégico de la AUE persigue los siguientes 10 objetivos:

Para conocer  cuál es el punto de partida de cada municipio de más de 5.000 habitantes no puedo dejar de citar el admirable trabajo de visualización geográfica de datos que ha llevado a cabo la oficina de planificación urbana integral Paisaje Transversal.

En coherencia con este plan nacional, los municipios españoles están decantando sus prioridades e iniciativas de desarrollo en sus propios Planes de Acción Local de la Agenda Urbana Española, que servirán de base para desarrollar acciones concretas con el respaldo presupuestario de los fondos europeos articulados a través del Plan de Recuperación, Transformación y Resiliencia, una gran oportunidad para los siguientes ejercicios. 

¿Cómo pueden ayudar los datos, la analítica y los desarrollos tecnológicos a la sostenibilidad y mejora de la gestión urbana? 

Precisamente la UE entre las 6 prioridades estratégicas para el periodo 2019-2024 suma al pacto verde europeo la digitalización como otro eje clave. Hibridando ambos factores es como llegamos al capítulo de las "ciudades inteligentes", término muy cuestionable en sí -pues no cabe duda de que a priori quienes somos "inteligentes" somos los humanos, y no nuestros constructos- pero que ha sido ya extensivamente adoptado y sintetiza de manera comprensible el concepto de tecnología aplicada a la mejora de la calidad de vida de los ciudadanos, y a la eficiencia de los sistemas urbanos. En todo caso las reticencias respecto del término se salvan si matizamos que se deben separar muy bien los conceptos de inteligencia y de consciencia. Si bien la segunda es cierto que un atributo exclusivamente humano, la inteligencia se puede definir como la "capacidad de resolver problemas procesando información", una cualidad que sí pueden tener los sistemas artificiales diseñados por el hombre.

Este diagrama representa las ideas que a continuación desarrollaré, pero lo haré recorriéndolo de derecha a izquierda, pues el punto de partida han de ser siempre los problemas que queremos resolver y las palancas de acción de las que disponemos -los "qués" y los "para  qués"- mientras que la tecnología es un "cómo", un medio que nos ayuda a dar solución y respuesta a nuestras preguntas:

Cuestiones a resolver en el contexto urbano

Palancas de acción en manos de los gobiernos

A la hora de revisar todas las interacciones que se dan en la ciudad, y pensado en aplicaciones tecnológicas que puedan ayudar en los procesos que las rigen, es importante tener claro el mapa competencial. Un ayuntamiento no tiene competencias en el plano de salud, educativo, de seguridad nacional o de justicia. Aunque la transformación digital de las AAPP pueden traer grandes mejoras en estos sectores, dejaremos estos cuatro grandes bloques fuera del debate. Para saber cuáles son las palancas de acción de un ayuntamiento basta ver cómo se organizan, podemos tomar como ejemplo Madrid, al ser el mayor del estado, e inmediatamente afloran casos de uso estructurados por áreas, y otros transversales:

• Medio ambiente y movilidad: a nadie se le escapa que la monitorización de la calidad del aire ya se basa desde hace décadas en la sensorización y en la analítica de datos automatizada. Este magnífico hilo del estudio 300.000 km/s permite ver lo invisible: todos aquellos factores que influyen sobre la calidad del aire y por ende sobre la calidad de vida en la ciudad de Barcelona. Por otro lado, más allá de aplicar la analítica descriptiva como paso imprescindible para el diagnóstico, podemos abordar la automatización de procesos: en un futuro la IA hará posible el despliegue de vehículos de transporte público autónomos a gran escala.

• Desarrollo urbano: otra forma de nombrar este ámbito sería el de diseño, ordenamiento y regulación, pues por un lado los municipios elaboran planes para determinar su ordenación espacial (aunque la aprobación de las principales figuras de planeamiento urbanístico corresponda en última instancia a las CCAA), y por otro las entidades locales tienen capacidad para legislar a través de sus ordenanzas cómo ha de ser la convivencia en el entorno urbano, evitando conflictos entre sus usuarios: residentes, comerciantes, turistas... Configuración espacial y regulación están muy relacionadas, y ambas han de partir de un adecuado diagnóstico apoyado en datos. Para ilustrarlo no se me ocurre mejor ejemplo que volver a mencionar a 300.000 km/s, que en este proyecto analizaron los conflictos de convivencia en la ciudad que nunca duerme, de nuevo un excelente ejemplo de analítica descriptiva. 

• Participación ciudadana: sin duda los nuevos canales digitales -activos ya en muchos municipios (ejemplo MAD y BCN)-  abren la puerta a la participación masiva a una escala sin precedentes, lo que ha de verse como una oportunidad, pues los niveles de involucración y representatividad de las voces activas en estos procesos siempre han sido mejorables.   

• Economía, innovación y empleo: medir el desempeño económico de un área a partir de las transacciones digitales de pago realizadas en un lugar y momento dados es algo a lo que dediqué gran parte de mi etapa profesional previa. Tiene además solapes e intersecciones con las cuestiones anteriores, y es una herramienta para cambiar de paradigma. Tradicionalmente algunos gestores públicos tomaban como premisas lo que en realidad son hipótesis por verificar: "si tomo determinada decisión, si hago un cambio X en el contexto urbano, entonces los efectos serán Y, Z, etc."; hoy en día contamos con datos para corroborar estos efectos, y pasar de las intuiciones a las evidencias medibles. Siguiendo una petición del ayuntamiento analizamos los cambios en los patrones de consumo al dotar de mayor espacio público para los peatones y restringir el tráfico de vehículos particulares en el eje de Gran Vía, en Madrid. Medimos junto con Naciones Unidas los efectos de una catástrofe natural, un huracán, y la velocidad de vuelta a la normalidad tras este evento. Junto con CARTO también revisamos, gracias a los datos transaccionales, las delimitaciones en distritos y barrios de las ciudades de Madrid, Barcelona y ciudad de México, proponiendo nuevas áreas funcionales y caracterizándolas. 

Palancas de acción por parte de las empresas

• La mayoría de las infraestructuras que prestan servicio dan a las necesidades de suministro de nuestras ciudades son en realidad de gestión privada, ya sea en propiedad o en concesión. La creación de alertas ante pérdidas en la red de abastecimiento de agua, la búsqueda de mejoras en la eficiencia en los consumos energéticos (gas, electricidad y alumbrado público) e hídricos (riego), o la optimización de los itinerarios de recogida y gestión de los residuos sólidos urbanos son ejemplos para los cuales se despliegan hoy en día sensores, se procesan los datos recabados, y se emplean algoritmos de optimización.

Palancas de acción en manos de los ciudadanos o visitantes

• Quizá sin ser muy conscientes o sin darle demasiada importancia estamos utilizando aplicaciones tecnológicas en nuestro día a día como ciudadanos: cuando utilizamos un navegador para encontrar el modo más rápido para llegar de un punto a otro en la ciudad, la generación de la información que recibimos implica el procesamiento de datos en tiempo real sobre el tráfico o sobre la frecuencia de paso del transporte público, y el uso para ello de inteligencia artificial. Lo mismo al usar aplicaciones que nos facilitan la vida al actuar como visitantes en un destino turístico, y recibir recomendaciones sobre lugares que visitar o dónde alojarnos. Los ciudadanos somos el centro de estas soluciones, y a la vez las alimentamos con nuestra huella digital para que progresivamente funcionen mejor.

Datos, análisis y soluciones tecnológicas

"Gestionar sin datos es como conducir con el parabrisas lleno de barro", La cita se la escuché a Ricardo Baeza-Yates, y me parece bastante ilustrativa. Otra analogía que suelo usar es que las ciudades que no hacen un análisis de datos sobre lo que ocurre en su territorio son ciudades autistas, incapaces de reaccionar con flexibilidad a los estímulos que las rodean. Frente a esto emerge el concepto de ciudades reactivas, del que ya hable en un par de artículos anteriormente.   

Los datos son la materia prima de los motores analíticos, y como tal deben contar con una calidad mínima y una representatividad suficiente, lo cual dependerá de cuál sea la fuente de origen, y de cómo se hayan registrado. Por otro lado, en función de su naturaleza los datos pueden ser: 

• Dinámicos o estáticos. Hay que tener claro qué aplicaciones requieren dato en tiempo real (los relacionados con la movilidad, calidad del aire y los flujos de suministros urbanos, por ejemplo) y qué decisiones pueden darse con una foto fija de un momento dado, siempre que esta sea veraz y reciente (las decisiones de planificación urbana por ejemplo pueden basarse perfectamente en dato estático) 

• Por su lado los datos generados por nuestra actividad como ciudadanos pueden ser  personales o pueden conformar estadísticas agregadas en las que es imposible identificar a ningún individuo. En el primer caso contamos en la UE con el Reglamento General de Protección de Datos, una de las normas más estrictas a nivel mundial a la hora de regular las condiciones de recabación de estos datos y hacer uso de los mismos. 

Por otro lado, cabe hablar de la ruptura de silos necesaria para extraer el máximo valor que los datos puedan encerrar, permitiendo su compartición entre empresas, o entre empresas y gobiernos. En el sector turístico acaba de anunciarse la Plataforma Inteligente de Destinos, cuyo objetivo será integrar, relacionar y combinar datos públicos y privados homogeneizados que permitan el desarrollo de aplicaciones bajo estándares de desarrollo comunes. 

Además, desde una aproximación multisectorial se está constituyendo el Hub Nacional de Gaia-X, una plataforma destinada a garantizar la soberanía tecnológica de Europa.

En definitiva, los mimbres se están estableciendo de manera que permitan el desarrollo y la evolución del concepto de ciudades inteligentes hacia soluciones de impacto positivo tangible para la ciudadanía, y la consecución de los objetivos de sostenibilidad mencionados. Queda seguir poniendo sobre la mesa las preguntas adecuadas por parte de los expertos en los dominios principales: el urbanístico, el medioambiental y el sociológico, para que los desarrollos apunten hacia la resolución de los retos adecuados.

Cambio de ciclo

El pasado 31 de julio de 20201 dejé BBVA para retomar mi actividad como ingeniero urbanista, quiero poner mi foco en mejorar la sostenibilidad de nuestras ciudades, algo que llevaba tiempo echando de menos.

Como dice Yuval Noah Harari, todas las instituciones sobre las que se construye nuestro sistema social son ficciones útiles: el dinero, las leyes, las naciones, las empresas… lo único real tras esos convenios son las personas, y en este sentido guardo un enorme agradecimiento a tantos profesionales excelentes como me he encontrado en este camino, y ante todo a los que me han asesorado mientras tomaba esta decisión. Atrás dejo un equipo de compañeros extraordinario para explorar nuevos/viejos caminos.

Me incorporé en 2012 al proyecto de Smart Cities del Centro de Innovación en la Plaza de Santa Bárbara de Madrid; disfruté muchísimo en esa línea de trabajo, abriendo colaboraciones con el MIT Senseable City Lab, el Ayuntamiento de Madrid, SECTUR, United Nations Global Pulse o Segittur entre otras entidades.

Por otro lado, fue una fantástica experiencia nueva para mí ejercer de product owner en el desarrollo de aplicaciones móviles y de escritorio, y en servicios API, diseñando y poniendo requisitos sobre los que el equipo de desarrollo aplicaba su magia para hacerlos realidad. También me di cuenta es esta aventura de lo duro que es el camino de la innovación, de qué pocas aplicaciones llegan a estar en producción, y de lo efímera que es la vida de los resultados de tanto esfuerzo en el ámbito digital, algo tan distinto al mundo de las obras físicas, que siguen ahí durante décadas.

Aunque esta línea de análisis territoriales estuvo activa hasta 2017, en paralelo nuestras prioridades viraron 180º con el objetivo de apalancarnos en el uso de datos y la analítica avanzada para mejorar la operativa de las unidades de negocio del banco, y acelerar así la transformación digital de una entidad colosal y compleja. En ese contexto tuve la suerte de participar en la puesta en marcha de BBVA Data & Analytics -actual BBVA AI Factory- desde su misma constitución en 2014. En la vertiente interna coordiné las iniciativas de formación en ciencia de datos para todo el grupo durante un par de años, la implantación de la metodología ágil de trabajo en D&A y contribuí a implantar una cultura de toma de decisiones basadas en datos y en la aplicación del método experimental en toda la organización. 

 

Fue un éxito y una suerte ver cómo se constituía el área global de Data en 2017, dando escala y consiguiendo el impacto global requerido. Desde entonces en la vertiente externa he tenido la oportunidad de hacer de enlace de BBVA con el MIT CISR, o de participar en iniciativas con el World Economic Forum, la Comisión Europea, o el Institute of International Finance. En los últimos tiempos desde el equipo de estrategia de datos he podido seguir de cerca las tendencias más relevantes en el plano de la regulación digital, y activar proyectos sobre compartición de datos entre entidades, o el uso ético de la inteligencia artificial. El broche a todo ello han sido siempre las acciones de divulgación interna y externa: de poco sirve un proyecto si no se comparte adecuadamente para fomentar su adopción.

Ha sido un viaje muy bonito el que me ha traído hasta aquí, y lo que tengo por delante me hace mucha ilusión. Tener flexibilidad y curiosidad es lo que me ha resultado más útil en esta trayectoria, y quiero seguir jugando esta carta de "experto generalista" capaz de unir puntos en dominios diferentes, lo que últimamente se denomina profesional tipo π.

En esta nueva etapa ahora puedo sumar a los conocimientos sobre ingeniería y urbanismo que ya tenía la experiencia que he adquirido tras 9 años trabajando en la transformación de los datos en información accionable y en soluciones innovadoras a través de la analítica avanzada. Voy a establecerme como consultor estratégico freelance, haré de traductor entre las necesidades que pueden tener las ciudades para mejorar la calidad de vida de sus habitantes, y las capacidades que los ámbitos del urbanismo tradicional y las tecnologías ponen en nuestras manos para alcanzar estos objetivos. Tener conocimiento en estos dominios a priori distintos pero muy complementarios es la carta que jugaré para construir puentes entre estos ámbitos y seguir innovando.

El proceso legislativo sobre el caso concreto de la regulación de la IA

Aprended derecho

Lamentablemente, en ingeniería de caminos la asignatura de derecho -que se cursaba en 6º, cuando todos estábamos ya absortos por el proyecto fin de carrera, y viendo la luz al final del túnel- era lo que se dice "una maría". 

Por lo tanto no fue en la carrera cuando aprecié lo importante que es la legislación, sino al empezar a trabajar: es fundamental tener determinados conceptos básicos claros, pero aún más dedicándote al ámbito del urbanismo: acabas leyendo más leyes que prontuarios de cálculo, es más ¡acabas legislando! ¿qué es si no un Plan General de Ordenación Urbana? el urbanismo es política hecha por técnicos.

Pero no quiero hablar hoy de urbanismo, sino de ley y tecnología, dentro de esta bicefalia mía, a caballo entre dos mundos.

De mi paso por BBVA me traigo muchas cosas buenas, y una de las más formativas fue poder sumergirme en el mundo de la regulación digital y los derechos de los ciudadanos en su relación con la tecnología (en tiempos muy interesantes: llegada de GDPR en 2016, con entrada en vigor en 2018; primeros debates sobre la regulación de la transferencia de datos de entidades privadas a gobiernos, etc.). 

¿Cómo se desencadeno un proceso legislativo ante una innovación tecnológica?  

 

Toda novedad técnica lleva implícitas oportunidades por un lado, y nuevos riesgos por otro. De hecho, los elementos positivos y negativos no están vinculados a la innovación en sí, sino a sus aplicaciones prácticas, que siempre abarcan un abanico de posibilidades de amplio espectro. Esto ha sido así históricamente y puede ilustrarse con multitud de ejemplos: pensemos en la física nuclear, que en sus más de 100 años de desarrollo ha tenido aplicaciones en el campo médico, en el de generación de energía eléctrica, el transporte marítimo, la exploración del espacio, y, por supuesto, también sirvió de base al desarrollo de aplicaciones bélicas. 

 

 

La sociedad percibe estos matices, y no se posiciona categóricamente a favor o en contra de una innovación científica en general, sino que focaliza sus preocupaciones y esperanzas en los casos de aplicación. Cuando estos tienen consecuencias consideradas perjudiciales por un sector de la población, el debate público y los medios de comunicación comienzan a poner el foco en ello. Si este sentir comienza a ser significativo, trasciende el debate público y pasa al plano del debate político, terminando por ser tratado en el ámbito legislativo, que gesta nuevas regulaciones para paliar los riesgos y minimizar la probabilidad de que se materialicen. Es así como ha sucedido con muchos otros casos: las normativas sobre seguridad alimentaria -con los procesos de garantía e inspección asociados- la regulación sobre edición genética, o la relativa a la seguridad en el transporte terrestre o en el transporte aéreo han seguido este ciclo, a menudo desencadenado por la materialización de los riesgos indeseados: intoxicaciones alimentarias, accidentes aéreos o en carretera, o la posibilidad de clonar humanos, factible pero moralmente cuestionable.  

 

 

Fuente: Juan Murillo 

Aunque la inteligencia artificial acumule ya más de seis décadas desde su conceptualización y primeros desarrollos, ha sido ante todo en los últimos años cuando ha eclosionado y se ha integrado en soluciones tecnológicas que utilizamos a diario, gracias a la mayor disponibilidad de su principal materia prima: los datos.  

 

Determinadas aplicaciones que hacen uso de datos y analítica avanzada han alimentado el debate público al respecto de potenciales riesgos:   

• Sistemas de navegación que han provocado siniestros, por no tener datos actualizados sobre incidencias en la carretera. 

• Asistentes virtuales por voz tan perfectos que un humano no sospechaba que estaba interactuando con una máquina. 

• Algoritmos de cribado de curricula vitae que discriminaban a las candidatas femeninas 

• Algoritmos de asignación de límite de crédito que otorgaban mayores límites a los titulares primeros de una cuenta que a los titulares segundos (existiendo una correlación de género entre ambos tipos de titular) 

• Sistemas de valoración del riesgo de reincidencia y seguimiento de convictos que tenían sesgos raciales 

Aunque muchos de estos casos no sucedieran dentro de la jurisdicción de la Unión Europea, ni los desarrollos implicados fueran responsabilidad de empresas europeas, han sido las instancias de la UE las primeras en armar una respuesta legislativa al respecto. Así, en febrero de 2020 la Comisión Europea publico conjuntamente un White Paper on AI y una consulta pública al respecto de esta tecnología, cuyas respuestas -más de 1.200 por parte tanto de ciudadanos como de entidades- arrojaron, entre otros los siguientes resultados:     

 

 

Fuente: EU White Paper on IA, consultation final report 

 

Dados estos resultados, y sobre la base de multitud de reflexiones previas - fundamentalmente las recogidas en las estrategias sobre IA nacionales y en las Directrices éticas para una IA fiable, publicadas en 2019- la Comisión Europea manejó 5 escenarios legislativos que se listan a continuación:  

• Opción 1: Un sistema voluntario de etiquetado UE 

• Opción 2: Aproximaciones sectoriales ad hoc (sin legislación transversal) 

• Opción 3: Una legislación transversal en función del riesgo de las aplicaciones 

• Opción 3+: Legislación transversal, junto con códigos de conducta para las aplicaciones de bajo riesgo 

• Opción 4: Legislación transversal para cualquier sistema de IA, sin distinguir riesgos  

 

Finalmente, la Comisión Europea optó por la opción 3+ e hizo pública en abril de 2021 una propuesta legislativa que ha trasladado al Parlamento Europeo, y que ha sido sometida a su vez a consulta pública para su evaluación de impacto. De este modo, cuando la propuesta de ley pase su tramitación parlamentaria, la Unión Europea se constituirá en la primera comunidad política de derecho en contar con una regulación sobre IA que aporte un marco claro de desarrollo de estas aplicaciones con garantías para los derechos fundamentales de las personas. 

 

¿Y ahora qué?  

En algún momento conoceremos la versión definitiva de la nueva ley europea que regulará las aplicaciones de la IA, y entrará en vigor (ante una novedad de tal calado suele haber un periodo de adaptación de 2 años para que empresas y AAPP adapten sus procesos). Aquí he hablado sobre las implicaciones que tendrá esto para las aplicaciones en Ciudades Inteligentes.

 

Por último, no quiero cerrar este artículo sin la siguiente reflexión: 

• La ley responde a la pregunta ¿qué puedo hacer (como empresa o como individuo) sin que el peso sancionador del estado apunte a mí?

• La ética sin embargo va más allá, respondiendo a ¿qué debo hacer? pues, aún cuando aquello que tengas en mente sea legal, puede que sea sancionado negativamente por el resto de la sociedad. Es más, el listón fijado por la ley es móvil: lo que hoy es legal pero no ético, muy probablemente acabe siendo además ilegal si el daño que causa llama la atención de la opinión pública y del legislador en última instancia.    

En OdiseIA hay un gran equipo trabajando para aterrizar un marco claro de desarrollo tecnológico ético, buscando impactos positivos:

• Hacia las empresas: ayudando a crear un marco claro de cumplimiento de la nueva regulación europea sobre inteligencia artificial 

• Hacia los ciudadanos: dando garantías en el impulso de una IA que no discrimine, sea explicable y auditable

• Hacia los gobiernos: ofreciendo asesoramiento a la hora de validar las soluciones en este ámbito

 

 

La cultura del procomún en internet

Hay dos figuras que me llaman especialmente la atención en el mundo de la tecnología: se trata de Richard Stallman y de James Wales.

El primero es el abanderado del software libre, movimiento que ha dado como frutos el servidor HTTP Apache (el más extendido para alojar páginas web), el sistema operativo GNU/Linux, o el navegador Firefox, de la comunidad Mozzilla; en 2015 tuve ocasión de presenciar una conferencia suya en el ITAM de México en la que, en un muy correcto castellano, desgranó uno a uno los argumentos de este movimiento. Cuatro años más tarde se vio forzado a dimitir de sus funciones en el MIT por relativizar la gravedad del escádalo Jeffrey Epstein, pero eso está fuera de la cuestión de la que quiero tratar. 

El segundo es el creador de Wikipedia (aunque la polémica sobre una co-autoría con Larry Sangers está en el aire), egos aparte, la historia del proyecto es todo un caso de estudio. Wales fue un inversor de éxito al principio de su carrera, pasó de la bolsa al mundo tecnológico para probar con una página de contenido erótico en primer lugar, y con una enciclopedia digital a continuación. Este proyecto precursor de Wikipedia se llamaba Nupedia, y contaba con Sangers como editor jefe en plantilla para dirigir la revisión exhaustiva -según un proceso de siete pasos- del trabajo de los voluntarios que redactaban los artículos. De 1999 a 2000, en su primer año de vida, Nupedia publicó tan solo 21 artículos. Wikipedia nació en 2001 como una iniciativa lateral, un soporte para acelerar la publicación de artículos en Nupedia creando un proceso mucho más ligero de peer review no dirigido. En su primer mes 200 artículos vieron la luz. En el primer año 18.000 ¿se resintió la calidad respecto a esos primeros 21 artículos de Nupedia? sin duda, pero en breve se demostró que si el proyecto quería escalar y cumplir el propóstito de democratizar el conocimiento para todo el mundo, la hija debía devorar a la madre: Nupedia se cerró en 2003. Además, en el largo plazo se ha demostrado no solo la capacidad del enjambre de editores voluntarios para publicar un gran volumen de información, sino también la rigurosidad del resultado.

Lo que me sorprende de ambos personajes -Stallman y Wales- es que a priori los agrupaba en universos ideológicos similares, y resulta no ser así: Richard Stallman es un declarado altermundista, mientras que James Wales se manifiesta objetivista. 

Vayamos primero con las coincidencias: tras ambas iniciativas, sofware libre y conocimiento libre, hay una forma de creación de contenido que ha demostrado la capacidad de los procesos descentralizados para llegar a resultados tan impactantes como los logrados en los procesos de planificación central de las grandes empresas o gobiernos, y todo ello a una gran escala. Esta visión anarco-libertaria, en definitiva, es algo muy alineado con las ideas de Friedrich Hayek: el análisis de la creación por procesos espontáneos -la génesis y evolución de los idiomas es un gran ejemplo al respecto, otro sería la conformación de precios en un mercado libre- fue lo que le valió el premio Nobel de Economía en 1974 (curiosamente en política Hayek no era tan reticente a la "centralización de decisiones" que suponían determinados regimenes autoritarios).   

Si bien Wales y Stallman coinciden en creer en los sistemas descentralizados como formas organizativas autogobernadas por una jerarquía meritocrática entre los miembros de la comunidad, en lo que difieren es en los incentivos que pueden mover a los miembros de dicha comunidad. 

Aunque el software libre permite establecer modelos de negocio sobre el mismo, la principal motivación de sus participantes sería, según Stallman, el altruísmo: la contribución al ideal de que todo el software debería ser libre, tras lo cual desgrana esta otra serie de incentivos. Por otro lado este artículo recoge los resultados de una encuesta a desarrolladores de Linux, y las motivaciones halladas son, por orden: 

• el reconocimiento como expertos
• el tratar de resolver necesidades propias como usuarios del resultado
• la disponibilidad de tiempo para ser volcado en algo que ven no como un trabajo, sino como una afición.
  

Sin embargo Wales, como fan de Ayn Rand no cree en el altruísmo, definido como un "esfuerzo que sacrifica tus propios valores en beneficio de otros", sino más bien exaltaría el individualismo o "egoísmo racional". Esto es lo que me llama especialmente la atención, sobre todo atendiendo a los hechos: 

• Wales decidió conscientemente en 2003, cuando Wikipedia estaba en la cuerda floja tras la crisis de las .com, no monetizar la 5ª página más visitada del mundo a través de banners de publicidad insertos en los artículos, sino que constituyó la Fundación Wikimedia para sufragar los costes de la web a través de donaciones. De haberlo hecho, muy probablemente sería multimillonario, como Zukerberg, Bezos, et al
  
• Wales nunca ha cobrado un salario como fundador y miembro de la junta de gobierno de dicha Fundación (que, por cierto, en la actualidad preside una española, María Sefiradi).

En definitiva, dan igual las etiquetas, los movimientos a los que uno se adhiera o incluso las declaraciones que haga... al final de todo lo que cuentan son las acciones; ante la contradicción entre las palabras y los hechos debemos siempre fijarnos en los segundos, y para mí Wales ha demostrado una gran generosidad hacia toda la sociedad: por mucho que sea reticente a reconocerlo, tenemos mucho que agradecer a su altruismo.