El último mes ha valido como 10 años en el proceso de adopción y transformación digital a nivel mundial. Ni CEOs ni CIOs, ha sido el coronavirus el que ha acelerado este proceso. La respuesta tecnológico-digital al Covid-19, junto con las esperanzas puestas en el sistema científico-tecnológico para crear nuevos entornos y soluciones a nivel de gestión pública, provisión de servicios, innovación social,…han creado un nuevo marco de exigencia y aceleración. La sociedad en su conjunto, las autoridades y las empresas están pudiendo evaluar ahora la aportación de la inteligencia artificial, la robotización o la automatización, en la acción de las instituciones públicas.
A falta de vacuna y con el único recurso posible del distanciamiento social, nos queda la opción de la tecnología como respuesta a la pandemia. Este repositorio muestra a las claras la extensión de esta. Donde la opción tecnológica ha sido más organizada y sistemática (Taiwan, Singapur o Corea del Sur), el recorrido de la pandemia parece confirmar su utilidad. Claro que, como siempre, la tecnología no existe de manera aislada del entorno en el que se desarrolla y se implanta. Así que quizá las soluciones de seguimiento o de automatización que se han aplicado en estos países a los que miramos con tanta envidia tienen menos que ver con la solución técnica en sí y más con el grado de penetración de la tecnología, con las particularidades de sus sistemas de gobierno, con la disposición a asumir los costes en términos de privacidad, con la legislación, etc. Llama la atención el ejemplo de Taiwan, donde se ha destacado su enfoque de tecnología cívica en su respuesta así como la utilización que han hecho de los datos masivos. También los entornos de fabricación digital 3D ha encontrado la ocasión ideal para darse a conocer al público en general y de manera concreta.
No me propongo hacer un repaso exhaustivo de todas las versiones de la respuesta tecnológica que hemos conocido estas semanas. Más o menos las conocemos. Aplicaciones con diferentes funcionalidades para hacer seguimiento de contactos, de localización o de permisos para excepciones al confinamiento, análisis de big data para encontrar patrones en la evolución o multiplicar el esfuerzo científico; complejos dispositivos para hacer controles sanitarios y tests in situ a la población; robots para realizar tests, hacer comprobaciones en la calle o facilitar la distribución de equipos de protección; vigilancia de personas infectadas, incluyendo cámaras de control de temperatura e identificación facial, información en tiempo real a la población, telemedicina, etc. Es sólo una parte de la respuesta tecnológica, pero la que me parece más sensible en términos éticos, jurídicos, sociales,... porque implican en esencia aumentar varios niveles el sometimiento a sistemas de control y vigilancia sobre la privacidad individual y la capacidad de tomar decisiones en torno a información personal y privada.
En un desastre de las dimensiones que estamos viviendo cualquier recursos cuenta, y es necesario contar con la mejor ciencia y la mejor tecnología. Si la ciencia clave para la gestión de la pandemia juega de forma intrínseca en el terreno de lo que no conocemos más que de lo que conocemos, la tecnología hoy juega en el terreno de lo que se puede y no se puede hacer. Ese “puede” tiene que ver con lo que es factible, y por eso lo que ha sido posible en Corea del Sur no lo ha sido en la mayoría del resto de países. La distancia entre lo posible allí y lo imposible aquí marca el camino de lo que se propondrá hacer aquí en los próximos años para todo lo que no se haya hecho en estas semanas.
Pero ese “puede” también ha que vincularlo a lo que social y políticamente es posible en cada país. Una situación de emergencia, por definición, reconfigura temporalmente las bases sobre las que se sustentan instituciones, procedimientos, formas de hacer, hábitos,… hasta el punto de que todos los países, de una u otra manera, han formalizado su respuesta bajo figuras diversas (estado de alarma, por ejemplo) para poder adoptar un marco jurídico más estable. En esta situación, la respuesta tecnológica también se abre camino en un entorno de excepcionalidad, en el que las libertades individuales, los derechos humanos o la privacidad se abordan desde otros límites. Este artículo es un fenomenal texto de evaluación de las principales tipologías de soluciones técnicas utilizadas y los riesgos que implican a nivel individual y colectivo. Esta generalización de este tipo de seguimiento móvil revela su utilidad para asegurar un seguimiento efectivo de los contagios y, a la vez, el delicado terreno en el que nos adentramos.
Necesitamos vigilancia masiva, pero no tiene, no tendría por qué ser escalofriante. Track and test parece que es la única salida viable. Para hacerlo bien necesitamos soluciones tecnológicas capaces de hacer este seguimiento de manera efectiva y eficiente, cosa que es relativamente viable, pero también necesitamos que sea acorde con los niveles de legitimidad y respeto a la privacidad que desearíamos en sociedades democráticas (dejo aparcado el debate más profundo sobre si realmente lo somos, lo seremos o queremos que lo sean, que es una cuestión más civilizatoria que está rondando también). Estamos hoy negociando un nuevo contrato social sobre cómo nos vamos a relacionar en la sociedad digital con nuestras instituciones. Cuáles son los datos de rastreo necesarios, cómo se hará ese rastreo y cuáles serán los algoritmos utilizados para tomar decisiones críticas (definirte como inmunizado, autorizarte a una determinada actividad, confirmar tu licencia de apertura, obligarte a un confinamiento fuera de casa,…) es el conflicto que estamos a punto de firmar, pero no contamos con una regulación segura y garantista para estas circunstancias, ni con la calma suficiente para hacer de ello un debate social sobre un tema que redefinirá la sociedad digital de los próximos años. Peor, vamos a actuar bajo nuevas condiciones sin haber firmado aún el contrato. Apelar a que es una restricción o una auto-limitación consentida de manera momentánea, y que después podremos volver a la casilla de salida suena demasiado optimista.
Aquí es donde hay que reivindicar y poner en práctica con transparencia y de manera concertada principios como la no discriminación y evaluación de sesgos, proporcionalidad, privacidad, rendición de cuentas, prevención de riesgos, consentimiento, privacidad por defecto o accesibilidad. Suenan teóricos, pero son los principios que pueden diseñar cualquier herramienta que se quiera implantar más allá de sus funcionalidades y requerimientos técnicos, y tienen una incidencia material y efectos directos sobre las personas.
La Caja de Pandora ya está abierta. El troyano está dentro del sistema. Google y Apple ofrecen una opción para universalizar el seguimiento, pero las respuestas a nivel nacional también han aparecido, desde las más sofisticadas (Singapur) a las más rudimentarias pero efectivas (Grecia). Este repositorio ofrece una magnífica imagen de la dimensión y extensión de esta pulsión por la solución vía apps móviles. La tensión ética entre libertad y privacidad ha dejado de ser una cosa hipotética, circunstancial o marginal, y la sociedad de la vigilancia, vía sanitaria, ya está(ba) en marcha, y el marco de los derechos humanos importará más que nunca, aunque habrá que dotarlo de una actualización en términos de derechos digitales. Para algunos, el intercambio merece la pena, porque el solucionismo tecnológico siempre está ahí para encontrar razones. La tentación autoritaria es una opción que toma fuerza en un ambiente político dominado por el ascenso populista, la disolución de las formas tradicionales de formación de la opinión pública, la crisis de los partidos políticos al uso como intermediadores, las nuevas posibilidades de manipulación de las opiniones políticas,...
Vislumbrar cuál será la salida entre el optimismo tecnológico y el pesimismo político nos lleva fácilmente a la decepción sobre el futuro de la humanidad. El totalitarismo de vigilancia tiene el camino despejado en este contexto socio-político, al que ahora añadimos el miedo y la desconfianza. Puede que no todo sea tan catastrófico, y podamos encontrar un balance realista y justo, pero al menos a corto plazo la normas, las normas, la normalidad, tendrán otra pinta muy distinta a cómo eran. Como es demasiado tentador, y se ha convertido a la vez en pasatiempo mediático y en herramienta para encontrar razones de nuestra desdicha, la comparación con los países que mejor han respondido nos lleva a la aspiración de ser como Corea del Sur o Singapur. Es mucho decir, al menos desde el punto de vista europeo, una región del mundo encerrada en sí misma y en permanente duda metafísica sobre sí misma desde al menos la última crisis económica. Sea como sea, la capacidad de innovación tecnológica se ha puesto al servicio de una crisis global de manera precipitada (urgencia obliga) y está siendo una de las grandes esperanzas. Esa misma urgencia va a introducir de manera generalizada soluciones que afectan a la privacidad individual y a la concepción social del papel de la tecnología. Pero "la tecnología" no existe de manera independiente del ensamblaje social en el que se produce, se regula y actúa, por lo que la evaluación ética de cualquier tecnología mediadora como respuesta a la pandemia es ineludible.
//////////
No es fácil escribir sobre esta cuestión pero me he propuesto ordenar al menos algunas lecturas que voy sistematizando. Son apuntes dispersos y poco sistemáticos, como casi todo en este blog desde hace 12 años, pero al menos servirán para detectar algunos temas que creo serán relevantes en los próximos meses o años.
Posts previos:
A falta de vacuna y con el único recurso posible del distanciamiento social, nos queda la opción de la tecnología como respuesta a la pandemia. Este repositorio muestra a las claras la extensión de esta. Donde la opción tecnológica ha sido más organizada y sistemática (Taiwan, Singapur o Corea del Sur), el recorrido de la pandemia parece confirmar su utilidad. Claro que, como siempre, la tecnología no existe de manera aislada del entorno en el que se desarrolla y se implanta. Así que quizá las soluciones de seguimiento o de automatización que se han aplicado en estos países a los que miramos con tanta envidia tienen menos que ver con la solución técnica en sí y más con el grado de penetración de la tecnología, con las particularidades de sus sistemas de gobierno, con la disposición a asumir los costes en términos de privacidad, con la legislación, etc. Llama la atención el ejemplo de Taiwan, donde se ha destacado su enfoque de tecnología cívica en su respuesta así como la utilización que han hecho de los datos masivos. También los entornos de fabricación digital 3D ha encontrado la ocasión ideal para darse a conocer al público en general y de manera concreta.
 |
| Photo by Jens Johnsson on Unsplash |
No me propongo hacer un repaso exhaustivo de todas las versiones de la respuesta tecnológica que hemos conocido estas semanas. Más o menos las conocemos. Aplicaciones con diferentes funcionalidades para hacer seguimiento de contactos, de localización o de permisos para excepciones al confinamiento, análisis de big data para encontrar patrones en la evolución o multiplicar el esfuerzo científico; complejos dispositivos para hacer controles sanitarios y tests in situ a la población; robots para realizar tests, hacer comprobaciones en la calle o facilitar la distribución de equipos de protección; vigilancia de personas infectadas, incluyendo cámaras de control de temperatura e identificación facial, información en tiempo real a la población, telemedicina, etc. Es sólo una parte de la respuesta tecnológica, pero la que me parece más sensible en términos éticos, jurídicos, sociales,... porque implican en esencia aumentar varios niveles el sometimiento a sistemas de control y vigilancia sobre la privacidad individual y la capacidad de tomar decisiones en torno a información personal y privada.
En un desastre de las dimensiones que estamos viviendo cualquier recursos cuenta, y es necesario contar con la mejor ciencia y la mejor tecnología. Si la ciencia clave para la gestión de la pandemia juega de forma intrínseca en el terreno de lo que no conocemos más que de lo que conocemos, la tecnología hoy juega en el terreno de lo que se puede y no se puede hacer. Ese “puede” tiene que ver con lo que es factible, y por eso lo que ha sido posible en Corea del Sur no lo ha sido en la mayoría del resto de países. La distancia entre lo posible allí y lo imposible aquí marca el camino de lo que se propondrá hacer aquí en los próximos años para todo lo que no se haya hecho en estas semanas.
Pero ese “puede” también ha que vincularlo a lo que social y políticamente es posible en cada país. Una situación de emergencia, por definición, reconfigura temporalmente las bases sobre las que se sustentan instituciones, procedimientos, formas de hacer, hábitos,… hasta el punto de que todos los países, de una u otra manera, han formalizado su respuesta bajo figuras diversas (estado de alarma, por ejemplo) para poder adoptar un marco jurídico más estable. En esta situación, la respuesta tecnológica también se abre camino en un entorno de excepcionalidad, en el que las libertades individuales, los derechos humanos o la privacidad se abordan desde otros límites. Este artículo es un fenomenal texto de evaluación de las principales tipologías de soluciones técnicas utilizadas y los riesgos que implican a nivel individual y colectivo. Esta generalización de este tipo de seguimiento móvil revela su utilidad para asegurar un seguimiento efectivo de los contagios y, a la vez, el delicado terreno en el que nos adentramos.
Necesitamos vigilancia masiva, pero no tiene, no tendría por qué ser escalofriante. Track and test parece que es la única salida viable. Para hacerlo bien necesitamos soluciones tecnológicas capaces de hacer este seguimiento de manera efectiva y eficiente, cosa que es relativamente viable, pero también necesitamos que sea acorde con los niveles de legitimidad y respeto a la privacidad que desearíamos en sociedades democráticas (dejo aparcado el debate más profundo sobre si realmente lo somos, lo seremos o queremos que lo sean, que es una cuestión más civilizatoria que está rondando también). Estamos hoy negociando un nuevo contrato social sobre cómo nos vamos a relacionar en la sociedad digital con nuestras instituciones. Cuáles son los datos de rastreo necesarios, cómo se hará ese rastreo y cuáles serán los algoritmos utilizados para tomar decisiones críticas (definirte como inmunizado, autorizarte a una determinada actividad, confirmar tu licencia de apertura, obligarte a un confinamiento fuera de casa,…) es el conflicto que estamos a punto de firmar, pero no contamos con una regulación segura y garantista para estas circunstancias, ni con la calma suficiente para hacer de ello un debate social sobre un tema que redefinirá la sociedad digital de los próximos años. Peor, vamos a actuar bajo nuevas condiciones sin haber firmado aún el contrato. Apelar a que es una restricción o una auto-limitación consentida de manera momentánea, y que después podremos volver a la casilla de salida suena demasiado optimista.
Aquí es donde hay que reivindicar y poner en práctica con transparencia y de manera concertada principios como la no discriminación y evaluación de sesgos, proporcionalidad, privacidad, rendición de cuentas, prevención de riesgos, consentimiento, privacidad por defecto o accesibilidad. Suenan teóricos, pero son los principios que pueden diseñar cualquier herramienta que se quiera implantar más allá de sus funcionalidades y requerimientos técnicos, y tienen una incidencia material y efectos directos sobre las personas.
La Caja de Pandora ya está abierta. El troyano está dentro del sistema. Google y Apple ofrecen una opción para universalizar el seguimiento, pero las respuestas a nivel nacional también han aparecido, desde las más sofisticadas (Singapur) a las más rudimentarias pero efectivas (Grecia). Este repositorio ofrece una magnífica imagen de la dimensión y extensión de esta pulsión por la solución vía apps móviles. La tensión ética entre libertad y privacidad ha dejado de ser una cosa hipotética, circunstancial o marginal, y la sociedad de la vigilancia, vía sanitaria, ya está(ba) en marcha, y el marco de los derechos humanos importará más que nunca, aunque habrá que dotarlo de una actualización en términos de derechos digitales. Para algunos, el intercambio merece la pena, porque el solucionismo tecnológico siempre está ahí para encontrar razones. La tentación autoritaria es una opción que toma fuerza en un ambiente político dominado por el ascenso populista, la disolución de las formas tradicionales de formación de la opinión pública, la crisis de los partidos políticos al uso como intermediadores, las nuevas posibilidades de manipulación de las opiniones políticas,...
 |
| Photo by Graham Ruttan on Unsplash |
//////////
No es fácil escribir sobre esta cuestión pero me he propuesto ordenar al menos algunas lecturas que voy sistematizando. Son apuntes dispersos y poco sistemáticos, como casi todo en este blog desde hace 12 años, pero al menos servirán para detectar algunos temas que creo serán relevantes en los próximos meses o años.
Posts previos:
The COVID-19 pandemic forced the world to rapidly adopt new technologies in order to combat an unprecedented global health crisis. "Coronavirus: The Technological Response, A Hasty and Large-Scale Test" explores how innovations in technology were leveraged to address the challenges posed by the virus. From telemedicine to contact tracing apps, the pandemic acted as a large-scale test for technologies that were previously in their infancy.
ResponderEliminardisputas contratos litigio mediación