Ciencia, tecnología y sociedad | "Trabajo 7"

Instrucciones

Conocimiento experto, Sabiduría colectiva e Inteligencia

Elije uno de los dos temas y escribe un breve texto dando respuesta a las siguientes preguntas.

Derrida utiliza la metáfora ‘farmacón’, una droga/medicina que puede ser remedio o veneno, para mostrar la simultaneidad de los efectos benéficos y maléficos de la tecnología. ¿Es la inteligencia aumentada el nuevo farmacón? ¿Puede la inteligencia artificial transformar la democracia y generar otro tipo de pensamiento político?

Imagínate una aplicación que permita que la persona entrenadora de un equipo de deporte profesional sea todo el estadio. Las personas seguidoras del equipo se organizan entorno a una aplicación digital donde, colectivamente, toman las decisiones sobre la alineación, la estrategia, las posiciones o los cambios. La aplicación también podría incorporar big data, análisis estadísticos y comparativos, así como salas donde se discuta el conocimiento experto. Pero la decisión es colectiva. ¿Esa sustitución de la persona entrenadora por el colectivo, sería beneficiosa o perjudicial para el equipo?

Extensión máxima: Máximo 500 palabras. Puede ser una entrada en vuestro blog

 

Discusión

La inteligencia aumentada no deja de ser una herramienta tecnológica como las ha desarrollado la humanidad desde el principio de los tiempos. A lo largo de la historia e incluso antes de haber evidencias escritas, el contenido de las herramientas tecnológicas ha ido siendo más y más rico, de tal forma que ha ido siendo necesario un conocimiento aún más profundo y especializado de un subconjunto cada vez más pequeño de individuos.

En este sentido, la humanidad ha ido delegando de manera más o menos sabia, más o menos crédula, con más o menos fe, en el uso de estas herramientas con el fin de hacer su tarea cotidiana (o la de su empresa) más competitiva. En mi opinión, el fin mayoritario de las herramientas tecnológicas, por tanto, ha sido hacer a las empresas que las usan más y más competitivas. Hasta no hace mucho, la sabiduría de un humano promedio podía abarcar el perímetro del conocimiento atribuíble a estas herramientas tecnológicas.

Realidad aumentada

El caso especial de la realidad aumentada, se puede interpretar como un avance en el terreno de la ergonomía. Realidad aumentada son unas gafas que facilitan el reconocimiento de colores para personas daltónicas, o una aplicación en el móvil que nos va señalando hitos en la navegación por una ruta en la ciudad, mientras apuntamos con la cámara del móvil mirando estos hitos en la pantalla, inmersos en un entorno virtual mezclado con nuestro entorno real.

De igual manera realidad aumentada es también el reconocimiento de una escena nocturna para el uso militar en drones, regimientos de infantería, etc. Al final, es una aplicación dirigida a mejorar la ergonomía.

Inteligencia Artificial

Al contrario, las IAs siguen el principio de que son herramientas tecnológicas, entrenadas (dicho sea de paso, hay IAs de propósito general en las que el conocimiento de los datos de entrenamiento es amplio pero muy superficial, y hay otras IA más especializadas en campos relativamente estrechos y específicos pero sustancialmente más profundos, como los sistemas expertos que se empiezan a usar ya en medicina) para responder a una pregunta, no para interpretar un entorno desplegando una utilidad ergonómica como en la realidad aumentada (AR).

Ahora bien, al funcionar como cajas negras, la complejidad de los parámetros y las funciones de ponderación desarrolladas a través de los datos de entrenamiento no resultan evidentes, ni siquiera para las personas que han diseñado una IA determinada.

De manera tangencial, es útil recordar que es fácil encontrar ejemplos de hackers que han conseguido engañar a varias IAs mediante lo que en la percepción humana llamaríamos ilusiones ópticas. Estas ilusiones ópticas podrían desvelar vulnerabilidades en el funcionamiento de las IA, de tal forma que podrían convertirse en pistas para hacer ingeniería inversa y para, de alguna manera, auditar su funcionamiento interno.

Tan es así, que los expertos han utilizado técnicas de confrontación entre IAs, que han llamado popularmente GANs (Generative Adversarial Networks o Redes Generativas Adversarias) en las que un lado de la GAN reta al otro a tragarse un engaño y el otro trata de descubrirlo de manera eficaz.

Por otro lado, en la sociedad no tengo constancia de que exista una actitud mayoritaria (ni siquiera significativa) de querer auditar a las IA. Al igual que con el desarrollo científico, mi percepción es que la sociedad mayoritariamente está por el tecnofideísmo y por ejercitar una fe ciega en que la ciencia ("que no tiene ideología"), al igual que las IAs, nos va a sacar las castañas del fuego para siempre, sin que tengamos que estar muy pendientes de cómo. Con lo que no solemos contar es con el hecho de que incluso las mejores herramientas explotan nuevas ineficiencias en la sociedad, a la manera de la paradoja de Jevons y que este ciclo no hace más que repetirse de manera cada vez más acelerada. Sin embargo, una gran mayoría decide mirar a otro lado y subcontratar la tarea de producir mejoras a científicos e IAs, sin caer en la cuenta que con ello consigue agotar aún más rápidamente los recursos del planeta y que ni siquiera son imparciales o ideológicamente neutrales. Parecería este el pensamiento neoliberal que prevalece en las sociedades desarrolladas.

Será muy interesante ver la evolución de estos esfuerzos de auditar las IAs, y también ver hasta dónde los humanos nos dejaremos llevar por nuestra falta colectiva de criterio en confiar ciegamente en las IAs al nivel de la sociedad en su conjunto.

Una pregunta interesante y perturbadora al mismo tiempo. ¿Conseguirán hacer una IA que nos convenza a cada ciudadano de manera personalizada (explotando nuestras debilidades individuales, a modo como lo hacen de manera primitiva los motores de envío masivo de phishing actuales) para que votemos o elijamos a una IA para gobernar al mundo?.