El domingo pasado: Una Inteligencia Artificial con corbata y bastón de mando (I)
En este nuevo escenario, a medida que la IA comenzaba a absorber más responsabilidades, los habitantes del pueblo comenzaron a notar los efectos de este cambio. Aunque el sistema ofrecía varias alternativas para cada decisión al alcalde, solo se basaba en los datos que analíticamente podía conseguir, y había mucho trasfondo local que no permeaba a los sistemas digitales. Las decisiones, antes basadas en relaciones personales y consideraciones humanas, ahora eran el resultado de un análisis automático de los datos disponibles mediante algoritmos. Aunque se lograba alta eficiencia y se resolvían los problemas técnicos con una precisión y rapidez increíble,la falta de empatía, comprensión emocional y visión estratégica empezó a causar problemas, al principio sutiles, pero indudables. Algunos vecinos, cuyo razonamiento y sentido común no estaban en línea con los dictados por la máquina, se sintieron desplazados y molestos.
Mientras tanto, otras corporaciones que proporcionaban servicios en las áreas de la IA observaban desde lejos con un creciente interés. Las posibilidades de este experimento superaban las expectativas: si una IA podía gobernar un pequeño pueblo con eficacia, ¿por qué no una gran ciudad o, incluso, un país? El riesgo de monopolio creció con estas entidades convirtiéndose en la única fuente de poder y tomando decisiones basadas en datos que podían manipular a su antojo para polarizar la opinión pública.
Simultáneamente comenzaron a surgir informes de que la multinacional tecnológica para la que trabajaban el alcalde y el teniente-alcalde había estado implementando un sistema de espionaje no detectado en todas sus plataformas, incluyendo la de este pequeño pueblo de la Alcarria. De repente, el pueblo se encontró en el epicentro de un escándalo de vigilancia a gran escala, con sus habitantes convertidos en peones de un juego mucho más grande de lo que jamás habían imaginado. El miedo y la incertidumbre invadieron al pueblo: sus privacidades habían sido violadas, sus decisiones manipuladas y su dependencia de la IA revelaba ahora su lado más oscuro. De la noche a la mañana, su tranquilo rincón de la Alcarria se había convertido en el centro de un escándalo que podría tener ramificaciones en todo el país, si no a nivel mundial.
El alcalde y el teniente-alcalde intentaron rediseñar el sistema de IA para que funcionase a su favor. No iban a renunciar a la IA completamente, sabiendo que había aportado muchos beneficios a su pueblo, pero necesitaban encontrar un equilibrio entre la eficiencia de la IA y la esencia humana. Trabajando día y noche, desarrollaron un plan para introducir una capa adicional de control humano en la IA. Esta capa actuaría como una especie de filtro o cortafuegos, supervisando todas las decisiones de la IA y permitiendo a los usuarios humanos intervenir cuando fuera necesario. Además, esta capa estaría en control local, limitando la influencia de las grandes empresas tecnológicas y asegurando que los datos del pueblo se mantuvieran seguros y privados.
Con el tiempo, la gente del pueblo empezó a notar los cambios. Las decisiones de la IA ya no parecían tan frías y deshumanizadas como antes. Había muchos matices humanos en ellas, detalles que sólo podían provenir de alguien que conociera y comprendiera los entresijos de la comunidad. Las decisiones de la IA se hicieron más inclusivas y consideradas, abarcando tanto datos objetivos como variables emocionales y sociales. La tecnología y la humanidad comenzaron a trabajar en armonía.
Los jóvenes informáticos pusieron nombre a su sistema. En un alarde de originalidad, lo llamaron ALCARRIA: Asistente Local para el Control Administrativo, Regulación y Responsabilidad Integrado con Inteligencia Artificial. A día de hoy es el sistema de ayuda a la gobernabilidad más extendido en todo el territorio nacional.
El pequeño pueblo de la Alcarria, una vez al borde del caos, había encontrado un camino hacia un futuro donde la tecnología y la humanidad coexisten en armonía. Un lugar donde la IA apoya a la comunidad, pero las decisiones son tomadas por humanos, basándose en una combinación de datos, empatía, sentido común y comprensión. Una pequeña comunidad que, a pesar de las dificultades y los desafíos, demostró que la cooperación entre humanos e IA no sólo es posible, sino que puede llevar a un futuro más brillante y equilibrado.
P.S. La segunda parte de este relato ha sido dibujada por Carlos González Morcillo, catedrático en la Escuela Superior de Informática de la UCLM, investigador en el área de la Inteligencia Artificial Distribuida y director académico del Vicerrectorado de Transformación y Estrategia Digital de la UCLM.