Recientemente, leí un artículo sobre el concepto de Ilustración Digital. Se titulaba «Turning the age of AI into the ‘Digital Enlightenment» y lo firmaba Jane Livesey, Directora de Cognizant Asia Pacífico y Japón. Proponía el concepto, como digo, de Ilustración Digital, no como la técnica de dibujo asistida por ordenador, sino como un paralelo del movimiento social que devino en la Revolución Francesa y el Racionalismo Ilustrado, pero aplicado, esta vez, al contexto digital que es expresión de nuestro tiempo.
Contenidos en este post
¿Cuál es la amenaza? ¿De qué nos está hablando?
Hace pocas semanas, me ocurrió algo llamativo. En un grupo de WhatsApp que tengo con mis amigos, presentaron a uno de ellos lo que ChatGPT decía de él si le preguntabas poniendo en el prompt su nombre y apellidos. Hubo risas, asombro por lo preciso de algunos datos… pero me quedó un poso de cierta estupefacción.
¿Cómo sabe todo eso ChatGPT? ¿Y si pregunto a DeepSeek? ¿Qué me dirá Gemini?
La IA es generativa
Si pones el nombre de una persona en ChatGPT, busca. Hasta ahí es normal. Con todo lo que encuentra hace un refrito y redacta una especie de semblanza. Bueno, hasta ahí normal. Es lo mismo que podrías hacer tú, pero en mucho menos tiempo. Otra tarea asistida por IA.
Sin embargo, cabe preguntar: ¿por qué dice todo eso la IA y no otra cosa? Al ser generativa, la IA podría inventar una historia, afirmaciones, currículum, historial, etc. completamente falso, o interesadamente sesgado. De momento estamos tranquilos: no tiene ningún beneficio por hacer eso. Qui prodest. Pero si quisiera hacerlo, podría. ¿Cómo podríamos pararlo?
Nuestra reputación digital pende de un hilo con la IA.
De existir intereses políticos o económicos se amplifica la amenaza.
¿Las corporaciones o intereses detrás de una IA, pueden sesgar a voluntad la identidad online de alguien que no convenga?
La amenaza para las empresas
Habla dicho artículo de un estudio muy interesante. Interrogaron a 2200 ejecutivos de 23 países para averiguar cuáles eran sus reticencias a la hora de implantar políticas de integración de IAs Generativas en su empresa. Principalmente, las empresas aludieron dos razones:
- La falta de control sobre la seguridad de los datos
- La falta de control sobre la privacidad de los datos
Dos motivos que en realidad son uno. Claro, supongamos una empresa que cita a una asamblea a sus compromisarios. Les envía un PDF de grandes dimensiones para que lo tengan leído de cara a la reunión. Algunos de ellos introduce el PDF en ChatGPT y le pide que le haga un resumen de las líneas maestras de ese artículo. La IA realiza perfectamente esa tarea, pero nosotros podemos hacer preguntas:
- ¿Qué datos internos, sensibles y privados había en ese PDF?
- Además de la tarea solicitada vía prompt, ¿qué hace la IA con esos datos? ¿Los aprende o los olvida? ¿Se borran o forman parte de su acervo y, por tanto, de hipotéticas respuestas a otras personas relacionadas o no con la información?
¿En qué consiste eso de la Ilustración Digital?
Vivimos en una época de cambios acelerados, impulsados por la inteligencia artificial (IA) y su acumulación masiva de datos. Esta revolución tecnológica nos recuerda a la Ilustración del siglo XVIII, un período en el que la razón y el individualismo desafiaron su momento histórico. Ahora, nos enfrentamos a un desafío similar en el mundo digital: proteger nuestra autonomía y privacidad en un entorno dominado por algoritmos.
La clave para Livesey pasa por abrazar una nueva Ilustración. Deberá ser entendida como una «Ilustración Digital» que nos empodere para
- recuperar el control sobre nuestros datos y nuestra identidad online. Esto significa reconocer que, al igual que en la Ilustración, cada individuo tiene derechos inalienables: el derecho a la soberanía sobre nuestro yo digital.
- exigir leyes que nos reconozcan nuestra soberanía online respecto de nosotros mismos
Sobre la Ilustración, nos dice Wikipedia:
Las doctrinas centrales de la Ilustración eran la libertad individual, el gobierno representativo, el imperio de la ley y la libertad de culto, en contraste con la monarquía absoluta o los Estados unipartidistas y la persecución religiosa de confesiones distintas de las establecidas formalmente y a menudo controladas directamente por el Estado.
Cada uno de nosotros debe asumir el reto. Tú y yo tenemos que ser los Locke, Voltaire, Rousseau, Montesquieu, Kant, o Hume de este tiempo. Exigir a empresas y poderes políticos el control sobre nuestros datos, la decisión última sobre su utilización.
¿Cómo trasplantar esa idea de Ilustración al contexto IA?
Livesey nos da algunas líneas maestras para ella:
- Control sobre la información personal: Cada persona debe tener la capacidad de decidir cómo se recopilan, utilizan y comparten sus datos. Esto incluye la posibilidad de monetizar esa información si así lo desea.
- Privacidad centrada en el usuario: Las plataformas y servicios digitales deben ofrecer herramientas que permitan a los usuarios gestionar su privacidad de forma granular, eligiendo qué datos compartir y con quién.
- Identidades autosoberanas: La tecnología blockchain puede facilitar la creación de identidades digitales que los individuos controlen directamente, sin depender de intermediarios.
La transparencia digital como pilar fundamental:
Tenemos que gestionar la IA. No se trata de poner puertas al campo, sino de gestionar. La gobernanza de la IA debe ser transparente y responsable. Esto implica para la autora (y para mí):
- Auditorías comunitarias para evaluar el impacto de los algoritmos.
- Explicaciones claras sobre cómo funcionan los sistemas de IA.
- El uso de técnicas como el aprendizaje federado para proteger la privacidad.
¿Y esto qué tiene que ver con mi empresa?
Las empresas tienen ante sí un reto y una oportunidad. La responsabilidad de fomentar la Ilustración Digital, si queremos llamarlo así. Esto implica:
- Priorizar la privacidad del usuario en el diseño de productos y servicios.
- Ofrecer opciones claras y sencillas para que los usuarios controlen sus datos.
- Adoptar una gobernanza de la IA ética y transparente.
¿Y la oportunidad? La soberanía digital
Vamos a exigir transparencia total como consumidores. A medida que la población general vaya comprendiendo cada vez con mayor profundidad el funcionamiento y las implicaciones de la inteligencia artificial generativa, se hará más consciente de cómo esta puede afectarle. Es a partir de aquí cuando los clientes valorarán en mayor medida la privacidad, hasta el punto de que será uno de los principales factores —decisores— de compra.
Hacia un futuro digital más humano
La Ilustración Digital no es solo una cuestión de tecnología, sino también de valores. Se trata de construir un futuro en el que la tecnología sirva a la humanidad, en lugar de al revés. Al recuperar el control sobre nuestros datos y nuestra identidad digital, podemos crear un entorno online más seguro, justo, equitativo y humano.
