Elon Musk contestó con una carcajada a una imagen de sí mismo en bikini generada por Grok. Lo malo es que a cientos de miles de personas, principalmente mujeres pero también menores, no les hizo ninguna gracia que se usase la IA de twitter de manera masiva y global para degradarlas.
Más de 3 millones de imágenes deepfake sin consentimiento en apenas 9 días, según la investigación del Center for Countering Digital Hate.
Este escándalo de enero de 2026 ejemplifica dos cosas.
La gestión de la ética
Primero, cómo ciertas empresas gestionan su ética. Tras las risas de Musk, los responsables de seguridad de la plataforma se excusaron diciendo que la responsabilidad de cómo se usa Grok es de la gente que usa Grok.
Luego, los responsables de negocio anunciaron que sólo aquellos que pagaban la suscripción de twitter, por tanto, identificados, podrían hacer imágenes degradantes (se acepta cosificar a la mujer, sólo si X.com obtiene ingresos).
Finalmente, los responsables de tecnología reconocieron que era posible limitar que Grok generase imágenes degradantes, y que se implementaría. Sabiendo que el sistema se lanzó en noviembre de 2023, ¿por qué no lo hicieron desde el principio?
La neutralidad de la tecnología
La segunda idea del caso ilustra uno de los mitos más comunes de los negocios digitales, la supuesta neutralidad de la tecnología. Spoiler: no lo es. Decir que “la tecnología no es buena ni mala, depende de cómo se use” es una visión ingenua, acrítica y descontextualizada, que exonera a desarrolladores, innovadores y emprendedores de las implicaciones, impactos y efectos asociados al desarrollo tecnológico.
Traslada la decisión moral al agente que actúa, y que, por tanto, decide y asume consecuencias, convirtiendo la tecnología en algo pasivo. Ubica la moralidad en una sola causa, el uso, y al hacerlo, enmascara a otros agentes morales como quienes la piensan, diseñan, implementan o comercializan.
La concepción de cualquier innovación tecnológica nace de la intención de transformar la realidad a partir del conocimiento del mundo. Durante el proceso de su creación aparece la intencionalidad en forma de decisiones y prioridades, lo que se elige medir y lo que se ignora, la forma de clasificar personas y contextos, etc.
Todo ello a lo largo de una cadena de decisión en la que aparecen todo tipo de actores: emprendedores, inversores, investigadores, product owners, diseñadores, desarrolladores, etc. En cada paso, desde el nacimiento de una idea hasta que llega al mercado y se hace accesible a un cliente / usuario, hay personas cuyas decisiones amplían o reducen la dignidad del ser humano.
La pregunta entonces es ¿cómo incorporar el respeto por la dignidad al proceso de innovación?
El Lienzo de la Innovación Centrada en la Dignidad
Publicado como una extensión del Business Model Canvas en 2014, el Value Proposition Canvas (VPC) de Alexander Osterwalder es un extraordinario artefacto para lograr, en fase de diseño, el encaje entre un producto y su mercado. No hay proceso de innovación en el que no se use, ni escuela de negocio en la que no se enseñe.
El VPC nace del Human Centered Design, que propusiera Don Norman y popularizase Tim Brown desde IDEO como parte del modelo Design Thinking, y se combina con los procesos de investigación de mercados y diseño de modelos de negocio. Es una herramienta visual que trabaja por pares los jobs, pains y gains del usuario, y los pain relievers, gain creators y products and services de un modelo de negocio.
Reconociendo que la metodología nace desde la persona, lo cierto es que la aborda de manera instrumental. Se describe al cliente desde lo que quiere conseguir, sus frustraciones, lo que le duele o le preocupa, etc., y se articula de manera reduccionista. Si algo le duele, se le ofrece un analgésico; si le gusta, una vitamina; si le resulta difícil, se simplifica; y así sucesivamente.
La perspectiva es utilitarista, porque lo que subyace es la capacidad de negociar, de hacer un trade off entre lo que alguien quiere o le molesta, y lo que está dispuesto a hacer o pagar para conseguirlo. Además, las categorías existentes se trabajan como una agregación de enunciados sobre la persona, obtenidos de manera científica con investigación cualitativa o cuantitativa, que luego priorizan y comparan contra la oferta de productos y servicios.
Incluir la dignidad de la persona en el VPC de Grok, por ejemplo, supone escribir explícitamente como pain que las mujeres no quieren ser objeto de humillación pública, o que los autores no quieren que se robe su propiedad intelectual. ¿Y si no se escribe? Pues sale Grok. ¿Y si se escribe pero se ignora? Aléjate de ahí.
La propuesta de valor
Por eso se propone una nueva aproximación a la propuesta de valor, que considera explícitamente las condiciones de dignidad de la persona para la que se diseña, lo que hará inevitable ese tipo de conversación en el proceso.
El Lienzo de la Innovación Centrada en la Dignidad está formado por dos secciones, que se trabajan igualmente por pares:
• Aspiraciones de la persona, aquello que espera conseguir, y los Resultados que logrará gracias al producto o servicio que se diseña.
• Motivaciones de la persona, por qué espera conseguirlo, y los Propósitos del sistema, aquellos principios de diseño que le ayudarán a canalizarlas.
• Barreras que impiden a la persona lograr sus aspiraciones, y las Experiencias que el sistema ofrece para eliminarlas.
Y añade dos cuadrantes que explicitan la dignidad: las Condiciones de Dignidad de la persona, y cómo el sistema las Habilita.
Recorriendo el Lienzo de Innovación Centrada en la Dignidad
A la hora de trabajar soluciones con este nuevo lienzo, hay que prestar atención a los nuevos cuadrantes. Las Condiciones de Dignidad son aspectos que aparecen en la relación de la persona y el producto o servicio. No son preferencias, son “condiciones” por ser innegociables.
Condiciones de Dignidad
Su ausencia invalida una relación, así que no se considera una preferencia, que es deseable, pero puede negociarse o sustituirse. Como sugerencia para identificar condiciones de dignidad, se pueden considerar las siguientes categorías postconvencionales:
- Autonomía. Capacidad de tomar decisiones informadas y libres de manipulación.
- Reconocimiento. Ser visto y tratado como interlocutor de pleno derecho, con identidad propia y no medio para un fin.
- Equidad. Simetría real ante el sistema, de modo que el origen, la condición o la situación de la persona no determinen un trato inferior o una exclusión.
- Privacidad. Derecho a controlar qué información se comparte, qué infiere el sistema sobre ella y en qué condiciones puede acceder un tercero.
- Voz. Capacidad efectiva de expresión, disensión y reclamación, y el derecho a obtener respuestas.
- Integridad. Protección de la persona frente a cualquier forma de daño, degradación o instrumentalización de su cuerpo, su intimidad o su imagen.
Habilitadores de Dignidad
En el lado del valor, aparecen los Habilitadores de Dignidad. Son las características del producto, servicio o proceso que protegen y potencian activamente las Condiciones de Dignidad que se han enunciado. Sugerencias para definir Habilitadores de Dignidad pueden ser las siguientes:
- Transparencia, habilita Autonomía. Sin información veraz sobre cómo funciona el sistema, no hay decisión libre.
- Singularidad, habilita Reconocimiento. Representa el compromiso de tratar a cada persona como única e irreducible.
- Imparcialidad, habilita Equidad. Demostrable cuando el sistema aplica el mismo estándar con independencia de la condición, el origen o la situación de la persona.
- Consentimiento, habilita Privacidad. Significa que la persona decide qué se usa, para qué y por quién, de forma informada y además revocable, es decir, revisable durante su ciclo de uso en el sistema.
- Interpelación, habilita Voz. Cuando el sistema reclama la voz del usuario, reconoce su derecho a dirigirse a la empresa, y a que ese acto tenga consecuencias reales.
- Cuidado, habilita Integridad. En forma de salvaguardas que previenen el daño por acción u omisión al usuario, reconociendo su vulnerabilidad.
Este nuevo Lienzo se convierte en una herramienta que, partiendo de la premisa de la dignidad inalienable del ser humano, permite a los equipos de diseño de modelos de negocio, productos y servicios digitales verificar “si el poder de las infraestructuras digitales y de los algoritmos favorece realmente la participación y la responsabilidad, protege a los más vulnerables, asegura un acceso equitativo a las oportunidades y se ordena al bien de todos” (León XVI).
Una reflexión final
En el lado de la persona, la dignidad ocupa el centro, como origen desde el que irradian Aspiraciones, Motivaciones y Barreras.
En la parte del producto o servicio, la dignidad de la persona está en el marco superior, apareciendo sobre del resto de consideraciones de la empresa.
El encaje ocurre porque el mismo principio aparece en ambos cuadrantes, la dignidad de la persona como origen y como horizonte.
A continuación, puedes leer la versión extendida del ‘Lienzo para diseñar un nuevo futuro’, realizado por Carlos L Guardiola, CEO de TecnoFor.
Y también puedes descargarte el lienzo.
Las preguntas del consultor
Las preguntas pueden ayudarte a descubrir si estás pensando activamente en la dignidad de tus clientes, usuarios o consumidores:
- ¿Hasta qué punto las decisiones que toman las personas que usan tu servicio son propiamente suyas frente a si son guiadas por el sistema?
- Las personas que se salen de los arquetipos que has considerado, ¿se consideran errores, casos extremos o se normalizan con el resto?
- ¿Has contemplado que tus usuarios puedan tener diferentes contextos cognitivos o de accesibilidad?
- Cuando una persona te da el consentimiento para que trates sus datos, ¿es realmente consciente de a qué se compromete? ¿Tiene opciones reales de no hacerlo?
- ¿Qué opciones reales tiene un cliente para reclamar y que su queja se resuelva de manera satisfactoria desde su punto de vista?
- ¿Utilizas debilidades cognitivas, emocionales o anímicas de tus clientes para lograr tus objetivos económicos?
- ¿Crees que hay que elegir entre generar valor y respetar a la persona? Si es que sí, habla conmigo en carlos.guardiola+dignidad@tecnofor.es
