🤖 El dilema ético de eliminar empleos por IA, el caso de Klarna y Dukaan

El caso Klarna es la historia reciente más nítida de cómo una scaleup global apostó todo a la inteligencia artificial en su atención al cliente… y tuvo que recular.

Lo que empezó como una promesa de eficiencia y ahorro acabó siendo una advertencia para todo founder: eliminaste fricción, pero también humanidad. En 2024, la fintech alardeó de haber sustituido a 700 agentes de atención al cliente por un asistente virtual impulsado con IA. ¿Fué un anuncio más basado en una decisión de productividad empresarial o buscando el favor de los inversores para que vieran iniciativas que impactan en el resultado de la empresa?

Déjame que te cuente un par de casos. Hay hallazgos valiosos para los que construimos tecnología.

⚡ Klarna y Dukaan: dos casos de automatización con finales diferentes

Caso 1. Klarna (Suecia): el péndulo de la IA total al modelo híbrido.

Klarna fue la fintech que en 2024 presumía de tener un asistente de IA capaz de:

• Atender 2,3 millones de conversaciones de clientes.
• Resolver casos un 82% más rápido: de 11 minutos a menos de 2.
• Equivale al trabajo de 700 agentes humanos.
• Ahorro estimado: $40 millones anuales.
• Pero en 2025, su CEO Sebastian Siemiatkowski lo reconoció: “Nos centramos demasiado en ahorrar costes. El resultado fue un servicio de calidad inferior”.

¿Consecuencia? Vuelta parcial al modelo humano:

• Lanzaron un piloto “Uber-style” de agentes humanos remotos (freelancers en zonas rurales y estudiantes).
• Mantienen la IA para primera atención, pero garantizan derivación a humanos en casos sensibles o complejos.

Caso 2. Dukaan (India): 90% menos humanos, 100% más críticas

Dukaan, plataforma India de e-commerce, reemplazó en 2023 al 90% de su equipo de atención al cliente con un chatbot llamado Lina:

• Su fundador lo vendió así:  “Mejor rendimiento. Menos costes. IA no se queja, no se cansa”.
• La opinión pública reaccionó con dureza: miles de usuarios criticaron la deshumanización. Se convirtió en un caso viral de cómo la automatización sin empatía puede dañar la marca.

¿Consecuencia? Mantuvieron la automatización:

• Dukaan no volvió a un modelo humano ni híbrido tras reemplazar al 90 % del equipo de soporte por IA en 2023.
• Tiempo de respuesta bajó de 1:44 min a casi instantáneo; resolución de problemas pasó de más de 2 horas a 3 minutos.
• Reducción de costes operativos del 85 %.
• La empresa amplió el uso de IA a otras áreas, reforzando su apuesta por la automatización.

🧠 Aprendizajes clave para empresas y emprendedores

Aquí vienen cinco aprendizajes qué nos están dejando los casos de aplicación de la IA. 

1. No sacrifiques la calidad por la automatización extrema.

Klarna redujo el tiempo de atención al cliente de 11 a 2 minutos usando IA, pero la calidad del servicio se desplomó y tuvo que recontratar personal humano.

➡️ La eficiencia no debe medirse solo en velocidad o coste, sino en la experiencia real del cliente.

2. Los clientes quieren hablar con personas de verdad.

Según Customer Experience Dive, 3 de cada 4 consumidores prefieren atención humana, y casi la mitad no confía en la información proporcionada por chatbots.

➡️ Ofrecer una vía de contacto humano (teléfono, chat o callback) mejora la experiencia y evita frustraciones.

3. IA + humanos, no IA vs. humanos.

El modelo híbrido es el más efectivo: automatiza lo rutinario, pero escala con agentes humanos en casos complejos.

➡️ Klarna, por ejemplo, ahora deriva automáticamente las consultas más sensibles a un experto humano.

4. Supervisión y transparencia: imprescindibles.

La startup Cursor se enfrentó a cancelaciones cuando su chatbot “alucinó” una política de reembolsos inexistente. Respondieron con una disculpa pública y ajustes en el sistema.

➡️ Ninguna IA debería operar sin límites ni revisión.

5. Evaluar el ROI real de la IA

Según datos recogidos por Computing UK, solo 1 de cada 4 proyectos de IA genera retorno positivo. Además, los costes ocultos de la automatización pueden incluir errores que obligan a compensaciones legales o pérdida de conocimiento interno.

➡️Ninguna IA debería operar sin límites ni revisión.A veces, mantener un equipo humano bien apoyado por IA es más rentable que sustituirlo por completo.

🤔 ¿Y el humanismo?

El hype de la IA lleva a muchos fundadores a pensar: “despido 100 personas, meto un bot y escalo sin fricción”.

Pero la realidad es más compleja: si despersonalizas demasiado, la gente lo nota. Y se va. La revolución no es IA o humanos. Es IA + humanos bien integrados. Y, a otro nivel, es tecnología al servicio de la autonomía, no del control.

En 2025, lo realmente disruptivo puede ser ofrecer humanidad en un mundo automatizado.

Y eso, amigos, empieza por decisiones tan concretas como quién atiende a tu cliente cuando algo va mal.

📚 TENDENCIAS interesantes elegidas para ti

🌎En el terreno geopolítico: 

“EEUU paga a Palantir 30 millones de dólares para construir la plataforma de vigilancia ‘ImmigrationOS’”

(Wired)

¿Por qué es interesante leerlo?

Para conocer, el que no lo conozco ya, a la empresa Palantir. Y sobre todo cómo los gobiernos están invirtiendo en prototipos destinados a proporcionar a la agencia de inmigración de los EEUU datos en “tiempo casi real” sobre personas que se auto-deportan. No es el futuro, esto está pasando ya en muchos países.

📊En el terreno empresarial: 

“NVIDIA y las fábricas de IA: la visión de Jensen Huang para una nueva revolución industrial”

(Infobae)

¿Por qué es interesante leerlo?

Para conocer la visión de los directivos de NVIDIA sobre lo que ellos llaman las “AI factories”, infraestructuras digitales que, según comentaron en el evento Computex 2025, transformarán la economía global de forma comparable a la electrificación o la llegada de internet. El texto es imperdible, pero también las imágenes.

⚖️En el terreno de legislación: 

“Detrás de los despidos en Microsoft, un auge en los esfuerzos de automatización”

(The Information)

¿Por qué es interesante leerlo?

Para saber qué hay realmente detrás del anuncio de Jeff Hulse, vicepresidente de Microsoft, que supervisa a unos 400 ingenieros de software, donde dijo que su equipo usará el chatbot de inteligencia artificial de la compañía (basado en la tecnología de Openai) para generar la mitad del código que escriben actualmente.

ℹ️ Mi segundo libro ya está a la venta

“La inteligencia artificial y tú”

ℹ️ ¿Cómo hago Buzzwords?

He utilizado la mayor cantidad de fuentes posibles, particularmente me gustan: Gartner, The Information, … Aparte utilizo inteligencia artificial generativa, como GPT-4o, para traducir y mejorar los textos.