Uno studio rivela che l'intelligenza artificiale nel servizio clienti crea più problemi di quanti ne risolva

La promessa di un servizio clienti iperefficiente e basato sull’intelligenza artificiale si trova ad affrontare un significativo confronto con la realtà. Nonostante i forti investimenti da parte di giganti della tecnologia come Amazon e Salesforce, una nuova ricerca del luglio 2025 rivela che gli assistenti AI nei call center spesso creano più lavoro per le loro controparti umane.

Questa scoperta è rafforzata da una recente previsione di Gartner che ridimensiona le previsioni secondo cui l’intelligenza artificiale sostituirà gli agenti umani. Fallimenti di alto profilo, come un bot di supporto che inventa la politica aziendale, sottolineano il crescente divario tra il marketing della tecnologia e le sue prestazioni nel mondo reale.

Questi sistemi difettosi possono gravare sui dipendenti, danneggiare la fiducia e alienare gli stessi clienti che dovrebbero servire. La questione centrale è la disconnessione tra l’automazione promessa e la realtà della supervisione umana che è ancora essenziale.

La promessa di efficienza dell’intelligenza artificiale contro la realtà disordinata

Un recente studio accademico evidenzia questa lacuna.Ricerca accettata alla conferenza ACM CSCW 2025ha esaminato gli assistenti IA presso il call center di un’azienda cinese. I risultati sono stati crudi. L’intelligenza artificiale ha avuto difficoltà con compiti di base come trascrivere accuratamente accenti e numeri.

IMPARENTATO:A che ora chiude il Service Desk Walmart? Orario del servizio clienti

Errori specifici includevano l'interpretazione errata degli omofoni, la suddivisione dei numeri di telefono in frammenti inutili e l'incapacità di comprendere i chiamanti con forti accenti regionali. Anche il sistema di riconoscimento delle emozioni dell’intelligenza artificiale si è rivelato inaffidabile, spesso classificando erroneamente il parlato normale come negativo.

Ciò ha costretto gli agenti umani a ricoprire un nuovo ruolo: costanti verificatori dei fatti. Hanno dovuto correggere manualmente i riepiloghi imprecisi ed eliminare il testo ridondante. Gli autori dello studio hanno notato che ciò ha creato nuovi oneri di “apprendimento” e “conformità” per i rappresentanti del servizio clienti (CSR).

I ricercatori hanno concluso che “la discrepanza tra le aspettative tecnologiche e l’effettiva implementazione riflette una svista comune tra i progettisti tecnologici, che sopravvalutano i guadagni di efficienza sottovalutando gli oneri di apprendimento impliciti derivanti dall’adattamento ai nuovi sistemi”. Questo lavoro nascosto contraddice direttamente i miglioramenti in termini di efficienza che spesso sono la giustificazione principale per l’adozione di sistemi di intelligenza artificiale così costosi.

Quando i robot buoni diventano cattivi: l'alto costo delle allucinazioni

I rischi si estendono oltre l’inefficienza e fino al danno al marchio. Nell’aprile 2025, la società di editor di codici AI Cursor lo ha sperimentato in prima persona quando il suo stesso bot di supporto ha “allucinato” una politica falsa. Il bot comunicava erroneamente agli utenti che i loro abbonamenti erano limitati a un singolo dispositivo.

Le false informazioni si sono diffuse rapidamente, provocando una reazione negativa da parte degli utenti. Il co-fondatore di Cursor Michael Truell ha dovuto rilasciare unscuse pubbliche su piattaforme come Hacker News, confermando: “Non abbiamo una politica del genere”. Ha attribuito l'errore al loro "bot di supporto AI in prima linea".

A peggiorare il problema, un vero e proprio bug tecnico relativo alla sicurezza della sessione causava problemi di accesso separati, creando una tempesta perfetta di frustrazione per gli utenti. Le risposte sicure ma false del bot non hanno fatto altro che amplificare il caos.

L'incidente serve come ammonimento. Etichettare semplicemente le risposte dell’intelligenza artificiale non è sufficiente per far sapere agli utenti che una risposta è stata generata dall’intelligenza artificiale: è una misura inadeguata per recuperare la fedeltà degli utenti.

Dalla sostituzione al rafforzamento: un consenso in evoluzione nel settore

Questa combinazione di risultati accademici e fallimenti pubblici sta alimentando un cambiamento più ampio nel modo di pensare del settore. Nel giugno 2025, la società di analisi Gartner ha realizzato unrevisione significativa di una previsione precedente. Si prevede ora che entro il 2027, la metà di tutte le organizzazioni che prevedevano di sostituire il personale di supporto con l’intelligenza artificiale abbandoneranno tali piani.

Il nuovo consenso punta verso un modello ibrido. Kathy Ross, analista senior di Gartner, sostiene che “un approccio ibrido, in cui l’intelligenza artificiale e gli agenti umani lavorano in tandem, è la strategia più efficace per offrire ai clienti esperienze eccezionali”. Questo approccio sfrutta l’intelligenza artificiale per ciò che fa bene, ovvero il recupero dei dati e le attività di routine, preservando al contempo l’elemento umano essenziale per interazioni complesse o sensibili.

Questo perno riconosce che la visione iniziale di un servizio clienti completamente autonomo e senza intervento umano era prematura. L’attenzione è ora rivolta alla creazione di strumenti che potenziano gli agenti umani, rendendoli più efficaci invece di renderli obsoleti.

La spinta incessante di Big Tech verso gli agenti IA

Nonostante queste sfide, le principali aziende tecnologiche non stanno rallentando. Continuano a commercializzare e sviluppare sofisticate piattaforme di agenti IA, inquadrandole come il futuro del lavoro digitale. Salesforce è stata particolarmente aggressiva con la sua piattaforma Agentforce.

Nel maggio 2025, la società ha lanciato Agentforce for HR Service, progettato per automatizzare il supporto interno dei dipendenti. Ciò ha fatto seguito alla disponibilità generale della piattaforma principale Agentforce alla fine del 2024.

Kishan Chetan di Salesforce, EVP e GM di Service Cloud, ha affermato: "Salesforce sta guidando questa rivoluzione del lavoro digitale in tutti i settori e ora stiamo portando le competenze e le azioni di Agentforce al servizio HR in modo che le aziende possano accelerare le richieste e ampliare il supporto dei dipendenti quando le risorse sono limitate." L'azienda vanta addirittura un tasso di risoluzione self-service del 96% grazie alla propria implementazione interna, posizionandosi come utente primario della propria tecnologia.

Anche Amazon è un attore chiave, avendo migliorato la sua piattaforma Amazon Connect con nuove funzionalità di intelligenza artificiale generativa. Nel frattempo, anche startup ben finanziate come Decagon, che ha raccolto 35 milioni di dollari nel giugno 2024, sono in lizza per una fetta del mercato in crescita. Il conflitto centrale rimane irrisolto: un mercato pieno di investimenti e ambizioni, ma una tecnologia ancora alle prese con l’affidabilità fondamentale.