Il Garante Privacy dice basta al monitoraggio emotivo dei dipendenti, anche se fatto con l’IA

C’è una start-up italiana, Myndoor, che ha sviluppato un plug-in per Slack e Teams capace di leggere lo stato emotivo dei dipendenti analizzando il linguaggio delle loro chat aziendali. Un’idea nata con buone intenzioni: intercettare per tempo segnali di stress, offrire supporto, migliorare il benessere in azienda. Il Garante per la protezione dei dati personali, con un provvedimento del 14 maggio scorso, non ha bocciato il progetto ma ha acceso un faro che ogni azienda che lavora con l’IA sulle risorse umane dovrebbe guardare con attenzione.

Il punto debole: i report aggregati

Il sistema, nella sua versione base, è già piuttosto cauto: i dipendenti attivano il servizio su base volontaria, e l’azienda non può leggere i messaggi né conoscere i risultati individuali. Il problema, secondo il Garante, nasce quando questi dati vengono trasformati in report aggregati sul livello di stress del team, generati solo con almeno dieci utenti attivi, quindi teoricamente anonimi. Ma “teoricamente” è la parola chiave: in un ufficio piccolo, o in un reparto con pochi dipendenti, risalire a chi sta peggio può diventare più facile di quanto sembri.

Un principio che va oltre il singolo caso

Il provvedimento richiama un principio netto, che affonda le radici in più fonti normative insieme – GDPR, Statuto dei lavoratori, e ora anche l’AI Act europeo: il datore di lavoro non può raccogliere né trattare informazioni sullo stato emotivo o sul livello di stress dei propri dipendenti. L’AI Act, in particolare, vieta esplicitamente i sistemi di intelligenza artificiale pensati per inferire le emozioni delle persone sul posto di lavoro. Non è un dettaglio tecnico: è un limite pensato per proteggere la libertà psicologica delle persone all’interno del rapporto di lavoro.

Il vero nodo è la spiegabilità degli algoritmi

C’è poi un secondo livello di attenzione, forse ancora più interessante per chi si occupa di HR e organizzazione. Il Garante ricorda che i sistemi di IA basati su analisi del linguaggio non si limitano a raccogliere dati: producono inferenze, cioè deduzioni su aspetti delicati della persona, spesso senza che sia possibile ricostruire con chiarezza come l’algoritmo sia arrivato a quella conclusione. È qui che si annidano i rischi più seri, errori di valutazione, bias amplificati, possibili discriminazioni, ed è per questo che l’Autorità chiede trasparenza, qualità dei dati e un controllo umano reale su questi processi, non solo formale.

Cosa significa, concretamente, per le aziende

Il messaggio di fondo è semplice da riassumere, meno semplice da mettere in pratica: migliorare il benessere organizzativo resta un obiettivo legittimo, ma non può trasformarsi in una forma di sorveglianza, per quanto ben intenzionata. Ogni azienda che sta valutando strumenti di IA per il monitoraggio del clima interno o della produttività dovrebbe farsi, fin dalla fase di progettazione, una domanda semplice: questo sistema mi dice come lavorano le persone, o rischia di dirmi come si sentono? La differenza, per il Garante, non è sottile ed è quella che separa uno strumento di supporto da uno strumento di controllo.