L’Artificial Intelligence Act è entrato in vigore e non è più solo un tema per i giuristi: nei prossimi 18–24 mesi impatterà direttamente anche su progetti CRM, analytics e AI applicata al ciclo cliente.
Il regolamento si applicherà in modo progressivo:
- divieti, definizioni e norme su AI literacy e governance entrano in applicazione tra il 2025 e il 2026
- obblighi su sistemi ad alto rischio e requisiti di trasparenza (es. sistemi che interagiscono con persone o generano contenuti) scatteranno dal 2 agosto 2026le regole per i modelli di AI di uso generale (GPAI) – quelli alla base di molti copilot e funzioni generative integrate nei CRM – hanno iniziato ad applicarsi ad agosto 2025.
In questo scenario, continuare a introdurre AI in azienda solo con proof-of-concept isolati o “feature” attivate a caso rischia di creare più problemi che benefici. È il momento di passare a progetti CRM/AI by design, progettati fin dall’inizio tenendo conto di compliance, governance e tracciabilità.
Ti interessa l’argomento?
Leggi anche questo articolo di blog!
Come l’AI Act impatta CRM, analytics e customer experience
Molte funzionalità ormai comuni nei CRM cloud e nelle piattaforme di analytics rientrano nel perimetro dell’AI Act:
- modelli di scoring per lead, clienti e rischio (propensione all’acquisto, churn, priorità di contatto);
- copilot e assistenti AI integrati in Dynamics 365, Salesforce, piattaforme di service e marketing;
- chatbot e virtual agent che dialogano con clienti e prospect;
- sistemi di raccomandazione di azioni successive (next best action) o contenuti.
A seconda del contesto d’uso, alcuni di questi casi potrebbero rientrare tra i sistemi “ad alto rischio” (es. valutazioni che incidono su accesso al credito, lavoro, formazione), altri saranno soggetti almeno agli obblighi di trasparenza, logging e documentazione previsti dal regolamento.
Per i responsabili CRM, marketing, vendite e IT questo significa che la domanda non è più “attiviamo il copilot sì o no?”, ma: “In che modo i nostri algoritmi influenzano decisioni su clienti e persone, e con quali garanzie di trasparenza, controllo umano e non discriminazione?”
Principi di AI-by-design per i progetti CRM
Un progetto CRM/AI allineato all’AI Act dovrebbe incorporare alcuni principi fin dalla fase di disegno:
- Data governance strutturata
- mappatura delle sorgenti dati (CRM, ERP, e-commerce, ticketing);
- classificazione dei dati personali, pseudonimizzati e dei log;
- policy di qualità, minimizzazione e retention coerenti con GDPR e AI Act.
- Trasparenza e documentazione degli algoritmi
- descrizione chiara dello scopo del modello, delle feature utilizzate e delle logiche di scoring;
- possibilità di spiegare l’impatto del modello su decisioni che riguardano clienti o utenti interni;
- informative adeguate a chi interagisce con chatbot o contenuti generati da AI.
- Logging e tracciabilità
- registrazione delle versioni dei modelli, dei dati di training e dei principali output;
- log applicativi che consentano di risalire alle decisioni automatizzate in caso di audit o contestazioni
- Human-in-the-loop e controlli di coerenza
- definizione di soglie e scenari in cui è obbligatorio l’intervento umano;
- meccanismi di monitoraggio delle performance del modello (bias, drift, errori sistematici).
- AI literacy del personale
- formazione specifica per ruoli business e IT su limiti, rischi e corretto utilizzo degli strumenti AI, come richiesto dall’AI Act.
L’AI Act non va letto solo come un vincolo normativo, ma come l’occasione per industrializzare l’uso di AI in CRM e analytics: meno sperimentazioni isolate, più progetti progettati “by design”, con basi dati solide, modelli spiegabili e governance chiara.
