AI Act: cosa significa per le aziende che usano chatbot e agenti vocali
25 ottobre 2026 · 6 min di lettura · Dennis BorsosSe hai un chatbot sul sito, un assistente su WhatsApp o un agente vocale che risponde al telefono, probabilmente hai sentito parlare dell'AI Act e ti sei chiesto se ti riguarda. La risposta breve: sì, ma per la maggior parte delle piccole imprese gli obblighi sono chiari e facili da rispettare, se il sistema è costruito bene fin dall'inizio.
In questo articolo trovi cos'è l'AI Act, quali date contano, cosa deve fare un'azienda che usa chatbot e agenti vocali e una checklist pratica. Non è consulenza legale. Per situazioni particolari, parlane con un avvocato specializzato.
Cos'è l'AI Act, in breve
L'AI Act è il Regolamento (UE) 2024/1689, il primo insieme completo di regole sull'intelligenza artificiale a livello di Unione Europea. Essendo un regolamento, si applica direttamente in tutti gli Stati membri, Romania compresa, senza bisogno di una legge nazionale di recepimento.
La sua logica si basa sul rischio. Più un sistema AI può incidere gravemente sui diritti o sulla sicurezza delle persone, più le regole sono severe:
- Pratiche vietate: ad esempio la manipolazione che può causare un danno significativo, lo sfruttamento delle vulnerabilità legate all'età, alla disabilità o alla situazione sociale o economica, il social scoring o il riconoscimento delle emozioni sul luogo di lavoro e nell'istruzione (con eccezioni mediche o di sicurezza).
- Sistemi ad alto rischio: quelli usati, ad esempio, nella selezione del personale e nelle risorse umane, nell'istruzione o in certe decisioni importanti sulle persone. Hanno requisiti severi di documentazione, supervisione umana e valutazione.
- Obblighi di trasparenza: qui rientrano i chatbot e gli agenti vocali che parlano con le persone, oltre ai contenuti generati o manipolati artificialmente.
- Il resto: molti usi comuni hanno solo obblighi generali, come l'alfabetizzazione in materia di AI.
Il calendario: cosa si applica e da quando
L'AI Act non è entrato in applicazione tutto in una volta. Secondo la Commissione Europea, le date principali sono:
| Data | Cosa si applica |
|---|---|
| 1 agosto 2024 | Entrata in vigore del regolamento |
| 2 febbraio 2025 | Pratiche vietate e obblighi di alfabetizzazione AI |
| 2 agosto 2025 | Regole per i modelli AI per finalità generali e governance |
| 2 agosto 2026 | Applicazione generale, compresi gli obblighi di trasparenza, con alcune eccezioni |
| 2 dicembre 2027 | Regole per i sistemi ad alto rischio dell'Allegato III (ad esempio assunzioni, istruzione) |
| 2 agosto 2028 | Regole per i sistemi ad alto rischio integrati nei prodotti dell'Allegato I |
Le scadenze per i sistemi ad alto rischio sono state rinviate con il pacchetto di semplificazione chiamato “AI Omnibus”, che secondo la Commissione è entrato in vigore il 27 luglio 2026. Gli obblighi di trasparenza, quelli che contano di più per chatbot e agenti vocali, non sono stati spostati: si applicano dal 2 agosto 2026. In altre parole, se usi già un bot, le regole valgono adesso.
Cosa significa per chatbot e agenti vocali
1. La persona deve sapere che sta parlando con un'AI
L'Articolo 50 dell'AI Act richiede che i sistemi AI che interagiscono direttamente con le persone siano progettati in modo che queste vengano informate di interagire con un sistema AI. L'eccezione è il caso in cui ciò sia evidente per una persona ragionevolmente informata e attenta. L'informazione deve essere chiara e arrivare al più tardi alla prima interazione.
In pratica, non contare sull'eccezione. Un agente vocale dalla voce naturale non è “evidentemente” un'AI. Concretamente:
- Agente vocale: nei primi secondi della chiamata, una frase semplice come “Buongiorno, sono l'assistente virtuale dell'azienda X. Posso aiutarla con appuntamenti e informazioni.”
- Chatbot sul sito o su WhatsApp: il primo messaggio dice che si tratta di un assistente virtuale, e il nome e l'avatar non fanno pensare a una persona reale.
- Passaggio a un operatore: quando la conversazione passa a un collega, dillo chiaramente.
2. Attenzione alle voci e alle immagini che imitano persone reali
Sempre l'Articolo 50 richiede che chi usa l'AI per generare o manipolare immagini, audio o video di tipo deepfake dichiari che quel contenuto è generato artificialmente. Se vuoi che l'agente vocale usi la voce clonata di un dipendente o del titolare, parlane prima con un legale e, in ogni caso, informa chiaramente chi ascolta. La soluzione più sicura per un agente di assistenza clienti è una voce sintetica che non imita una persona specifica.
3. Niente manipolazione
Un bot di vendita può consigliare prodotti, fare upsell e insistere con garbo. Quello che non può fare è usare tecniche manipolative o ingannevoli che distorcono la decisione della persona e possono causarle un danno significativo, né sfruttare vulnerabilità come l'età o una situazione economica difficile. Questa è una pratica vietata, con le sanzioni più alte del regolamento.
4. Le persone del team devono sapere cosa stanno usando
L'Articolo 4 sull'alfabetizzazione in materia di AI si applica da febbraio 2025 ed è stato riformulato con l'AI Omnibus. L'idea di fondo resta: le aziende che usano sistemi AI fanno in modo che chi ci lavora capisca cosa fanno, dove sbagliano e quando bisogna intervenire. Per una piccola impresa significa una formazione breve, documentata, per chi supervisiona il bot.
Il tuo chatbot è un sistema ad alto rischio?
In generale, un chatbot o un agente vocale che risponde alle domande, prende ordini e fissa appuntamenti non rientra nella categoria ad alto rischio. La situazione cambia se il sistema prende o influenza in modo decisivo decisioni importanti sulle persone, ad esempio:
- filtra candidati per un'assunzione o valuta dipendenti;
- decide l'accesso all'istruzione o valuta studenti;
- è usato in altri ambiti elencati nell'Allegato III del regolamento.
Se il tuo bot fa una di queste cose, chiedi un'analisi legale dedicata. Per questi sistemi la scadenza è ora il 2 dicembre 2027, ma la preparazione richiede tempo.
Cosa rischi se non rispetti le regole
Per la violazione degli obblighi di trasparenza dell'Articolo 50, l'AI Act prevede sanzioni fino a 15 milioni di euro o al 3% del fatturato annuo mondiale. Per le pratiche vietate, il tetto è di 35 milioni di euro o del 7%. Per le PMI, il regolamento prevede che si applichi il valore più basso tra i due. Sono tetti massimi, non sanzioni automatiche, ma mostrano quanto seriamente venga trattato il tema.
Più importante della sanzione è la fiducia. Un cliente che scopre di aver parlato dieci minuti con un robot credendo che fosse una persona non torna più.
Checklist per la tua azienda
- Fai un elenco di tutti i sistemi AI che usi: chatbot sul sito, WhatsApp, agente vocale, automazioni con AI, strumenti interni.
- Controlla il messaggio di apertura di ogni bot. Dice chiaramente che è un assistente AI?
- Controlla voce e avatar. Imitano una persona reale? Se sì, hai il suo consenso e informi chiaramente chi ascolta?
- Rivedi le istruzioni del bot. C'è qualcosa che potrebbe spingerlo verso pressioni o inganni?
- Verifica se qualche sistema prende decisioni sulle persone (assunzioni, valutazioni, accesso a servizi essenziali).
- Forma il team che supervisiona il bot e tieni una breve traccia della formazione.
- Garantisci una strada verso una persona: il cliente può chiedere in qualsiasi momento di parlare con qualcuno del team.
- Collega tutto al GDPR: l'AI Act non sostituisce le regole sulla protezione dei dati, si aggiunge a esse.
Come costruiamo gli agenti tenendo conto dell'AI Act
Gli agenti che costruiamo girano su Claude, il modello di Anthropic, e i dati sono archiviati su Supabase, su server nell'UE. Ogni agente vocale o chatbot su WhatsApp si presenta come assistente virtuale fin dalla prima frase, ha istruzioni chiare su cosa può fare e passa la conversazione a una persona quando serve. Trovi di più su come trattiamo i dati nella pagina sulla sicurezza dei dati.
Un esempio concreto: una catena di pasticcerie di Sibiu usa un agente vocale che recupera circa 20 chiamate al giorno, che prima erano ordini persi. I clienti sanno dal primo secondo che parlano con un assistente virtuale, e questo non ha impedito loro di ordinare.
In sintesi
Per un'azienda che usa chatbot e agenti vocali, l'AI Act significa prima di tutto trasparenza: le persone devono sapere che parlano con un'AI, senza manipolazione e senza voci che imitano di nascosto persone reali. Aggiungi una breve formazione del team e una verifica che il bot non prenda decisioni importanti sulle persone, e hai coperto l'essenziale.
Se vuoi verificare insieme a noi com'è messo il tuo bot o costruirne uno conforme fin dall'inizio, prenota una consulenza gratuita di 30 minuti.
Domande frequenti
Da quando i chatbot devono dire di essere un'AI?
Gli obblighi di trasparenza dell'Articolo 50 dell'AI Act si applicano dal 2 agosto 2026. Non sono stati rinviati con l'AI Omnibus, a differenza di alcune regole per i sistemi ad alto rischio. Questo significa che ogni chatbot o agente vocale che parla con le persone deve informarle chiaramente, al più tardi alla prima interazione, che stanno parlando con un sistema AI.
L'AI Act si applica anche alle piccole imprese in Romania?
Sì. L'AI Act è un regolamento europeo e si applica direttamente in Romania, indipendentemente dalle dimensioni dell'azienda. Per le PMI, le sanzioni hanno come tetto il valore più basso tra l'importo fisso e la percentuale del fatturato. Per la maggior parte delle aziende che usano chatbot comuni, gli obblighi principali sono la trasparenza e la formazione del team.
Un agente vocale per gli appuntamenti è un sistema ad alto rischio?
In generale, no. Un agente che risponde alle domande, prende ordini o fissa appuntamenti di norma non rientra nelle categorie ad alto rischio dell'Allegato III. La situazione cambia se il sistema prende o influenza in modo decisivo decisioni sulle persone, ad esempio nella selezione del personale o nell'istruzione. In questi casi, chiedi un'analisi legale dedicata.
Quali sanzioni prevede l'AI Act per la mancanza di trasparenza?
Per la violazione degli obblighi di trasparenza dell'Articolo 50, il tetto è fino a 15 milioni di euro o al 3% del fatturato annuo mondiale. Per le PMI si applica il valore più basso tra i due. Le pratiche vietate hanno un tetto più alto, di 35 milioni di euro o del 7%.
L'AI Act sostituisce il GDPR per i chatbot?
No. L'AI Act si aggiunge al GDPR, non lo sostituisce. Se il tuo bot tratta dati personali, come nome, telefono o dettagli di un ordine, restano validi tutti gli obblighi del GDPR: base giuridica, informativa alle persone, contratti con i fornitori e sicurezza dei dati. Le due normative vanno gestite insieme.
Articoli correlati
Preferisci parlarne direttamente?
Ti rispondiamo in giornata. Scegli il modo che preferisci.
AI Act: cosa significa per le aziende che usano chatbot e agenti vocali
25 ottobre 2026 · 6 min di lettura · Dennis BorsosSe hai un chatbot sul sito, un assistente su WhatsApp o un agente vocale che risponde al telefono, probabilmente hai sentito parlare dell'AI Act e ti sei chiesto se ti riguarda. La risposta breve: sì, ma per la maggior parte delle piccole imprese gli obblighi sono chiari e facili da rispettare, se il sistema è costruito bene fin dall'inizio.
In questo articolo trovi cos'è l'AI Act, quali date contano, cosa deve fare un'azienda che usa chatbot e agenti vocali e una checklist pratica. Non è consulenza legale. Per situazioni particolari, parlane con un avvocato specializzato.
Cos'è l'AI Act, in breve
L'AI Act è il Regolamento (UE) 2024/1689, il primo insieme completo di regole sull'intelligenza artificiale a livello di Unione Europea. Essendo un regolamento, si applica direttamente in tutti gli Stati membri, Romania compresa, senza bisogno di una legge nazionale di recepimento.
La sua logica si basa sul rischio. Più un sistema AI può incidere gravemente sui diritti o sulla sicurezza delle persone, più le regole sono severe:
- Pratiche vietate: ad esempio la manipolazione che può causare un danno significativo, lo sfruttamento delle vulnerabilità legate all'età, alla disabilità o alla situazione sociale o economica, il social scoring o il riconoscimento delle emozioni sul luogo di lavoro e nell'istruzione (con eccezioni mediche o di sicurezza).
- Sistemi ad alto rischio: quelli usati, ad esempio, nella selezione del personale e nelle risorse umane, nell'istruzione o in certe decisioni importanti sulle persone. Hanno requisiti severi di documentazione, supervisione umana e valutazione.
- Obblighi di trasparenza: qui rientrano i chatbot e gli agenti vocali che parlano con le persone, oltre ai contenuti generati o manipolati artificialmente.
- Il resto: molti usi comuni hanno solo obblighi generali, come l'alfabetizzazione in materia di AI.
Il calendario: cosa si applica e da quando
L'AI Act non è entrato in applicazione tutto in una volta. Secondo la Commissione Europea, le date principali sono:
| Data | Cosa si applica |
|---|---|
| 1 agosto 2024 | Entrata in vigore del regolamento |
| 2 febbraio 2025 | Pratiche vietate e obblighi di alfabetizzazione AI |
| 2 agosto 2025 | Regole per i modelli AI per finalità generali e governance |
| 2 agosto 2026 | Applicazione generale, compresi gli obblighi di trasparenza, con alcune eccezioni |
| 2 dicembre 2027 | Regole per i sistemi ad alto rischio dell'Allegato III (ad esempio assunzioni, istruzione) |
| 2 agosto 2028 | Regole per i sistemi ad alto rischio integrati nei prodotti dell'Allegato I |
Le scadenze per i sistemi ad alto rischio sono state rinviate con il pacchetto di semplificazione chiamato “AI Omnibus”, che secondo la Commissione è entrato in vigore il 27 luglio 2026. Gli obblighi di trasparenza, quelli che contano di più per chatbot e agenti vocali, non sono stati spostati: si applicano dal 2 agosto 2026. In altre parole, se usi già un bot, le regole valgono adesso.
Cosa significa per chatbot e agenti vocali
1. La persona deve sapere che sta parlando con un'AI
L'Articolo 50 dell'AI Act richiede che i sistemi AI che interagiscono direttamente con le persone siano progettati in modo che queste vengano informate di interagire con un sistema AI. L'eccezione è il caso in cui ciò sia evidente per una persona ragionevolmente informata e attenta. L'informazione deve essere chiara e arrivare al più tardi alla prima interazione.
In pratica, non contare sull'eccezione. Un agente vocale dalla voce naturale non è “evidentemente” un'AI. Concretamente:
- Agente vocale: nei primi secondi della chiamata, una frase semplice come “Buongiorno, sono l'assistente virtuale dell'azienda X. Posso aiutarla con appuntamenti e informazioni.”
- Chatbot sul sito o su WhatsApp: il primo messaggio dice che si tratta di un assistente virtuale, e il nome e l'avatar non fanno pensare a una persona reale.
- Passaggio a un operatore: quando la conversazione passa a un collega, dillo chiaramente.
2. Attenzione alle voci e alle immagini che imitano persone reali
Sempre l'Articolo 50 richiede che chi usa l'AI per generare o manipolare immagini, audio o video di tipo deepfake dichiari che quel contenuto è generato artificialmente. Se vuoi che l'agente vocale usi la voce clonata di un dipendente o del titolare, parlane prima con un legale e, in ogni caso, informa chiaramente chi ascolta. La soluzione più sicura per un agente di assistenza clienti è una voce sintetica che non imita una persona specifica.
3. Niente manipolazione
Un bot di vendita può consigliare prodotti, fare upsell e insistere con garbo. Quello che non può fare è usare tecniche manipolative o ingannevoli che distorcono la decisione della persona e possono causarle un danno significativo, né sfruttare vulnerabilità come l'età o una situazione economica difficile. Questa è una pratica vietata, con le sanzioni più alte del regolamento.
4. Le persone del team devono sapere cosa stanno usando
L'Articolo 4 sull'alfabetizzazione in materia di AI si applica da febbraio 2025 ed è stato riformulato con l'AI Omnibus. L'idea di fondo resta: le aziende che usano sistemi AI fanno in modo che chi ci lavora capisca cosa fanno, dove sbagliano e quando bisogna intervenire. Per una piccola impresa significa una formazione breve, documentata, per chi supervisiona il bot.
Il tuo chatbot è un sistema ad alto rischio?
In generale, un chatbot o un agente vocale che risponde alle domande, prende ordini e fissa appuntamenti non rientra nella categoria ad alto rischio. La situazione cambia se il sistema prende o influenza in modo decisivo decisioni importanti sulle persone, ad esempio:
- filtra candidati per un'assunzione o valuta dipendenti;
- decide l'accesso all'istruzione o valuta studenti;
- è usato in altri ambiti elencati nell'Allegato III del regolamento.
Se il tuo bot fa una di queste cose, chiedi un'analisi legale dedicata. Per questi sistemi la scadenza è ora il 2 dicembre 2027, ma la preparazione richiede tempo.
Cosa rischi se non rispetti le regole
Per la violazione degli obblighi di trasparenza dell'Articolo 50, l'AI Act prevede sanzioni fino a 15 milioni di euro o al 3% del fatturato annuo mondiale. Per le pratiche vietate, il tetto è di 35 milioni di euro o del 7%. Per le PMI, il regolamento prevede che si applichi il valore più basso tra i due. Sono tetti massimi, non sanzioni automatiche, ma mostrano quanto seriamente venga trattato il tema.
Più importante della sanzione è la fiducia. Un cliente che scopre di aver parlato dieci minuti con un robot credendo che fosse una persona non torna più.
Checklist per la tua azienda
- Fai un elenco di tutti i sistemi AI che usi: chatbot sul sito, WhatsApp, agente vocale, automazioni con AI, strumenti interni.
- Controlla il messaggio di apertura di ogni bot. Dice chiaramente che è un assistente AI?
- Controlla voce e avatar. Imitano una persona reale? Se sì, hai il suo consenso e informi chiaramente chi ascolta?
- Rivedi le istruzioni del bot. C'è qualcosa che potrebbe spingerlo verso pressioni o inganni?
- Verifica se qualche sistema prende decisioni sulle persone (assunzioni, valutazioni, accesso a servizi essenziali).
- Forma il team che supervisiona il bot e tieni una breve traccia della formazione.
- Garantisci una strada verso una persona: il cliente può chiedere in qualsiasi momento di parlare con qualcuno del team.
- Collega tutto al GDPR: l'AI Act non sostituisce le regole sulla protezione dei dati, si aggiunge a esse.
Come costruiamo gli agenti tenendo conto dell'AI Act
Gli agenti che costruiamo girano su Claude, il modello di Anthropic, e i dati sono archiviati su Supabase, su server nell'UE. Ogni agente vocale o chatbot su WhatsApp si presenta come assistente virtuale fin dalla prima frase, ha istruzioni chiare su cosa può fare e passa la conversazione a una persona quando serve. Trovi di più su come trattiamo i dati nella pagina sulla sicurezza dei dati.
Un esempio concreto: una catena di pasticcerie di Sibiu usa un agente vocale che recupera circa 20 chiamate al giorno, che prima erano ordini persi. I clienti sanno dal primo secondo che parlano con un assistente virtuale, e questo non ha impedito loro di ordinare.
In sintesi
Per un'azienda che usa chatbot e agenti vocali, l'AI Act significa prima di tutto trasparenza: le persone devono sapere che parlano con un'AI, senza manipolazione e senza voci che imitano di nascosto persone reali. Aggiungi una breve formazione del team e una verifica che il bot non prenda decisioni importanti sulle persone, e hai coperto l'essenziale.
Se vuoi verificare insieme a noi com'è messo il tuo bot o costruirne uno conforme fin dall'inizio, prenota una consulenza gratuita di 30 minuti.
Domande frequenti
Da quando i chatbot devono dire di essere un'AI?
Gli obblighi di trasparenza dell'Articolo 50 dell'AI Act si applicano dal 2 agosto 2026. Non sono stati rinviati con l'AI Omnibus, a differenza di alcune regole per i sistemi ad alto rischio. Questo significa che ogni chatbot o agente vocale che parla con le persone deve informarle chiaramente, al più tardi alla prima interazione, che stanno parlando con un sistema AI.
L'AI Act si applica anche alle piccole imprese in Romania?
Sì. L'AI Act è un regolamento europeo e si applica direttamente in Romania, indipendentemente dalle dimensioni dell'azienda. Per le PMI, le sanzioni hanno come tetto il valore più basso tra l'importo fisso e la percentuale del fatturato. Per la maggior parte delle aziende che usano chatbot comuni, gli obblighi principali sono la trasparenza e la formazione del team.
Un agente vocale per gli appuntamenti è un sistema ad alto rischio?
In generale, no. Un agente che risponde alle domande, prende ordini o fissa appuntamenti di norma non rientra nelle categorie ad alto rischio dell'Allegato III. La situazione cambia se il sistema prende o influenza in modo decisivo decisioni sulle persone, ad esempio nella selezione del personale o nell'istruzione. In questi casi, chiedi un'analisi legale dedicata.
Quali sanzioni prevede l'AI Act per la mancanza di trasparenza?
Per la violazione degli obblighi di trasparenza dell'Articolo 50, il tetto è fino a 15 milioni di euro o al 3% del fatturato annuo mondiale. Per le PMI si applica il valore più basso tra i due. Le pratiche vietate hanno un tetto più alto, di 35 milioni di euro o del 7%.
L'AI Act sostituisce il GDPR per i chatbot?
No. L'AI Act si aggiunge al GDPR, non lo sostituisce. Se il tuo bot tratta dati personali, come nome, telefono o dettagli di un ordine, restano validi tutti gli obblighi del GDPR: base giuridica, informativa alle persone, contratti con i fornitori e sicurezza dei dati. Le due normative vanno gestite insieme.
Articoli correlati
Preferisci parlarne direttamente?
Ti rispondiamo in giornata. Scegli il modo che preferisci.
