Un nuovo quadro regolatorio: dall’entusiasmo tecnologico alla responsabilità organizzativa
L’intelligenza artificiale è ormai entrata stabilmente nei processi aziendali: scrive testi, analizza dati, automatizza attività ripetitive, supporta decisioni, produce immagini, traduce documenti, assiste clienti e lavoratori. Come ha sintetizzato Andrew Ng, l’IA può essere letta come una sorta di “nuova elettricità”: una tecnologia generale, destinata a trasformare molti settori e non soltanto il mondo digitale. L’attuale quadro europeo si muove verso una regolazione basata sul rischio. Il riferimento principale è il Regolamento europeo sull’intelligenza artificiale, noto come AI Act, che introduce regole armonizzate per lo sviluppo, l’immissione sul mercato e l’utilizzo dei sistemi di IA nell’Unione europea. La logica è chiara: favorire l’innovazione e l’adozione di strumenti affidabili, prevenendo al contempo danni a salute, sicurezza, diritti fondamentali, democrazia, ambiente e libertà individuali. Accanto all’AI Act resta centrale il GDPR, soprattutto quando l’IA tratta dati personali, effettua profilazione o contribuisce a decisioni automatizzate che producono effetti giuridici o incidono significativamente sugli interessati. In ambito aziendale assumono particolare rilievo i sistemi utilizzati per selezione del personale, gestione dei lavoratori, assegnazione di compiti, valutazione delle prestazioni, monitoraggio e decisioni che incidono sul rapporto di lavoro. Alcuni impieghi possono rientrare tra i sistemi ad alto rischio; altri possono essere vietati, come l’uso dell’IA per inferire emozioni nei luoghi di lavoro, salvo specifiche eccezioni per ragioni mediche o di sicurezza. Il messaggio per le imprese è chiarissimo: l’IA può generare valore, ma richiede governance, tracciabilità e controllo.
Rischi e benefici: perché l’IA non è né una minaccia automatica né una soluzione magica
Per le aziende, i benefici derivanti dall’utilizzo dell’intelligenza artificiale sono concreti: maggiore efficienza, riduzione dei tempi su attività amministrative, supporto alla formazione, analisi predittiva, miglioramento del servizio al cliente, automazione di compiti ripetitivi, maggiore accessibilità delle informazioni e possibilità di elaborare grandi quantità di dati. Un utilizzo ben progettato può liberare tempo qualificato, migliorare la qualità dei processi e aiutare le persone a concentrarsi su attività a maggiore valore aggiunto. Tuttavia, l’IA porta con sé rischi altrettanto concreti. Il primo è la perdita di controllo sui dati: inserire in strumenti esterni informazioni riservate, dati personali, segreti industriali o documenti interni può esporre l’azienda a violazioni di privacy, riservatezza e proprietà intellettuale. Il secondo è l’affidabilità: i sistemi generativi possono produrre risposte plausibili ma inesatte, inventare fonti, semplificare eccessivamente o restituire contenuti non aggiornati. Il terzo è il rischio discriminatorio, particolarmente delicato in ambito HR, dove un algoritmo può amplificare distorsioni presenti nei dati storici. Il quarto riguarda cybersicurezza, phishing, manipolazione dei contenuti, deepfake e uso improprio delle informazioni. Il quinto è organizzativo: se l’IA viene introdotta senza formazione, senza regole e senza presidio umano, può generare dipendenza dallo strumento, opacità decisionale, stress, perdita di competenze e conflitti sui ruoli. A questi rischi operativi si aggiunge un profilo giuridico rilevante: il mancato rispetto dell’AI Act può comportare sanzioni amministrative molto elevate.
Per le pratiche vietate dall’art. 5 del Regolamento, le sanzioni possono arrivare fino a 35 milioni di euro o al 7 per cento del fatturato mondiale annuo totale dell’esercizio precedente, se superiore; per altre violazioni degli obblighi previsti dal Regolamento, le sanzioni possono arrivare fino a 15 milioni di euro o al 3% del fatturato mondiale annuo; per la comunicazione di informazioni inesatte, incomplete o fuorvianti alle autorità competenti, fino a 7,5 milioni di euro o all’1 per cento del fatturato mondiale annuo. Anche il GDPR resta centrale: in caso di violazioni gravi dei principi di protezione dei dati, dei diritti degli interessati o delle regole sui trasferimenti internazionali, le sanzioni possono arrivare fino a 20 milioni di euro o al 4 per cento del fatturato mondiale annuo, se superiore. Non a caso, in un lavoro scientifico firmato da Yoshua Bengio, Geoffrey Hinton, Stuart Russell e altri studiosi, si legge che “AI safety research is lagging”: la ricerca sulla sicurezza procede, ma non sempre con la stessa velocità con cui crescono capacità e diffusione dei sistemi. Per questo la risposta aziendale non dovrebbe essere né il blocco totale né l’adozione incontrollata, ma una terza via: sperimentare, misurare, documentare e correggere.
