Menu di accessibilità (premi Invio per aprire)

26 ottobre 2026

AI in azienda: cosa viene prima della tecnologia

Una conversazione con l'avvocato Arianna Ciracò su governance, AI Act e sovranità del dato

Conversazione con Arianna Ciracò

Intelligenza Artificiale in azienda: aspetti legali ed etici con l’Avv. Arianna Ciracò

Un’aula aziendale, una sessione di formazione sulla privacy richiesta per documentare un audit. A metà dell’incontro un imprenditore alza la mano e dice: «avvocato, la mia azienda è innovativissima». Ha appena investito una cifra considerevole in un sistema di rilevazione delle presenze con riconoscimento biometrico. Azienda manifatturiera, nessun segreto industriale particolare da proteggere, non si trattava di una farmaceutica.

Alla domanda sul perché, la risposta è che si tratta di un prodotto all’avanguardia. Nuovo.

L’episodio lo ha raccontato l’avvocato Arianna Ciracò, Data Protection Officer, nella conversazione con Claudio Sorbi per la rubrica «Behind the prompt». È un esempio plastico, lo definisce lei, e la parte importante viene subito dopo: quell’imprenditore aveva scelto in totale buona fede.

L’epistemia: quando la forma sostituisce la verifica

Il punto di partenza della conversazione è un termine coniato dal gruppo di ricerca di Walter Quattrociocchi alla Sapienza di Roma: epistemia. Indica «quella illusione seducente di verosimiglianza» che l’output di un sistema generativo produce, e che viene preferita alla verifica.

Un testo fluido, coerente, assertivo assomiglia alla conoscenza abbastanza da passare per tale. La fluidità diventa affidabilità, e la verifica sembra superflua.

In azienda questo meccanismo ha una conseguenza diretta. Quando in una riunione si chiede la certezza del risultato, si sta chiedendo a una tecnologia statistica qualcosa che per costruzione non può dare. Un sistema generativo non fornisce risposte: produce risultati. Il significato glielo attribuisce chi lo legge, confrontandolo con il contesto e con la propria esperienza di dominio. Senza quel passaggio il risultato resta una mina vagante, come la definisce Ciracò nel video: può essere corretto, perché statisticamente plausibile, oppure completamente decontestualizzato. Dall’esterno i due casi si assomigliano.

Senior, junior e capitale semantico

Da qui discende una questione che riguarda l’organizzazione del lavoro prima della tecnologia, e a portarla nella conversazione è Claudio Sorbi partendo da quello che Aidia osserva al proprio interno. L’AI funziona molto bene quando la padroneggia un senior, qualcuno che sa ricontrollare il risultato e usare lo strumento per accelerare lo sviluppo. Dare in mano l’intelligenza artificiale a un profilo junior, senza quel filtro, crea problemi.

La deduzione immediata è che a quel punto bastino i senior. Sorbi la porta fino in fondo proprio per mostrarne il difetto: e poi? I senior prima o poi andranno in pensione o faranno altro, e nel frattempo la generazione successiva non avrà potuto fare l’esperienza necessaria. Resta schiacciata da quella dinamica.

C’è una seconda ragione, aggiunge, ed è che un tool va usato come tale. Accelera, prende in ingresso dati su cui è stato addestrato, restituisce risultati. Non sostituisce il senso critico né la capacità di innovare. Quello che Ciracò chiama capitale semantico, l’insieme di esperienze, sensibilità e intuito che resta umano, non si trasmette leggendo output.

Perché l’AI peggiora i contesti disorganizzati

Esiste un’aspettativa diffusa: portare l’intelligenza artificiale in un processo che funziona male dovrebbe rimetterlo in ordine. Accade l’opposto.

Più il contesto è disorganizzato e più i dati sono complessi, più è facile peggiorare le cose. Lo strumento dà un boost, usa un’immagine efficace Ciracò: è una velocità maggiore nell’auto. Se la direzione è sbagliata, arrivare prima non aiuta. Il rischio, aggiunge, diventa esponenziale.

Non è una posizione isolata. Sia l’AI Act sia il GDPR sono costruiti su un approccio basato sul rischio, cioè sul presupposto che questi sistemi siano rischiosi per impostazione e che il compito di chi li introduce sia contenerne gli effetti.

È Sorbi a introdurre nella conversazione il termine che inquadra la questione: guardrail. Ciracò lo riprende dal proprio lato e lo scompone. I guardrail sono costituiti dal diritto e dall’etica: il diritto stabilisce cosa si può e cosa non si può fare, con l’AI Act come norma di riferimento, mentre l’etica indica, dentro quella cornice di conformità, quali scelte vadano verso un bene sociale. Non un bene in senso romantico, precisa, ma orientato alla promozione umana.

Prima dell’AI vengono quindi tre cose: attenzione al dato in ingresso, attenzione ai processi, una governance definita per il risultato atteso. Senza quel lavoro preliminare il sistema restituisce il disordine che trova, amplificato. Su questo punto i due arrivano insieme alla stessa formula: non è una bacchetta magica.

Il divario delle PMI italiane non è una questione di budget

Il rapporto «L’Italia nell’era dell’AI» della Fondazione Leonardo, presentato alla Camera il 19 marzo 2026, fotografa un mercato nazionale da 1,2 miliardi di euro, in crescita del 58%, con l’obiettivo ragionevole dei 5 miliardi entro il 2030. Dentro quella crescita resta però un divario netto fra medie e grandi imprese da un lato e PMI dall’altro.

La lettura più comune attribuisce il ritardo alle risorse. L’esperienza sul campo racconta qualcosa di diverso. La spinta a muoversi esiste, alimentata dalla sensazione di rimanere indietro rispetto ai concorrenti. Quello che manca è sapere a cosa serva davvero, in quel reparto, con quei dati.

Mancano cioè attori guida che affianchino l’azienda partendo dall’anno zero, invece di arrivare con una soluzione già confezionata. E manca spesso la consapevolezza che quel lavoro iniziale sia necessario, perché costa tempo e non produce niente di visibile.

C’è poi una frase che raramente si sente da chi vende tecnologia: non sempre l’AI è la risposta. Esistono molte altre tecnologie che, a seconda del caso, risolvono il problema meglio.

Quando è l’azienda stessa a fornire lo strumento

Si discute molto dell’uso non autorizzato di strumenti di AI da parte dei dipendenti. Esiste però una variante più silenziosa, e probabilmente più diffusa.

Un collaboratore apre la casella di posta aziendale e trova una funzione di assistenza generativa già attiva, inclusa nella licenza che l’azienda gli ha fornito. Clicca, chiede una bozza di risposta, un riassunto di un thread. Dal suo punto di vista sta usando una funzionalità del software di lavoro. In realtà ha appena avviato un trattamento di dati di cui nessuno ha valutato il perimetro, e lo ha fatto perché l’azienda stessa gliene ha dato la possibilità senza spiegargliene le implicazioni.

L’articolo 4 dell’AI Act interviene esattamente su questo. Pone in capo a fornitori e deployer un obbligo di alfabetizzazione sull’AI (AI literacy) che riguarda il personale e chiunque utilizzi i sistemi per conto dell’organizzazione, con una formazione graduata rispetto alle competenze di partenza e verticale rispetto alla mansione svolta. Non una sessione generica uguale per tutti.

Accanto all’AI Act restano in vigore GDPR e Statuto dei lavoratori, che fissano limiti precisi all’uso di determinati strumenti tecnologici e impongono che il lavoratore sia informato. Quando l’AI entra nei processi che riguardano le persone, quei due testi pesano quanto il regolamento europeo.

È un lavoro faticoso e costoso, riconosce Ciracò, che impegna risorse dall’ambito imprenditoriale fino al livello operativo. Il consiglio di amministrazione deve conoscere i rischi a cui l’organizzazione si espone, altrimenti la formazione a valle non ha un mandato.

Trasparenza: cosa chiede l’articolo 50

Gli obblighi di trasparenza dell’AI Act gravano su fornitori e deployer. Il fornitore deve progettare sistemi che rendano comprensibile, alla prima interazione, che l’utente sta interagendo con un sistema di AI.

Il discrimine interessante riguarda i contenuti. Un testo generato con l’AI ma soggetto a revisione umana e responsabilità editoriale ricade in una fattispecie diversa rispetto a un output rilasciato senza quel passaggio, che soggiace invece agli obblighi in capo all’utilizzatore. Per chi pubblica, comunica o produce documentazione, la differenza è operativa prima che giuridica.

Vale anche per le versioni enterprise degli strumenti più diffusi. Pagare un abbonamento non significa poter fare tutto: il fornitore stabilisce un perimetro di utilizzo, e conoscerlo è responsabilità di chi adotta.

Lock-in e giurisdizione: due cose che si vedono tardi

La dipendenza da un fornitore non si manifesta al momento della firma. Si manifesta quando si prova a cambiare. Interoperabilità e portabilità esistono, osserva Ciracò, ma funzionano fino a un certo punto: nel frattempo si è costruito un ambiente di lavoro attorno a quel provider, e si è formata un’abitudine. Anche quando la migrazione è tecnicamente possibile, resta il costo di disfare quell’abitudine. Nel mezzo possono intervenire modifiche unilaterali di contratto.

Sulla localizzazione dei dati la distinzione decisiva è un’altra, e vale la pena esplicitarla perché viene spesso data per risolta. Scegliere una region europea è una garanzia ulteriore, e il Data Privacy Framework è uno strumento valido per i trasferimenti verso gli Stati Uniti. Resta il fatto che un fornitore statunitense appartiene a una giurisdizione in cui il potere governativo è, nelle parole dell’avvocato, molto più penetrante e pervasivo. Se un provvedimento dell’esecutivo impone a un’azienda americana di consegnare determinati contenuti, la richiesta la raggiunge anche quando i data center si trovano in Europa.

La region risolve il requisito di localizzazione. La sovranità è un’altra cosa, e richiede il controllo del perimetro.

La prospettiva di Aidia

Durante la conversazione Claudio Sorbi ha raccontato una richiesta che arriva con una certa frequenza: introdurre l’AI in azienda coprendo ogni ambito, responsabilità legale compresa. La risposta è stata fermarsi. «Possiamo darvi supporto a livello di business e a livello strategico come consulenti, però siamo consapevoli di quali sono le nostre competenze e i nostri limiti». Da lì la scelta di allargare la rete, coinvolgendo un professionista per ogni tipo di aspetto.

Non è prudenza. È l’unico modo per evitare di rimettere le mani su qualcosa già costruito: nel caso migliore si spende di più e si allungano i tempi, nel caso peggiore si modifica l’architettura della soluzione.

Un esempio concreto emerso nel video lo illustra bene. L’assistente conversazionale di un e-commerce alimentare deve gestire allergeni e intolleranze. Quali dati includere nel dataset di addestramento, con quale criterio, con quale peso rispetto ad altri requisiti: è una valutazione etica, giuridica e di settore, che lo sviluppatore poi mette a terra. Affidarla a chi scrive il codice significa spostare una decisione di responsabilità su chi non ha gli elementi per prenderla.

Vale anche il contrario, osserva Ciracò: trattare l’azienda di software come puro esecutore di scelte già prese altrove produce lo stesso tipo di problema.

Lo stesso ragionamento torna in fase contrattuale, dove l’avvocato individua una distinzione che fa la differenza quando un cliente contesta il servizio: il prodotto garantisce un determinato risultato, oppure serve a svolgere un determinato processo? E nel primo caso, con quale grado di affidabilità dichiarato? Allegati tecnici, capitolati e specifiche esistono per rispondere a questa domanda prima che la ponga un legale.

Questo modo di ragionare orienta anche il modo in cui è costruita AVA, la piattaforma AI proprietaria di Aidia: funziona on-premise o su cloud privato europeo, collega l’ecosistema software aziendale a qualsiasi modello linguistico con cambio dinamico, mantiene i dati nel perimetro e non li condivide con terzi né li usa per addestrare modelli pubblici. L’integrazione avviene sui sistemi già in uso, senza migrazioni forzate.

In chiusura, Ciracò ricorda che l’AI Act è una normativa antropocentrica: l’obiettivo è la promozione dell’individuo dentro un contesto in cui si serve di una soluzione tecnologica. Vale come criterio anche quando non si sta parlando di conformità.

Domande frequenti

Cosa serve prima di introdurre l’AI nei processi aziendali?

Servono dati in ingresso di qualità verificata, processi definiti e una governance che stabilisca chi controlla gli output. Senza queste condizioni il sistema amplifica il disordine esistente. Serve inoltre una competenza di dominio capace di validare i risultati, perché un output corretto e uno decontestualizzato si presentano nello stesso modo.

L’articolo 4 dell’AI Act obbliga davvero alla formazione?

Sì. Pone in capo a fornitori e deployer l’obbligo di garantire un livello adeguato di alfabetizzazione sull’AI al proprio personale e a chi utilizza i sistemi per conto dell’organizzazione. La formazione deve essere graduata rispetto alle competenze di base e verticale rispetto alla mansione aziendale svolta.

Avere i data center in Europa garantisce la sovranità del dato?

Garantisce la localizzazione, non la sovranità. Un fornitore con sede negli Stati Uniti resta soggetto alla giurisdizione americana anche quando i server sono europei, e un provvedimento dell’esecutivo può imporgli la consegna di dati. La sovranità richiede il controllo del perimetro, non solo della geografia.

Un testo generato con l’AI va sempre dichiarato?

L’articolo 50 dell’AI Act distingue. Un contenuto generato ma sottoposto a revisione umana con responsabilità editoriale ricade in una fattispecie diversa rispetto a un output pubblicato senza quel controllo, che rientra negli obblighi di trasparenza in capo al deployer.

Indicazioni operative

  • Mappare le funzioni di AI già attive: verificare quali strumenti in uso includono funzionalità generative abilitate per impostazione predefinita, e con quale perimetro di trattamento.
  • Stabilire chi valida gli output: per ogni processo, definire quale competenza di dominio controlla i risultati prima che diventino decisioni.
  • Leggere il contratto prima della demo: portabilità dei dati, modifiche unilaterali, giurisdizione applicabile, oltre alla localizzazione dei server.
  • Distinguere risultato e processo: chiarire in fase contrattuale se la fornitura garantisce un risultato misurabile o supporta un processo, e con quale affidabilità dichiarata.

Se stai valutando dove conviene intervenire con l’AI e dove invece basta una buona automazione, parlane con il nostro team.


Fonti

  • Fondazione Leonardo ETS (2026). «L’Italia nell’era dell’AI», presentato alla Camera dei Deputati il 19 marzo 2026 - corrierecomunicazioni.it
  • Quattrociocchi W. e altri, Sapienza Università di Roma. Ricerca sul concetto di epistemia e sui limiti dei modelli linguistici - conf26.garr.it
  • Regolamento (UE) 2024/1689 (AI Act), articoli 4 e 50 - eur-lex.europa.eu
  • «Intelligenza Artificiale in azienda: aspetti legali ed etici con l’Avv. Arianna Ciracò», rubrica «Behind the prompt» - canale YouTube Aidia
Marta Magnini

Marta Magnini

Digital Marketing & Communication Assistant in Aidia, laureata in Scienze della Comunicazione e appassionata delle arti performative.

Aidia

In Aidia sviluppiamo soluzioni software basate su IA, soluzioni di NLP, Big Data Analytics e Data Science. Soluzioni innovative per ottimizzare i processi ed efficientizzare i flussi di lavoro. Per saperne di più, contattaci o inviaci una mail a info@aidia.it.