AI e
sicurezza
Aspetti pratici che in azienda non vanno sottovalutati.
Corso AI, RAG e LLM Locali · Alessandro Caprai
Sicurezza · Il quadro
AI, potente ma fragile
Uno strumento potente, ma opaco e affamato di dati. Da qui i punti deboli.
Sicurezza · In azienda
Ora i rischi che in azienda fanno più danno
Dei tanti pericoli, guardiamo da vicino i tre che in ufficio capitano davvero: i dati regalati all'AI gratuita, la privacy che se ne va, e la scatola nera che nessuno sa aprire.
Sicurezza · AI gratuita
Quasi metà usa l'AI gratis per lavoro
- ChatGPT Plus/Pro52%
- ChatGPT Free44%
- ChatGPT Team4%
- API OpenAI0%
E sul gratis le chat spesso addestrano il modello: così si regalano i dati propri e dei clienti.
Fonte: sondaggio LinkedIn di Alessandro Caprai, in ambito aziendale.
Sicurezza · Privacy
Il mio assistente AI ha dato la mia email a un'estranea
Una sconosciuta mi scrive per avere dei file, convinta di doverli chiedere a me. Un assistente AI che avevo costruito io le aveva dato la mia email privata. E il mio account di lavoro era finito agganciato alla mia posta personale.
La sicurezza dei miei prompt la curo per mestiere, ed è successo lo stesso. In azienda, dove spesso nessuno ci bada, è molto più facile.
Fonte: un fatto realmente accaduto, raccontato su LinkedIn.
Sicurezza · Scatola nera
Nessuno sa davvero come l'AI decide
Nemmeno chi la costruisce, e nemmeno i suoi ingegneri, sanno con esattezza come un'AI arriva a una decisione. È una scatola chiusa: si vede cosa entra e cosa esce, non cosa succede dentro. In inglese la chiamano «black box».
Anthropic ha annunciato come una svolta l'essere riuscita a sbirciare dentro il proprio modello. Se aprire la scatola fa notizia, capite quanto di solito resta chiusa.
Fonte: Fortune, «Anthropic makes a breakthrough in opening AI's black box», 2025.
Sicurezza · Manipolazione
Qualcuno può muovere i fili dell'AI
Prima ancora che scriviate, all'AI qualcuno ha già dato delle istruzioni nascoste: le dicono chi essere, come rispondere, cosa mettere in risalto e cosa tacere. Chi le scrive, o le cambia, decide cosa vi dirà.
Nel 2025 un dipendente di xAI ha ritoccato quelle istruzioni a Grok, il chatbot di X, che ha iniziato a spingere una teoria falsa sul «genocidio dei bianchi» in Sudafrica, anche fuori tema. Basta una riga per piegare la «verità» di un'AI.
Fonte: il caso Grok, maggio 2025 (New York Times, TechCrunch).
Sicurezza · Difendersi
Come possiamo difenderci?
Due strade, dalla buona alla migliore. La seconda è la meta di questo corso.
Test 1 · AI Act e sicurezza
Vero o falso
1. L'AI Act regola il tipo di tecnologia usata, non l'uso che se ne fa.
2. Sulle versioni gratuite, quello che si scrive nelle chat spesso serve ad addestrare il modello.
3. Per la legge italiana, un licenziamento deciso solo da un algoritmo resta comunque valido.
4. L'AI impara dai dati e può ripetere e amplificare i pregiudizi delle persone.
Test 1 · AI Act e sicurezza
Vero o falso (2)
1. Un software che filtra i curriculum resta ad alto rischio anche se la decisione finale la prende una persona.
2. L'AI Act vale solo per le aziende che hanno sede in Europa.
3. Le istruzioni nascoste che guidano un'AI non si possono cambiare.
4. Un'AI che gira in locale, su un server aziendale, tiene i dati più al sicuro perché non li fa uscire.
Test 1 · AI Act
L'AI Act in pratica
1. Quale di questi usi dell'AI in azienda è tra quelli vietati dall'AI Act?
2. Un'azienda usa un'AI per decidere quali candidati scartare. In quale ruolo si trova, secondo l'AI Act?
Test 1 · AI Act
L'AI Act in pratica (2)
1. Cosa deve fare un'azienda che mette un chatbot sul proprio sito, per rispettare l'AI Act?
2. Il reparto marketing genera un'immagine con l'AI e, senza volerlo, ricalca l'opera protetta di un altro. Chi ne risponde?
Test 1 · Sicurezza
AI e sicurezza in pratica
1. Nel fatto raccontato sulla privacy, cosa ha combinato l'assistente AI costruito dall'autore?
2. Qual è, secondo il modulo, la difesa più forte per tenere al sicuro i dati aziendali con l'AI?
Test 1 · Sicurezza
AI e sicurezza in pratica (2)
1. Cosa insegna il caso Grok del 2025 raccontato nel modulo?
2. Secondo il modulo, quali due caratteristiche rendono l'AI pericolosa in azienda?
Test 1 · Risposta aperta
Con parole tue
Rispondi liberamente. Il testo si salva mentre scrivi.
1. Perché la legge vieta di fidarsi ciecamente di una decisione dell'AI, e cosa deve poter fare davvero la persona che la controlla?
2. Cosa vuol dire che l'AI è una «scatola nera», e perché è un problema?
Test 1 · Risposta aperta
Con parole tue (2)
Rispondi liberamente. Il testo si salva mentre scrivi.
1. Perché l'AI Act obbliga le aziende a formare chi usa l'AI? Cosa dovrebbe capire chi la utilizza?
2. Quali due strade indica il modulo per proteggere i dati aziendali quando si usa l'AI, e qual è la migliore?