AI e
sicurezza
Aspetti pratici che in azienda non vanno sottovalutati.
Corso AI, RAG e LLM Locali · Alessandro Caprai
Sicurezza · Il quadro
AI, potente ma fragile
Uno strumento potente, ma opaco e affamato di dati. Da qui i punti deboli.
Sicurezza · In azienda
Ora i rischi che in azienda fanno più danno
Dei tanti pericoli, guardiamo da vicino i tre che in ufficio capitano davvero: i dati regalati all'AI gratuita, la privacy che se ne va, e la scatola nera che nessuno sa aprire.
Sicurezza · AI gratuita
Quasi metà usa l'AI gratis per lavoro
- ChatGPT Plus/Pro52%
- ChatGPT Free44%
- ChatGPT Team4%
- API OpenAI0%
E sul gratis le chat spesso addestrano il modello: così si regalano i dati propri e dei clienti.
Fonte: sondaggio LinkedIn di Alessandro Caprai, in ambito aziendale.
Sicurezza · Privacy
Il mio assistente AI ha dato la mia email a un'estranea
Una sconosciuta mi scrive per avere dei file, convinta di doverli chiedere a me. Un assistente AI che avevo costruito io le aveva dato la mia email privata. E il mio account di lavoro era finito agganciato alla mia posta personale.
La sicurezza dei miei prompt la curo per mestiere, ed è successo lo stesso. In azienda, dove spesso nessuno ci bada, è molto più facile.
Fonte: un fatto realmente accaduto, raccontato su LinkedIn.
Sicurezza · Scatola nera
Nessuno sa davvero come l'AI decide
Nemmeno chi la costruisce, e nemmeno i suoi ingegneri, sanno con esattezza come un'AI arriva a una decisione. È una scatola chiusa: si vede cosa entra e cosa esce, non cosa succede dentro. In inglese la chiamano «black box».
Anthropic ha annunciato come una svolta l'essere riuscita a sbirciare dentro il proprio modello. Se aprire la scatola fa notizia, capite quanto di solito resta chiusa.
Fonte: Fortune, «Anthropic makes a breakthrough in opening AI's black box», 2025.
Sicurezza · Manipolazione
Qualcuno può muovere i fili dell'AI
Prima ancora che scriviate, all'AI qualcuno ha già dato delle istruzioni nascoste: le dicono chi essere, come rispondere, cosa mettere in risalto e cosa tacere. Chi le scrive, o le cambia, decide cosa vi dirà.
Nel 2025 un dipendente di xAI ha ritoccato quelle istruzioni a Grok, il chatbot di X, che ha iniziato a spingere una teoria falsa sul «genocidio dei bianchi» in Sudafrica, anche fuori tema. Basta una riga per piegare la «verità» di un'AI.
Fonte: il caso Grok, maggio 2025 (New York Times, TechCrunch).
Sicurezza · Difendersi
Come possiamo difenderci?
Due strade, dalla buona alla migliore. La seconda è la meta di questo corso.