Ogni sistema di intelligenza artificiale impara da un insieme di dati, detto dataset. Ciò che contiene, come è raccolto e come è organizzato determina cosa il sistema saprà fare, dove sarà affidabile e dove sbaglierà. Si può pensare al dataset come al programma di studio di uno studente: se è incompleto, sbagliato o di parte, anche il risultato lo sarà.
Quantità e qualità
Più dati aiutano, soprattutto per i modelli complessi, ma solo se sono accurati, aggiornati e vari. Dati sbagliati, duplicati o ripetitivi producono modelli fragili, che sembrano funzionare bene in laboratorio e poi deludono nel mondo reale. Per questo la pulizia dei dati, cioè la rimozione di errori, duplicati e incoerenze, è spesso il lavoro più lungo e meno visibile di un progetto. Un dataset piccolo ma curato può dare risultati migliori di uno enorme e disordinato.
Etichette
Molti dataset richiedono che persone assegnino un’etichetta a ogni esempio: “gatto” o “cane” per una foto, “positivo” o “negativo” per un commento, “spam” o “non spam” per un’email. Questo lavoro è spesso svolto da molte persone diverse, con criteri non sempre uniformi. Gli errori di etichettatura si trasmettono al modello, che li impara come se fossero corretti. Definire linee guida chiare e misurare l’accordo tra etichettatori sono passaggi essenziali.
Rappresentatività
Un dataset riflette la realtà da cui è stato estratto. Se molte immagini di persone provengono da un solo paese, o molti testi da una sola lingua o da una sola fascia sociale, il modello lavora meglio per quei gruppi. Questo è uno dei motivi principali del bias negli algoritmi, di cui si è già parlato. Chi costruisce un dataset dovrebbe chiedersi chi è incluso, chi è escluso e perché.
Privacy e consenso
Molti dataset contengono dati personali: immagini di volti, testi scritti da persone, cronologie di navigazione. Raccoglierli e usarli richiede una base giuridica, e spesso il consenso dell’interessato. Non tutto ciò che è pubblicato online può essere usato liberamente per addestrare un modello, e le regole variano da paese a paese.
Trasparenza
Sapere da dove vengono i dati è importante per valutare rischi e diritti. Per questo si parla sempre più spesso di documentazione dei dataset: una scheda che descrive origine, contenuto, metodo di raccolta, etichettatura e limiti. Non sempre queste informazioni sono pubbliche, ma chi usa un modello dovrebbe poterle chiedere, soprattutto quando il modello prende decisioni che lo riguardano.
Un controllo da fare
Quando valuti uno strumento basato sull’IA, chiedi quali dati sono stati usati per costruirlo, come sono stati selezionati e controllati, e se sono stati verificati su casi simili a quelli in cui lo userai. Le risposte, o la loro assenza, dicono molto sull’affidabilità del sistema.