Un computer può essere sicuro e sbagliare lo stesso?

Hai mai visto la fotocamera di un telefono disegnare un quadratino attorno a un viso sorridente? Alcuni computer sanno guardare una foto e dire che cosa c’è. Sanno anche dirti quanto sono sicuri. Ma un computer può essere sicurissimo e sbagliare lo stesso?

Immaginiamo un programma per computer con un compito speciale. Tu gli mostri la foto di un animale e lui ti dice come si chiama. Seguiamo questo programma per scoprire come funziona.

Per prima cosa, le persone che creano il programma gli mostrano migliaia di foto di cani e gatti. Ogni foto ha il nome giusto: cane o gatto. Questo si chiama addestramento: il computer impara da tante foto che hanno già il nome giusto.

Durante l’addestramento, il computer cerca le caratteristiche comuni nelle foto dei cani, come un naso lungo e una bocca grande. Così potrà riconoscere un cane in una foto che non ha mai visto. Allo stesso modo, dalle foto dei gatti impara a riconoscere visi tondi e nasi corti.

Un giorno, una bambina fotografa una volpe nel suo giardino e mostra la foto al programma. In tutto l’addestramento, il computer non ha mai visto nemmeno una volpe. La volpe ha un naso lungo, una bocca grande e un pelo morbido e rossiccio. Secondo te, che cosa dirà il computer?

Dice cane! Il computer può scegliere solo tra i nomi che ha imparato, quindi sceglie quello che corrisponde meglio. Una volpe assomiglia più a un cane che a un gatto, perciò vince cane.

Accanto alla risposta, il programma mostra un numero chiamato sicurezza: indica quanto il computer dice di essere sicuro. Qui la sicurezza è novantacinque su cento. Il numero aumenta quando una nuova foto assomiglia molto di più alle foto con un nome che a quelle con l’altro.

Il naso lungo e la bocca grande della volpe assomigliano molto a quelli dei cani dell’addestramento. Il computer trova quindi una forte somiglianza e la sua sicurezza è alta. Per il computer, questa volpe sembra proprio un cane.

Una sicurezza alta indica solo quanto una foto assomiglia più alle foto dei cani che a quelle dei gatti. Non dice se la risposta è giusta. Il computer non può uscire a controllare l’animale vero, né accorgersi che nel suo addestramento mancavano le volpi.

Addestramento e sicurezza. Le persone addestrano il computer con solo alcuni esempi, e la sua sicurezza indica soltanto quanto una cosa nuova assomiglia a quegli esempi: perciò può essere molto sicuro e sbagliare lo stesso.

Ora la tua mente curiosa può riposare al calduccio, fino alle nuove domande di domani.