Est-ce qu’un ordinateur peut être sûr de lui et quand même se tromper ?

As-tu déjà vu un petit cadre apparaître autour d’un visage souriant sur l’appareil photo d’un téléphone ? Certains ordinateurs peuvent regarder une image et dire ce qu’elle montre. Ils peuvent même indiquer à quel point ils sont sûrs de leur réponse. Alors, est-ce qu’un ordinateur peut être vraiment sûr de lui et quand même se tromper ?

Imaginons un programme informatique qui a une mission bien précise. Tu lui montres la photo d’un animal, et il te donne le nom de cet animal. Suivons ce programme pour comprendre comment il fonctionne.

D’abord, les personnes qui créent le programme lui montrent des milliers de photos de chiens et de chats. Chaque photo porte le bon nom : chien ou chat. C’est l’entraînement : le programme apprend à partir de nombreuses photos qui portent déjà le bon nom.

Pendant l’entraînement, l’ordinateur cherche ce que les photos de chiens ont en commun : un long museau, une grande gueule. Cela lui permettra de reconnaître un chien sur une photo qu’il n’a jamais vue. De la même façon, les photos de chats lui apprennent à reconnaître des visages ronds et des museaux courts.

Un jour, une fille photographie un renard dans son jardin et montre la photo au programme. Pendant tout son entraînement, l’ordinateur n’a jamais vu un seul renard. Ce renard a un long museau, une grande gueule et un pelage doux et roux. À ton avis, que va répondre l’ordinateur ?

Il répond : chien ! L’ordinateur ne peut choisir que parmi les noms qu’il a appris, alors il choisit celui qui correspond le mieux. Un renard ressemble davantage à un chien qu’à un chat : c’est donc le chien qui l’emporte.

À côté de sa réponse, le programme affiche un nombre qui indique sa confiance. La confiance, c’est à quel point l’ordinateur se dit sûr de sa réponse. Ici, sa confiance est de quatre-vingt-quinze sur cent. Ce nombre augmente quand une nouvelle photo ressemble beaucoup plus aux photos d’un animal qu’à celles de l’autre.

Le long museau et la grande gueule du renard ressemblent beaucoup à ceux des chiens de l’entraînement. L’ordinateur trouve donc une forte ressemblance, et sa confiance est élevée. Pour l’ordinateur, ce renard ressemble tout simplement à un chien.

Une confiance élevée indique seulement à quel point la photo ressemble davantage aux photos de chiens qu’à celles de chats. Elle ne dit pas si la réponse est vraie. L’ordinateur ne peut pas sortir vérifier quel est le véritable animal. Et il ne peut pas remarquer qu’il n’y avait aucun renard dans son entraînement.

Entraînement et confiance. Comme les personnes entraînent l’ordinateur avec seulement certains exemples, sa confiance indique juste à quel point une nouvelle image leur ressemble : il peut donc être très sûr de lui et quand même se tromper.

Maintenant, ton esprit plein d’idées peut se reposer bien au chaud, jusqu’aux nouvelles questions de demain.