Um computador pode ter a certeza e mesmo assim estar errado?

Já viste a câmara de um telemóvel desenhar um quadradinho à volta de uma cara sorridente? Alguns computadores conseguem olhar para uma imagem e dizer o que lá está. Até conseguem dizer quanta certeza têm. Mas um computador pode ter mesmo a certeza e ainda assim estar errado?

Vamos imaginar um programa de computador com uma tarefa especial. Mostras-lhe uma fotografia de um animal, e ele diz-te o nome desse animal. Vamos acompanhar este programa para perceber como funciona.

Primeiro, as pessoas que criam o programa mostram-lhe milhares de fotografias de cães e gatos. Cada fotografia vem com o nome certo: cão ou gato. A isto chama-se treino: aprender com muitas fotografias que já têm os nomes certos.

Durante o treino, o computador procura semelhanças entre as fotografias de cães, como narizes compridos e bocas grandes. Assim, pode reconhecer um cão numa fotografia que nunca viu. Da mesma maneira, as fotografias de gatos ensinam-lhe a reconhecer caras redondas e narizes curtos.

Um dia, uma menina fotografa uma raposa no seu jardim e mostra a fotografia ao programa. Durante todo o treino, o computador nunca viu uma única raposa. A raposa tem um nariz comprido, uma boca grande e pelo macio e avermelhado. O que achas que o computador vai dizer?

Diz que é um cão! O computador só pode escolher entre os nomes que aprendeu, por isso escolhe o mais parecido. Uma raposa parece-se mais com um cão do que com um gato, por isso ganha o cão.

Ao lado da resposta, o programa mostra um número chamado confiança. A confiança indica até que ponto o computador diz ter a certeza. Aqui, a confiança é de noventa e cinco em cem. Esse número aumenta quando uma fotografia nova se parece muito mais com as fotografias de um dos animais do que com as do outro.

O nariz comprido e a boca grande da raposa são muito parecidos com os dos cães do treino. Por isso, o computador encontra uma grande semelhança e dá um valor alto à confiança. Para o computador, esta raposa parece simplesmente um cão.

Uma confiança alta só indica quanto uma fotografia se parece mais com as fotografias de cães do que com as de gatos. Não indica se a resposta está certa. O computador não consegue ir lá fora verificar que animal é, nem perceber que faltavam raposas no treino.

Treino e confiança. Como as pessoas treinam o computador só com alguns exemplos, a confiança apenas mostra quanto algo novo se parece com eles, por isso o computador pode ter muita certeza e mesmo assim estar errado.

Agora, a tua cabeça esperta pode descansar, bem quentinha e aconchegada, até às novas perguntas de amanhã.