¿Puede un ordenador estar seguro y aun así equivocarse?

¿Has visto cómo la cámara de un móvil dibuja un recuadro alrededor de una cara sonriente? Algunos ordenadores pueden mirar una imagen y decir qué aparece en ella. Incluso pueden decirte lo seguros que están. Entonces, ¿puede un ordenador estar muy seguro y aun así equivocarse?

Imaginemos un programa de ordenador que tiene una tarea especial. Le enseñas una foto de un animal y te dice cómo se llama ese animal. Vamos a seguir a este programa para ver cómo funciona.

Primero, las personas que crean el programa le enseñan miles de fotos de perros y gatos. Cada foto lleva el nombre correcto: perro o gato. Esto se llama entrenamiento: aprender con muchas fotos que ya llevan los nombres correctos.

Durante el entrenamiento, el ordenador busca qué tienen en común las fotos de perros. Por ejemplo, un hocico largo y una boca grande. Así podrá reconocer un perro en una foto que nunca haya visto. Las fotos de gatos le enseñan, de la misma manera, caras redondas y hocicos cortos.

Un día, una niña fotografía a un zorro en su jardín y le enseña la foto al programa. En todo su entrenamiento, el ordenador no ha visto ni un solo zorro. El zorro tiene un hocico largo, una boca grande y un pelaje suave y rojizo. ¿Qué crees que dirá el ordenador?

¡Dice que es un perro! El ordenador solo puede elegir entre los nombres que ha aprendido, así que escoge el más parecido. Un zorro se parece más a un perro que a un gato, así que gana perro.

Junto a su respuesta, el programa muestra un número llamado confianza. La confianza indica lo seguro que el ordenador dice estar. Aquí, la confianza es de noventa y cinco sobre cien. Ese número aumenta cuando una foto nueva se parece mucho más a las fotos de un nombre que a las del otro.

El hocico largo y la boca grande del zorro se parecen muchísimo a los de los perros del entrenamiento. Por eso, el ordenador encuentra un gran parecido y su confianza es alta. Para el ordenador, este zorro tiene aspecto de perro.

Una confianza alta solo indica cuánto más se parece una foto a las de perros que a las de gatos. No indica si la respuesta es correcta. El ordenador no puede salir a comprobar qué animal es de verdad. Tampoco puede darse cuenta de que faltaban zorros en su entrenamiento.

Entrenamiento y confianza. Como las personas entrenan al ordenador con solo algunos ejemplos, su confianza solo muestra cuánto se parece algo nuevo a esos ejemplos, así que puede estar muy seguro y aun así equivocarse.

Ahora tu mente, tan lista, puede descansar calentita y a gusto hasta las nuevas preguntas de mañana.