Google mete la pata al etiquetar una foto y se disculpa

La gigante de tecnología enfrenta muchas críticas después de que su app Fotos etiquetó a un hombre y a su amiga afroamericana como 'gorilas'.

Google se enfrenta a muchas críticas por una metida de pata en su app Fotos. James Martin/CNET

Google se convirtió en una de las compañías más poderosas del mundo porque ha desarrollado unos de los mejores algoritmos para organizar información. Pero un fallo esta semana demuestra las desventajas de la tecnología, especialmente cuando no funciona precisamente bien.

Jacky Alcine, un desarrollador Web quien es afroamericano, publicó en Twitter que el app de Fotos de Google, que se lanzó en mayo, los etiquetó a él y a su amiga como "gorilas". La etiqueta emergió en una función que categoriza fotos de manera automática, como carros y playas, para que se encuentren más fácilmente.

"Mi amiga no es un gorila", dijo Alcine en un tuit. Alcine no respondió inmediatamente a una solicitud de comentario sobre el tema.

Este incidente resalta una vez más el problema al que se enfrentan las compañías de tecnología a medida que las computadoras se hacen más inteligentes y se espera que éstas empiecen a realizar más tareas. Esas áreas de la ciencia computacional -- como la inteligencia artificial y el aprendizaje de las máquinas -- son unos de los enfoques más importantes en Silicon Valley. Pero este enfoque también acarrea un factor con el que las computadoras no han lidiado: el desafío de la sensibilidad.

screen-shot-2015-07-01-at-5-45-25-pm.png
Jacky Alcine, un desarrollador Web, publicó esta imagen en la que se le etiquetó a él y a su amiga como 'gorilas'. Captura de pantalla por CNET

Esta no es la primera vez que los algoritmos han metido la pata. Cuando Yahoo rediseñó su app de almacenamiento de fotos Flickr en mayo, la empresa añadió funciones similares que agregan etiquetas a las fotos de forma automática. El algoritmo etiquetó una foto de un hombre negro como un simio, y los campos de concentración obtuvieron etiquetas como "deporte" y jungle gym (que es como se les conoce a los juegos como pasamanos que vemos en los parques).

Después de que Google se enteró del incidente con la foto de Alcine, la empresa se disculpó inmediatamente e intentó arreglar el problema.

"Se está haciendo mucho trabajo, y nos queda mucho trabajo por hacer", dijo Yonatan Zunger, de Google. "Estamos arreglándolo".

Mientras tanto, Google se ha disculpado, diciendo:

"Estamos en shock y sentimos mucho de que esto haya pasado", dijo una portavoz de Google. "Claramente, hay mucho trabajo por hacer con las etiquetas automáticas de las imágenes. Estamos viendo cómo prevenir que esta clase de errores ocurran en el futuro".

Close
Drag