Sobre racismo y tecnología

¿De verdad no hay nada que podamos hacer?

Tras meses de campañas de marketing que ayudarían a disipar las cosas, poco se habla del desastroso incidente de Google y los “gorilas”. Suceso que generó polémica y diversas críticas de sus usuarios, por no mencionar las innumerables acusaciones de racismo. ¿Qué pasó?

En el año 2015, la programadora Jacky Alcine ingresó a su cuenta de Google Photos para revisar su galería como usualmente lo hacía. La app que en español se llama Google Fotos es uno de los productos estrella de Google, muchos usuarios la prefieren como su galería personal ya que dispone de la habilidad de guardar sus fotos en la nube — pero es más que eso, Google Fotos cuenta con una AI capaz de reconocer y clasificar fotos de la galería. Así, si ve fotos similares las agrupará en un álbum que ella misma nombrará. Suena todo muy bien — pero, como toda AI , puede tener fallos. Alcine se encontró con uno de ellos, Google había clasificado y ordenado fotos de los amigos de Alcine que, casualmente, eran personas afroamericanas y las había clasificado como “gorilas”. Así es, Google Fotos, de manera incorrecta, había clasificado a dos afroamericanos como gorilas. Luego de publicar en Twitter sobre el incidente y que su tweet se hiciera viral tuvo una respuesta del entonces Jefe de Interacciones sociales de Google lamentando el incidente.

¿Cuál fue su solución? Uno pensaría que continuarían trabajando en el algoritmo de la AI y focalizarían sus esfuerzos en el problema presentado, pero su solución terminó siendo el bloqueo de palabras como gorila, chimpancé y mono del software. El incidente logró generar debates e hizo que mucha gente se preguntara cuáles eran los procesos y sistemas de Google en cuanto a diversidad.

El caso de Google no es el primero ni el único en la lista. En el camino que, como sociedad, hemos tenido que tomar para adaptarnos a la tecnología y a sus cambios han existido desastres más que bochornosos: El dilema de las búsquedas de Google que entregaban resultados racistas; Tay, el bot de Microsoft que fue entrenado para ser extremadamente racista; o, recientemente, el software que se encargaba de crear rostros a partir de fotos en baja resolución que parecía haber sido entrenado a base de solamente rostros blancos.

A lo largo de su estadía en nuestro mundo, la tecnología moderna ha fallado en representar los estándares de equidad y diversidad de lo que tanto nos enorgullecemos. Suele pasar que los productos con sesgos racistas no se hayan implementado con malas intenciones — pero ahí está el problema.

Estos productos y features son el resultado de siglos de racismo sistemático y sesgos aprendidos desde la edad temprana.

Es un problema que toca solucionar desde nuestro lado, y la manera de empezar es atacar los prejuicios de manera agresiva.

Pero, ¿cómo evitar estos sesgos?

1. Preguntar, preguntar, preguntar — es fundamental entender lo que la otra persona quiere decir y si trabajamos en un equipo con personas que nos pueden dar información de primera mano de estos temas, no cuesta nada preguntar y recibir feedback, solo hay que tener en cuenta el respeto y si la otra persona no se siente cómoda no hay que forzarla a dar información bajo ninguna circunstancia.
2. Tener un equipo diverso. Para que lo anterior pase, tenemos que dar por sentado que trabajamos en un equipo diverso — pero en la industria de la tecnología tenemos pocas probabilidades de que esto suceda. Los números no mienten y puede que este sea el paso más grande que haya que tomar para alcanzar entornos y productos diseñados desde la diversidad.

Datos sobre diversidad en Google. Fijarse en las proporciones de la columna derecha.

3. Que la accesibilidad sea parte fundamental del proceso. Este es el paso en el que incluso las empresas con mejores intenciones suelen fallar. La accesibilidad debe estar en el core del producto, no basta tener 5 personas encargadas de que el producto cumpla con ciertos estándares. Solemos decir que la tecnología tiene que estar en el core de la empresa — lo mismo debería ser aplicado con temas como diversidad y accesibilidad. Desgraciadamente insertar temas diferentes en una empresa o proyecto establecido es de las acciones más complicadas que tomar, implica informar a trabajadores, crear nuevos guidelines, invertir en nuevos procesos e incluso el reclutamiento de personas. Sí, es difícil, pero es un trabajo necesario en la época en la que vivimos.

4. Seguir informándonos e informar a los demás. Preguntar es una buena opción, pero no es la única. Resulta que los grupos de personas racializadas no son enciclopedias andantes y pretender que siempre van a estar dispuestos a ayudarnos es tomar las cosas por dadas. Es nuestro deber como creadores, trabajadores y directores informarnos de estos temas por cuenta propia y eso implica hacer un esfuerzo. ¿Cuántas personas racializadas en la industria de la tecnología sigues en Twitter? ¿Has leído algún libro que toque temas como el sesgo racista en la tecnología? ¿Cuántas personas de color existen en tu entorno laboral? Reflexionar sobre estas preguntas nos ayudará a construir mejores entornos y a tomar acciones que, por más pequeñas sean, tendrán un impacto valioso en nosotros y los que nos rodean.

Necesitamos comenzar por el entendimiento. Construir espacios de trabajo diversos será lo que sigue después de informar e informarnos acerca de las experiencias de la gente oprimida en nuestro entorno. Y sobretodo, debemos empezar a diseñar sabiendo esto, no como un añadido, no como algo de lo que se encarga el departamento de accesibilidad, sino como parte fundamental del proceso.