La ‘sharing economy’ todavía no ha podido erradicar el racismo

En septiembre Airbnb —la plataforma para compartir casas o departamentos— confesó que había sido lento en abordar quejas de discriminación contra huéspedes potenciales que son afroestadounidenses o hispanos; publicó una lista de nuevas políticas para remediar el problema. No se han implementado estos remedios suficiente tiempo para determinar si sirven. Sin embargo, Ray Fisman —economista en la Universidad Boston— y Michael Luca —profesor de Negocios en la Universidad Harvard— han identificado un área en que las propuestas antidiscriminación de Airbnb se quedan cortas: la recopilación y divulgación de datos sobre la raza y el género de sus s.

Al escribir para el número de diciembre de Harvard Business Review, Fisman y Luca dicen que reportar estos tipos de datos demográficos regularmente es un “paso necesario (…) hacia revelar y enfrentar cualquier problema” con discriminación. Luca era parte de un grupo de investigadores que investigaron el problema de prejuicio racial de Airbnb al crear 20 perfiles falsos en Airbnb en que una mitad tenía nombres comúnmente usados entre afroestadounidenses y la otra mitad tenía nombres comunes entre blancos. Los s falsos se comunicaron con aproximadamente 6,400 anfitriones sobre sus propiedades en alquiler.

He aquí lo que sucedió, según el reporte: “ Las peticiones realizadas con nombres que [parecían ser de] afroestadounidenses tenían una probabilidad un 16% menor de ser aceptadas [en comparación con] las que se hicieron con nombres que [parecían ser de] blancos. Y la discriminación era generalizada: ocurría con listados baratos y caros, en barrios diversos y en los homogéneos, habitaciones en la misma casa del anfitrión y unidades separadas alquiladas por dueños con múltiples listados. La mayoría de los anfitriones que negaron peticiones de perfiles que ‘sonaban’ afroestadounidenses nunca habían tenido un huésped afroestadounidense, lo cual sugiere que algunos anfitriones son particularmente inclinados hacia la discriminación basada en la raza”.

La autoauditoría que hizo Airbnb en septiembre reconoció esto como un problema, pero la compañía dista mucho de ser el único negocio de la economía del compartir que sea culpable de esto. Según Luca y Fisman, una gran parte del problema es que estos negocios se han ido volviendo más dependientes de algoritmos y datos grandes para manejar el comercio en línea.

Alguna vez se creyó que el comercio impulsado por algoritmos podría reducir los efectos del racismo, dado que el papel de los humanos se minimiza en estos tipos de transacciones. En cambio, Fisman y Luca dicen que en muchos casos la dependencia en algoritmos ha “nutrido, y no suprimido, la discriminación”. Así lo explica en su artículo en Harvard Business Review:

“De hecho, la discriminación generada por algoritmos ocurre en formas que los humanos probablemente evitarían. En un estudio esclarecedor, Latanya Sweeney —profesora de Ciencias de Computación— trató de entender el papel de la raza en anuncios de Google. Buscó nombres afroestadounidenses comunes (tales como Deshawn y, bueno, Latanya) y registró los anuncios que aparecían con los resultados. Entonces buscó nombres —como Geoffrey— que son más comunes entre blancos. Eran más probable que las búsquedas por nombres que sonaban más afroamericanos generaran anuncios que ofrecían investigar posibles antecedentes penales”.

Cathy O’Neil —antigua analista cuantitativa de Wall St.— enfatizó este punto en su libro Weapons of Math Destruction (Armas de destrucción matemática) y habló de cómo los algoritmos pueden ellos mismos convertirse en vías para el racismo:

“Las aplicaciones alimentadas por la economía de datos fueron basadas en elecciones hechas por seres humanos falibles. Algunas de estas elecciones sin duda se hicieron con las mejores intenciones. Sin embargo, muchos de los modelos codificaron el prejuicio humano, el malentendido y discriminación en sistemas de software que cada vez más istraron nuestras vidas (…) Y tendían a castigar a los pobres y a los oprimidos mientras que volvían más ricos a los ricos”.

No es que las plataformas en línea —ya sean Airbnb o Google—, tengan el propósito de reforzar la discriminación racial al anunciar o al vender bienes y servicios. El problema está más bien con los datos de los que estas plataformas dependen, los cuales reflejan el racismo que ya existe en la sociedad estadounidense y en sus instituciones. Antes de que existiera Airbnb, la gente temporalmente alquilaba cuartos y casas mediante Craiglist, donde los inquilinos potenciales afroestadounidenses se filtraban explícitamente incluso durante tiempos de gran necesidad, como después del ciclón Katrina.

Los algoritmos no eliminan ese tipo de racismo naturalmente de las transacciones de negocios: si datos generados de una sociedad racista es lo que se incorpora a la fórmula, el racismo es lo que sale. Y cuando una compañía no recopila en lo absoluto los datos sobre raza o géneros, no debe sorprenderse cuando resulta difícil limitar racismo y machismo en el lado del . Sin embargo, dichos problemas se pueden corregir al crear algoritmos que están más en sintonía al prejuicio potencial, según escriben Fisman y Luca. Otra posible solución sería diseñar sitios web que ofrecen menos oportunidades para que suceda la discriminación.

Al citar las aplicaciones de transporte como un ejemplo, Fisman y Luca señalan el hecho de que la app de Uber no les muestra a los conductores las fotos de los pasajeros que reservan transporte, mientras que Lyft sí hace esto. Fisman y Luca dicen que esto hace que les sea más fácil los conductores de Lyft rechazar a la gente basado en raza u otros factores. Sin embargo, un estudio reciente de la Oficina Nacional de Investigación Económica encontró pruebas más claras de discriminación racial entre conductores de Uber que en los de Lyft, por lo menos en Boston y Seattle. Sin embargo, el estudio también reconoció que Lyft aún podría discriminar al rechazar pasajeros desde el principio al deducir su raza mediante los nombres o las caras de los pasajeros potenciales. En septiembre Airbnb anunció que estaría llevando a cabo experimentos parecidos con la ocultación de las fotos de sus s.

Airbnb también ha propuesto aumentar el uso de su característica “ instant book" (alquiler instantáneo), la cual le permite a un inquilino potencial alquilar una propiedad seleccionada automáticamente sin requerir preaprobación por parte del anfitrión. Pero los anfitriones de Airbnb tienen que optar por inclusión en esta opción voluntariamente, lo cual les da a los anfitriones racistas la posibilidad de seguir siendo racistas. Luca y Fisman recomiendan que Airbnb hagan que “ instant book” una característica por defecto en que los anfitriones tienen que pagar un precio para excluirse.

Nick Papas —portavoz de Airbnb— le dice a CityLab que la compañía aún está en las etapas tempranas de sus esfuerzos antidiscriminación. “La propuesta que planteamos en septiembre sólo era el comienzo de nuestros esfuerzos por luchar en contra del prejuicio y la discriminación”, dice. “Estamos ansiosos por colaborar con investigadores y expertos que comparten nuestro compromiso con construir una comunidad que sea justa para todos y repasaremos todas estas recomendaciones. Hemos iniciado el nuevo compromiso comunitario, hemos provisto capacitación antidiscriminatoria a los anfitriones y estamos trabajando activamente en una gama de experimentos, pero sabemos que tenemos más que hacer y haremos todo lo que podamos para crear una comunidad que sea justa para todos”.

Una cosa que sería útil: mejorar la diversidad racial entre los empleados y el liderazgo de empresas como Airbnb. Luca y Fisman no mencionaron esto en su artículo, pero la diversidad de la fuerza laboral es un área en que la industria tecnológica en general fracasa completamente. En su favor, Airbnb es una de las pocas empresas en este sector que ha estado tomando pasos para abordar su problema con la diversidad. En el reporte más reciente que Airbnb entregó a la Equal Employment Opportunity Commission ( Comisión para la Igualdad de Oportunidades de Empleo), la empresa mostró que sólo un 2.9% de su personal son afroamericanos mientras que un 10% de su personal se identifican como minorías. La empresa puso la meta de incrementar ese porcentaje a un 11% en 2017.

Por desgracia, parece que muchos de los remedios propuestos para reducir la discriminación —ya sean de Luca y Fisman o bien de las mismas empresas— dependen fuertemente de ocultar las características físicas de los consumidores. Omitir la foto de un pasajero potencial de Uber o de un inquilino de Airbnb literalmente significa ocultar la raza o género del para protegerlos de la negación de servicios. Tal ocultación sólo es necesaria porque el racismo o el machismo son inevitables. Estamos en el siglo XXI y el mercado aún no puede contar con que la gente suspenderá su prejuicio en nombre de las ganancias.

Las personas sometidas al racismo pueden tratar de 'castigar' a estas empresas a llevar su patrocinio a otras plataformas que sean más inclusivas —y esto está sucediendo— pero al hacer esto se encuentran obligados a limitar su propia movilidad en cuanto al ocio y sus opciones. Probablemente se necesitará algo como los consumidores blancos decidiendo en masa que ya no serán clientes de estas plataformas si no son capaces o si no están dispuestos a dejar de discriminar. Sin duda las empresas responderían a ese tipo de datos.

Este artículo fue publicado originalmente en inglés en CityLab.com.