Timnit Gebru: El despido de una investigadora negra, de Google, se convierte en un escándalo global
CALIFORNIA (Uypress)- 13.12.2020
Timnit Gebru, investigadora en inteligencia artificial ética. Foto: liveasiannews.com
A principios de diciembre, la investigadora de Google, Timnit Gebru, recibió un mail, mientras estaba de vacaciones: “Aceptamos tu dimisión inmediatamente, desde hoy”, escrito por una vicepresidenta de la compañía, pero… ella no había dimitido.
Gebru solo había dicho que lo haría en el futuro si no se cumplían "unas condiciones", decisión provocada, aparentemente, por un correo interno en el que criticaba la censura de un artículo académico, según informa El País de Madrid.
Inmediatamente lo anunció en Twitter: "Me han cortado el acceso a la cuenta corporativa. Me han despedido fulminantemente". "Me siento mal por mis colegas, pero para mí es mejor conocer la bestia que hacerlo ver", añadió en otro tuit.
Desde ese momento, y hasta el pasado viernes, 2.351 empleados de Google y 3.729 académicos de todo el mundo firmaron una carta en apoyo de Gebru.
El presidente ejecutivo de Google, Sundar Pichai, escribió un email a todos los empleados, donde decía querer recuperar la confianza de sus trabajadores, pero sin pedir disculpas. La comunidad global de ingenieros e investigadores dedicados a la inteligencia artificial sostiene desde entonces un debate sobre los límites de la investigación financiada por grandes empresas y el papel de Google como compañía, que ya se ha quitado toda máscara tras abandonar su ingenuo eslogan original de "no seas malo".
Gebru es una investigadora pionera en el ámbito de la ética en la inteligencia artificial (IA). Su mayor logro académico fue un artículo de 2018 donde, con otros coautores, descubrió que el reconocimiento facial solo se equivocaba al detectar el género de hombres blancos un 1% de las veces, pero un 35% con mujeres negras.
Inmediatamente lo anunció en Twitter: "Me han cortado el acceso a la cuenta corporativa. Me han despedido fulminantemente". "Me siento mal por mis colegas, pero para mí es mejor conocer la bestia que hacerlo ver", añadió en otro tuit.
Desde ese momento, y hasta el pasado viernes, 2.351 empleados de Google y 3.729 académicos de todo el mundo firmaron una carta en apoyo de Gebru.
El presidente ejecutivo de Google, Sundar Pichai, escribió un email a todos los empleados, donde decía querer recuperar la confianza de sus trabajadores, pero sin pedir disculpas. La comunidad global de ingenieros e investigadores dedicados a la inteligencia artificial sostiene desde entonces un debate sobre los límites de la investigación financiada por grandes empresas y el papel de Google como compañía, que ya se ha quitado toda máscara tras abandonar su ingenuo eslogan original de "no seas malo".
Gebru es una investigadora pionera en el ámbito de la ética en la inteligencia artificial (IA). Su mayor logro académico fue un artículo de 2018 donde, con otros coautores, descubrió que el reconocimiento facial solo se equivocaba al detectar el género de hombres blancos un 1% de las veces, pero un 35% con mujeres negras.
Después de llegar de Etiopía con 16 años, se licenció en Ingeniería Eléctrica en la Universidad de Stanford y participó en la creación del primer iPad en Apple. Luego pasó por Microsoft. Después de su doctorado en visión artificial con la célebre profesora Fei Fei Li, llegó a Google a finales de 2018.
El tipo de despido -por email, de vacaciones- no es el habitual para una figura de este nivel: "Despedir a una persona con un email es el segundo peor modo después de con un post-it", escribió el catedrático e ingeniero español Ricardo Baeza Yates en respuesta a Gebru.
"Causas" y especulación
La especulación sobre las causas reales del despido se disparó. El periodista Jordi Pérez Colomé Estas enumera y analiza las más comentadas durante estos días. Todas reflejan como mínimo cierta falta de sensibilidad, lo que le deja en mal lugar a Google por su comportamiento generoso o delicado con acosadores y otros casos sonados.
El correo electrónico. El correo de la vicepresidenta mencionaba un correo que Gebru escribió a una lista interna de empleados de Google. "Algunos aspectos del correo que enviaste anoche a empleados que no son de la dirección reflejan un comportamiento que es inconsistente con las expectativas de un directivo de Google". ¿Qué decía ese correo? Gebru no pudo recuperarlo porque ya no tenía acceso a su cuenta. Pero a las pocas horas ya estaba en la newsletter del periodista Casey Newton. "Después de todas las micro y macroagresiones y acoso recibido tras mandar mis historias aquí, había dejado de escribir", escribía Gebru.
Pero ese día tenía algo más que decir. El texto entero es un desahogo, una queja pública por cómo la habían tratado sus superiores a propósito de un artículo académico del que se debía "retractar". "Una semana antes de irte de vacaciones te ponen un reunión" contaba Gebru. "Nadie te avisa de qué va. Allí te dicen que 'se ha decidido' que debes rectificar el paper en una semana. No eres digna de tener conversaciones desde que eres alguien cuya humanidad (por no hablar de sus conocimientos reconocidos) no es aceptada o valorada por esta empresa".
Era un correo sobre la presunta censura de un artículo académico que Gebru y otras investigadoras, de dentro y fuera de Google, habían enviado a una conferencia. De repente ese artículo no parecía tener la calidad suficiente. ¿Qué información contendría ese artículo que tanto preocupaba a Google?
El artículo académico.
El tipo de despido -por email, de vacaciones- no es el habitual para una figura de este nivel: "Despedir a una persona con un email es el segundo peor modo después de con un post-it", escribió el catedrático e ingeniero español Ricardo Baeza Yates en respuesta a Gebru.
"Causas" y especulación
La especulación sobre las causas reales del despido se disparó. El periodista Jordi Pérez Colomé Estas enumera y analiza las más comentadas durante estos días. Todas reflejan como mínimo cierta falta de sensibilidad, lo que le deja en mal lugar a Google por su comportamiento generoso o delicado con acosadores y otros casos sonados.
El correo electrónico. El correo de la vicepresidenta mencionaba un correo que Gebru escribió a una lista interna de empleados de Google. "Algunos aspectos del correo que enviaste anoche a empleados que no son de la dirección reflejan un comportamiento que es inconsistente con las expectativas de un directivo de Google". ¿Qué decía ese correo? Gebru no pudo recuperarlo porque ya no tenía acceso a su cuenta. Pero a las pocas horas ya estaba en la newsletter del periodista Casey Newton. "Después de todas las micro y macroagresiones y acoso recibido tras mandar mis historias aquí, había dejado de escribir", escribía Gebru.
Pero ese día tenía algo más que decir. El texto entero es un desahogo, una queja pública por cómo la habían tratado sus superiores a propósito de un artículo académico del que se debía "retractar". "Una semana antes de irte de vacaciones te ponen un reunión" contaba Gebru. "Nadie te avisa de qué va. Allí te dicen que 'se ha decidido' que debes rectificar el paper en una semana. No eres digna de tener conversaciones desde que eres alguien cuya humanidad (por no hablar de sus conocimientos reconocidos) no es aceptada o valorada por esta empresa".
Era un correo sobre la presunta censura de un artículo académico que Gebru y otras investigadoras, de dentro y fuera de Google, habían enviado a una conferencia. De repente ese artículo no parecía tener la calidad suficiente. ¿Qué información contendría ese artículo que tanto preocupaba a Google?
El artículo académico.
Nadie ha publicado el artículo entero. Pero algunos periodistas han podido leerlo. No hay nada explosivo para el sector de IA ética. Habla del inmenso gasto energético que conlleva elaborar modelos de IA: necesitan mucha potencia computacional. También se refiere a los sesgos creados por modelos que escriben después de entrenarse con billones de palabras encontradas en Internet. "Las injusticias estructurales que hay en la sociedad permean los datos. Es muy difícil encontrar datos no sesgados porque la sociedad está sesgada", explica Ariel Guersenzvaig, profesor de la Escuela Universitaria de Diseño e Ingeniería Elisava (Barcelona). Con el lenguaje es evidente: si los modelos se entrenan con lo que decimos repetirán nuestros patrones para siempre.
"Lo que sale en el artículo académico, según se ha publicado hasta ahora, no diré que es sabido, pero cualquiera que conozca la literatura académica no se sorprenderá de nada", dice Guersenzvaig.
"La mujer negra enfadada".
"Lo que sale en el artículo académico, según se ha publicado hasta ahora, no diré que es sabido, pero cualquiera que conozca la literatura académica no se sorprenderá de nada", dice Guersenzvaig.
"La mujer negra enfadada".
Si ni el correo ni el artículo parecen explosivos, ¿quizá fueron solo la excusa? "El paper es probablemente una excusa para sacarse de encima a una persona que les estaba resultando problemática", dice Mara Balestrini, doctora en Ciencias de la Computación por el University College of London.
La definición de "mujer negra enfadada" es la caricatura que hace la propia Gebru sobre el rol que los comunicados de Google parecen querer otorgarle: una persona conflictiva que se ha ganado el despido por pesada. "Me pintan como la mujer negra enfadada porque te ponen en este lugar de trabajo terrible y si hablas de ello te conviertes en el problema", dice Gebru en la única entrevista que ha dado hasta ahora tras el conflicto.
La definición de "mujer negra enfadada" es la caricatura que hace la propia Gebru sobre el rol que los comunicados de Google parecen querer otorgarle: una persona conflictiva que se ha ganado el despido por pesada. "Me pintan como la mujer negra enfadada porque te ponen en este lugar de trabajo terrible y si hablas de ello te conviertes en el problema", dice Gebru en la única entrevista que ha dado hasta ahora tras el conflicto.
Uno de los verbos que Gebru más ha usado es gaslight, que proviene de una obra teatral de principios del siglo XX, llevada luego al cine. Un hombre acosaba psicológicamente a su mujer haciéndole creer que se estaba volviendo loca. Abusar y encima cargar el muerto al otro. Eso es lo que Google ha hecho con ella, según Gebru.
Estos son los hechos, pero el revuelo que ha provocado implica que ha tocado fibras sensibles. En principio es solo un despido más en una empresa con 130.000 empleados. ¿Por qué ha provocado un escándalo así?
"Si me han hecho esto a mí". El gran problema que Gebru ve a su situación es el de todas las mujeres negras que están en una situación más precaria que la suya. Gebru fundó en 2016 el grupo Negros en IA. "La mayor historia para mí es que si esto me ocurre a mí, ¿qué le está pasando a otra gente?", dice Gebru ahora.
Google tiene un 1,6% mujeres negras en su plantilla general, solo un 0,7% en cargos técnicos y un 1,1% en puestos directivos. Casi el 50% de los puestos directivos son para hombres blancos. "Tienes acosadores que se van con millones de dólares", dice Gebru. "Tienes a toda esa gente con un comportamiento tan tóxico que hay otros diciendo 'es que son valiosos para la empresa", "oh es que son socialmente raros" o lo que sea. Y entonces tienes una joven negra que tiene que probarse una y otra vez. Llegué a un punto donde mis conocimientos son valorados por la gente, pero no dentro de Google", añade.
"Si le han hecho esto a ella". Y una empresa que trata así a sus empleados brillantes, ¿cómo tratará a sus miles de millones de usuarios? Esa es la pregunta que se hace Anna Jobin, socióloga e investigadora de la Universidad de Lausanne (Suiza). "Si una compañía como Google no puede soportar lo que Timnit Gebru tiene que decir y escuchar y aprender para innovar mejor, ¿qué pasa con todas los demás asuntos éticos de su negocio? Así que no es ya que los asuntos personales [como los hipotéticos problemas de Gebru en Google] no importen, sino que ya no son solo personales. Son importantes social, política y éticamente", añade.
¿Quién nos permitirá investigar? Las grandes empresas tecnológicas son quizá la mayor fuente de financiación para investigadores como Gebru. Las universidades son esenciales, pero tienen mucho menos dinero. "A mí Intel me financió mi doctorado. La diferencia con lo que podía hacer un doctorando español era abismal", explica Balestrini. "Hay muy pocos empleadores de esta naturaleza. Para la IA ética si no estás en la universidad no hay trabajo. Llegar a Google o Facebook es la posibilidad de acceder a grandes volúmenes de datos", añade.
El trato a Gebru podría suponer un punto de inflexión para la contratación de ingenieros de IA. Si los más sensibles ven que el departamento de ética es despreciado, quizá busquen más allá de Google para trabajar. Balestrini es escéptica: "No quiero ser pesimista, pero no van a dejar de tener grupos de investigadores por esto. Si estas cosas van a cambiar es porque haya más alerta de los problemas técnicos y a la vez surjan más oportunidades de trabajo para investigadores, como ahora ocurrirá con el programa Horizon Europe", dice.
La polémica generada recuerda que Google ya ha dejado de ser para siempre el héroe de las búsquedas. Los problemas que ocurren dentro de sus oficinas se ven con un foco distinto.
UyPress - Agencia Uruguaya de Noticias
Estos son los hechos, pero el revuelo que ha provocado implica que ha tocado fibras sensibles. En principio es solo un despido más en una empresa con 130.000 empleados. ¿Por qué ha provocado un escándalo así?
"Si me han hecho esto a mí". El gran problema que Gebru ve a su situación es el de todas las mujeres negras que están en una situación más precaria que la suya. Gebru fundó en 2016 el grupo Negros en IA. "La mayor historia para mí es que si esto me ocurre a mí, ¿qué le está pasando a otra gente?", dice Gebru ahora.
Google tiene un 1,6% mujeres negras en su plantilla general, solo un 0,7% en cargos técnicos y un 1,1% en puestos directivos. Casi el 50% de los puestos directivos son para hombres blancos. "Tienes acosadores que se van con millones de dólares", dice Gebru. "Tienes a toda esa gente con un comportamiento tan tóxico que hay otros diciendo 'es que son valiosos para la empresa", "oh es que son socialmente raros" o lo que sea. Y entonces tienes una joven negra que tiene que probarse una y otra vez. Llegué a un punto donde mis conocimientos son valorados por la gente, pero no dentro de Google", añade.
"Si le han hecho esto a ella". Y una empresa que trata así a sus empleados brillantes, ¿cómo tratará a sus miles de millones de usuarios? Esa es la pregunta que se hace Anna Jobin, socióloga e investigadora de la Universidad de Lausanne (Suiza). "Si una compañía como Google no puede soportar lo que Timnit Gebru tiene que decir y escuchar y aprender para innovar mejor, ¿qué pasa con todas los demás asuntos éticos de su negocio? Así que no es ya que los asuntos personales [como los hipotéticos problemas de Gebru en Google] no importen, sino que ya no son solo personales. Son importantes social, política y éticamente", añade.
¿Quién nos permitirá investigar? Las grandes empresas tecnológicas son quizá la mayor fuente de financiación para investigadores como Gebru. Las universidades son esenciales, pero tienen mucho menos dinero. "A mí Intel me financió mi doctorado. La diferencia con lo que podía hacer un doctorando español era abismal", explica Balestrini. "Hay muy pocos empleadores de esta naturaleza. Para la IA ética si no estás en la universidad no hay trabajo. Llegar a Google o Facebook es la posibilidad de acceder a grandes volúmenes de datos", añade.
El trato a Gebru podría suponer un punto de inflexión para la contratación de ingenieros de IA. Si los más sensibles ven que el departamento de ética es despreciado, quizá busquen más allá de Google para trabajar. Balestrini es escéptica: "No quiero ser pesimista, pero no van a dejar de tener grupos de investigadores por esto. Si estas cosas van a cambiar es porque haya más alerta de los problemas técnicos y a la vez surjan más oportunidades de trabajo para investigadores, como ahora ocurrirá con el programa Horizon Europe", dice.
La polémica generada recuerda que Google ya ha dejado de ser para siempre el héroe de las búsquedas. Los problemas que ocurren dentro de sus oficinas se ven con un foco distinto.
UyPress - Agencia Uruguaya de Noticias
