Tijuana Times.- Google despidió a Margaret Mitchell, fundadora y codirectora de su unidad de ética de inteligencia artificial, por violar el código de conducta de la empresa.
El despido se produjo menos de tres meses después de la controvertida salida de otra figura de alto rango en la unidad de ética de inteligencia artificial de la empresa, Timnit Gebru.
Google dijo que una investigación encontró que Mitchell había movido archivos fuera de la empresa.
“Después de realizar una revisión de la conducta de este gerente, confirmamos que hubo múltiples violaciones de nuestro código de conducta, así como de nuestras políticas de seguridad, que incluían la exfiltración de documentos confidenciales sensibles a la empresa y datos privados de otros empleados”, Google dijo en un comunicado.
Mitchell aparentemente usó un script automatizado para revisar sus correos electrónicos con el fin de encontrar evidencia sobre el derrocamiento de Gebru. Había estado excluida de los sistemas de Google durante las últimas cinco semanas antes de su despido.
A pesar de su puesto en la empresa, Mitchell era una feroz crítica de Google. Tanto Mitchell como Gebru habían hecho campaña por una mayor diversidad en Google y expresaron su preocupación por la censura dentro de la empresa.
Según su LinkedIn, Mitchell se unió a Google en 2016 como investigadora científica senior. Dos años después, ayudó a iniciar el equipo de IA ética junto a Gebru.
Ella tuiteó “Estoy despedida” poco después de conocer la decisión de la empresa.
Un día antes del despido de Mitchell, Google anunció la reorganización de sus equipos de inteligencia artificial que trabajan en la ética y la justicia.
La compañía dijo que Marian Croak, una destacada ejecutiva negra de su departamento de ingeniería, ahora lideraría “un nuevo centro de experiencia en IA responsable dentro de Google Research”. Ella reportaría a Jeff Dean, el jefe de la división de inteligencia artificial de la empresa.
Dean quería un nuevo comienzo. En un correo electrónico interno, se disculpó con el personal por la forma en que la empresa manejó la salida de Gebru.
“Escuché y reconocí lo que la salida de la Dra. Gebru significó para las tecnólogas, para las personas de la comunidad negra y otros grupos subrepresentados que siguen carreras en tecnología, y para muchos que se preocupan profundamente por el uso responsable de la inteligencia artificial por parte de Google. Eso llevó a algunos a cuestionar su lugar aquí, lo cual lamento ”, dijo Dean.
La abrupta salida de Gebru pone a Google en mala posición
Gebru es una investigadora de renombre conocida por su trabajo sobre el sesgo en la tecnología de reconocimiento facial. En 2018, ayudó a detener el lanzamiento de un sistema de reconocimiento facial de Amazon que utilizan las agencias policiales. Demostró que el defectuoso sistema de Amazon era un 34 por ciento menos capaz de identificar correctamente a las mujeres negras en comparación con su capacidad para identificar correctamente a los hombres blancos porque el conjunto de datos utilizado para entrenar a la IA contenía principalmente caras blancas.
Su abrupta salida de Google fue un shock.
En diciembre de 2020, Gebru fue convocada a una reunión sobre un trabajo de investigación que había coescrito. Dijo que se le ordenó retractarse del trabajo de investigación y que Google no estaba preparado para entablar una discusión sobre el asunto.
Después de la reunión, criticó la decisión en un correo electrónico enviado a un grupo interno llamado “Brain Women and Allies”.
“No vale la pena tener ninguna conversación sobre esto, ya que no eres alguien cuya humanidad … es reconocida o valorada en esta empresa”, dijo en el correo electrónico. “Deje de escribir sus documentos porque no hace ninguna diferencia”.
Gebru también envió un correo electrónico a la gerencia, exponiendo algunas condiciones clave para eliminar su nombre del periódico. Si no se cumplían, Gebru dijo que “trabajaría en una última fecha” para su empleo.
Según Gebru, Google respondió: “Respetamos su decisión de dejar Google… y estamos aceptando su renuncia. Sin embargo, creemos que el final de su empleo debería ocurrir más rápido de lo que refleja su correo electrónico porque ciertos aspectos del correo electrónico que envió anoche a los empleados que no son administradores en el grupo de cerebros reflejan un comportamiento que es inconsistente con las expectativas de un gerente de Google “.
Gebru negó que hubiera renunciado. “Supongo que [la gerencia] decidió por mí”, dijo.
El artículo de investigación titulado “Sobre los peligros de los loros estocásticos: ¿Pueden los modelos lingüísticos ser demasiado grandes?” permanece inédito.
Después de conocer el destino de Gebru, muchos dentro de la comunidad científica cuestionaron la ética de realizar investigaciones con grandes empresas de tecnología. Desde su despido, una carta abierta apoyando a Gebru ha atraído a miles de signatarios de Google y de la industria en general.
Joy Buolamwini, coautora de Gebru en uno de los muchos artículos de investigación que había escrito, dijo que su colega “merecía más” de Google.
“Derrocar a Timnit por tener la audacia de exigir la integridad de la investigación socava gravemente la credibilidad de Google para respaldar una investigación rigurosa sobre la ética de la IA y la auditoría algorítmica”, dijo Buolamwini. “Tenemos una deuda de gratitud con ella por avanzar no solo en el campo de la inteligencia artificial, sino por promover la igualdad con humildad y gracia”.
