A raíz de los recientes actos de extrema brutalidad e injusticia y protestas masivas, estamos examinando nuestro papel en la perpetuación de los sistemas de desigualdad. Somos responsables de nuestro impacto como empresa de tecnología, como lector de noticias y, especialmente, como desarrollador de algoritmos de aprendizaje automático para Leo, su asistente de investigación de inteligencia artificial.
La inteligencia artificial y el aprendizaje automático son herramientas poderosas que le permiten a Leo leer miles de artículos publicados todos los días y priorizar una selección superior en función de los temas, organizaciones y tendencias que le interesan. Sin embargo, si no se diseñan intencionalmente, estas herramientas corren el riesgo de reforzar los prejuicios culturales dañinos.
El sesgo se cuela en los algoritmos de aprendizaje automático a través de datos de entrenamiento incompletos o desequilibrados. Sin darnos cuenta, perdemos o sobrerrepresentamos ciertas variables y el algoritmo aprende la información incorrecta, a menudo con resultados peligrosos.
En el caso de Leo, corremos el riesgo de introducir sesgos cuando le enseñamos temas generales como “liderazgo”. Leo aprende estos temas al encontrar temas comunes en conjuntos de artículos seleccionados por el equipo de TecnoFans. Para el tema “liderazgo”, Leo podría elegir temas como sólidas habilidades de gestión y la creación de una cultura de equipo de apoyo. Sin embargo, si se publican o agregan más artículos sobre líderes masculinos que femeninos al conjunto de capacitación, Leo también podría aprender que ser hombre es una cualidad del liderazgo. El seguimiento de los temas que aprende Leo es una parte esencial del modelado de temas que nos ayuda a evitar que refuercemos nuestros prejuicios o los del autor o editor del artículo.
Depende de nosotros, como desarrolladores, ser deliberados y transparentes sobre la forma en que contabilizamos los prejuicios en nuestro proceso de capacitación. Con eso en mente, estamos emocionados de compartir en qué estamos trabajando para reducir el sesgo en la etapa más crucial: los datos de entrenamiento.
Romper los silos
La colaboración entre personas de diversos orígenes nos ayuda a dar cuenta de nuestros puntos ciegos. Sin embargo, para hacer posible esa colaboración, necesitamos una herramienta accesible. El nuevo modelador de temas es esa herramienta, diseñada para que cualquier persona de la comunidad de TecnoFans pueda ayudar a seleccionar un conjunto de datos para capacitar a Leo sobre los temas que le apasionan.
El modelador de temas aprovecha la interfaz de usuario de TecnoFans que conocemos y amamos para permitir que varios usuarios busquen artículos para el conjunto de capacitación y revisen el progreso de aprendizaje de Leo. Nuestro objetivo es conectarnos con expertos en una variedad de campos para crear temas sólidos que representen a toda nuestra comunidad, no solo al equipo de ingeniería.
Poner a prueba: el tema de la diversidad
Recientemente, dos miembros del equipo de TecnoFans sin experiencia en aprendizaje automático y que están interesados en temas de diversidad probaron la nueva herramienta para rediseñar nuestro tema de diversidad. El resultado es un tema rico y matizado: en lugar de centrarse solo en la palabra de moda “diversidad”, Leo buscará miles de palabras clave relacionadas, que incluyen representación, inclusión, prejuicio, discriminación, igualdad de derechos e interseccionalidad. Ahora puede capacitar a Leo para realizar un seguimiento del progreso de la diversidad y la inclusión en su industria y encontrar información esencial sobre cómo construir y mantener culturas de trabajo inclusivas y prácticas de contratación.
Leo aprende continuamente
El modelado de temas no es la única forma de colaborar. Cualquier usuario de TecnoFans puede ayudar a Leo a aprender. Cuando Leo se equivoca, puede usar el botón de flecha hacia abajo “Menos como esto” para hacerle saber que un artículo al que ha dado prioridad no se trata de un tema en particular.
Leo también buscará sus comentarios ocasionalmente a través de un mensaje en la parte superior de un artículo. Si ve “¿Este artículo trata sobre [topic]?,” ¡déjalo saber! Sus comentarios se incorporan al conjunto de entrenamiento de Leo para llenar los vacíos que no pudimos y fortalecer su comprensión.
Unete al movimiento
Más allá de los comentarios en la aplicación, no dude en comunicarse por correo electrónico o unirse al canal de TecnoFans Community Slack, especialmente si tiene un tema sobre el que Leo debe aprender. Esta es la punta del iceberg cuando se trata de abordar y desmantelar el sesgo sistémico. Nos tomamos en serio nuestro papel como mediadores de contenido y sabemos que estamos en deuda con aquellos que han luchado durante tanto tiempo para llamar nuestra atención sobre estos temas. Leo escucha y aprende.
