A raíz de los recientes actos de extrema brutalidad e injusticia y las protestas masivas, estamos examinando nuestro papel en la perpetuación de los sistemas de desigualdad. Somos responsables de nuestro impacto como empresa de tecnología, como lector de noticias y, de manera aguda, como desarrollador de algoritmos de aprendizaje automático para TecnoFans AI.
La inteligencia artificial y el aprendizaje automático son herramientas poderosas que permiten a TecnoFans AI leer miles de artículos publicados todos los días y priorizar una selección superior en función de los temas, las organizaciones y las tendencias que le interesan. Sin embargo, si no se diseñan intencionalmente, estas herramientas corren el riesgo de reforzar sesgos culturales dañinos.
El sesgo se cuela en los algoritmos de aprendizaje automático a través de datos de entrenamiento incompletos o desequilibrados. Sin darnos cuenta, omitimos o sobrerepresentamos ciertas variables y el algoritmo aprende la información incorrecta, a menudo con resultados peligrosos.
En el caso de TecnoFans AI, corremos el riesgo de introducir sesgos al enseñarle temas amplios como “liderazgo”. TecnoFans AI aprende estos temas al encontrar temas comunes en conjuntos de artículos seleccionados por el equipo de TecnoFans. Para el tema “liderazgo”, TecnoFans AI podría elegir temas como sólidas habilidades de gestión y creación de una cultura de equipo de apoyo. Sin embargo, si se publican o agregan más artículos sobre líderes masculinos que femeninos al conjunto de capacitación, TecnoFans AI también podría aprender que ser hombre es una cualidad de liderazgo. El seguimiento de los temas que aprende TecnoFans AI es una parte esencial del modelado de temas que nos ayuda a evitar reforzar nuestros sesgos o los del autor o editor del artículo.
Depende de nosotros, como desarrolladores, ser deliberados y transparentes sobre la forma en que tomamos en cuenta el sesgo en nuestro proceso de capacitación. Con eso en mente, nos complace compartir en qué estamos trabajando para reducir el sesgo en la etapa más crucial: los datos de entrenamiento.
Romper los silos
La colaboración entre personas de diversos orígenes nos ayuda a dar cuenta de nuestros puntos ciegos. Sin embargo, para que esa colaboración sea posible, necesitamos una herramienta accesible. El nuevo modelador de temas es esa herramienta, diseñada para que cualquier miembro de la comunidad de TecnoFans pueda ayudar a seleccionar un conjunto de datos para entrenar a la IA de TecnoFans sobre los temas que les apasionan.
El modelador de temas aprovecha la interfaz de usuario de TecnoFans que conocemos y amamos para permitir que varios usuarios busquen artículos para el conjunto de capacitación y revisen el progreso de aprendizaje de TecnoFans AI. Nuestro objetivo es conectarnos con expertos en una variedad de campos para crear temas sólidos que representen a toda nuestra comunidad, no solo al equipo de ingeniería.
Poner a prueba: el tema de la diversidad
Recientemente, dos miembros del equipo de TecnoFans sin experiencia en aprendizaje automático y que están interesados en temas de diversidad probaron la nueva herramienta para rediseñar nuestro tema de diversidad. El resultado es un tema rico y matizado: en lugar de centrarse solo en la palabra de moda “diversidad”, TecnoFans AI buscará miles de palabras clave relacionadas, que incluyen representación, inclusión, sesgo, discriminación, igualdad de derechos e interseccionalidad. Ahora puede capacitar a TecnoFans AI para realizar un seguimiento del progreso de la diversidad y la inclusión en su industria y encontrar información esencial sobre cómo crear y mantener culturas de trabajo y prácticas de contratación inclusivas.
TecnoFans AI aprende continuamente
El modelado de temas no es la única forma de colaborar. Cualquier usuario de TecnoFans puede ayudar a TecnoFans AI a aprender. Cuando TecnoFans AI está mal, puede usar el botón de flecha hacia abajo ‘Menos como este’ para informarle que un artículo que tiene prioridad no trata sobre un tema en particular.
TecnoFans AI también buscará sus comentarios ocasionalmente a través de un aviso en la parte superior de un artículo. Si ve “¿Este artículo es sobre [topic]?,” ¡déjalo saber! Sus comentarios se incorporan al conjunto de entrenamiento de TecnoFans AI para llenar los vacíos que nos perdimos y fortalecer su comprensión.
Unete al movimiento
Más allá de los comentarios en la aplicación, no dude en comunicarse por correo electrónico o unirse al canal TecnoFans Community Slack, especialmente si tiene un tema para que TecnoFans AI aprenda. Esta es la punta del iceberg cuando se trata de abordar y desmantelar el sesgo sistémico. Nos tomamos muy en serio nuestro papel como mediadores de contenido y sabemos que estamos en deuda con aquellos que han luchado durante tanto tiempo para llamar nuestra atención sobre estos problemas. TecnoFans AI está escuchando y aprendiendo.
