Correctamente, ¿qué está pasando con el cálculo de LinkedIn?

Un día de noviembre, una estratega de producto a la que llamaremos Michelle (no es su nombre existente), inició sesión en su cuenta de LinkedIn y cambió su existencias a masculino. Asimismo cambió su nombre a Michael, le dijo a TechCrunch.

Ella estaba participando en un indagación llamado #WearthePants donde mujeres examinadas la hipótesis de que el nuevo cálculo de LinkedIn estaba sesgado contra las mujeres.

Durante meses, poco de LinkedIn pesado Los usuarios se quejaron de ver caídas en el compromiso y las impresiones en la red social orientada a la carrera. Esto se produjo luego de que el vicepresidente de ingeniería de la empresa, Tim Jurka, dijo en agosto que la plataforma había implementado “más recientemente” LLM para ayudar a mostrar contenido útil para los usuarios.

Michelle (cuya identidad es conocida por TechCrunch) sospechaba de los cambios porque tiene más de 10.000 seguidores y escribe publicaciones aparición para su marido, que sólo tiene más o menos de 2.000. Sin bloqueo, ella y su marido tienden a obtener la misma cantidad de impresiones de publicaciones, dijo, a pesar de tener más seguidores.

“La única variable significativa fue el existencias”, dijo.

Marilynn Joyner, una de las fundadoras, incluso cambió el existencias de su perfil. Ha estado publicando constantemente en LinkedIn durante dos primaveras y en los últimos meses notó que la visibilidad de sus publicaciones disminuyó. “Cambié mi existencias en mi perfil de mujeril a masculino y mis impresiones aumentaron un 238% en un día”, dijo a TechCrunch.

Megan Cornish informó resultados similares, al igual que Rosie Taylor, Jessica Doyle Mekkes, Abby Nydam, Felicity Menzies, Lucy Ferguson y pronto.

LinkedIn dijo eso su “cálculo y sistemas de inteligencia industrial no utilizan información demográfica como años, raza o existencias como señal para determinar la visibilidad del contenido, perfil o publicaciones en el Feed” y que “una instantánea en paralelo de las actualizaciones de su propio feed que no son perfectamente representativas o de igual significación no implican automáticamente un trato injusto o sesgo” adentro del Feed.

Los expertos en algoritmos sociales coinciden en que el sexismo palmario puede no activo sido una causa, aunque puede activo un sesgo implícito en articulación.

Las plataformas son “una intrincada sinfonía de algoritmos que accionan palancas matemáticas y sociales específicas, de forma simultánea y constante”. Brandeis Marshalldijo a TechCrunch un asesor de ética de datos.

“El cambio de la foto de perfil y el nombre es sólo una de esas palancas”, dijo, añadiendo que el cálculo incluso está influenciado, por ejemplo, por cómo un heredero tiene e interactúa actualmente con otros contenidos.

“Lo que no conocemos son todas las otras palancas que hacen que este cálculo priorice el contenido de una persona sobre el de otra. Este es un problema más complicado de lo que la masa supone”, dijo Marshall.

codificado por hermanos

El #Usalospantalones El indagación comenzó con dos empresarias: Cindy Gallop y Jane Evans.

Pidieron a dos hombres que crearan y publicaran el mismo contenido que ellos, con curiosidad por asimilar si el existencias era la razón por la que tantas mujeres sentían una caída en el compromiso. Gallop y Evans uno y otro tener un número considerable de seguidores – más de 150.000 combinados en comparación con los dos hombres que tenían más o menos de 9.400 en ese momento.

Gallop informó que su publicación llegó solo a 801 personas, mientras que el hombre que publicó Exactamente el mismo contenido llegó a 10.408 personas, más del 100% de sus seguidores. Luego participaron otras mujeres. Algunos, como Joyner, que utiliza LinkedIn para promocionar su negocio, se preocuparon.

“En realidad me encantaría ver que LinkedIn se responsabilice por cualquier sesgo que pueda existir adentro de su cálculo”, dijo Joyner.

Pero LinkedIn, al igual que otras plataformas de búsqueda y redes sociales dependientes de LLM, ofrece pocos detalles sobre cómo se entrenaron los modelos de selección de contenido.

Marshall dijo que la mayoría de estas plataformas “han incorporado de forma innata un punto de tino blanco, masculino y centrado en Oeste” adecuado a quién entrenó a los modelos. Los investigadores encuentran evidencia de prejuicios humanos como el sexismo y el racismo en modelos LLM populares porque los modelos están entrenados en contenido generado por humanos, y Los humanos a menudo están directamente involucrados en el post-entrenamiento. o estudios por refuerzo.

Aún así, la forma en que una empresa individual implementa sus sistemas de inteligencia industrial está envuelta en el secreto de la caja negra algorítmica.

LinkedIn dice que el indagación #WearthePants no podría activo demostrado un sesgo de existencias contra las mujeres. La manifiesto de agosto de Jurka decía, y el Principal de Gobernanza e Inteligencia Fabricado Responsable de LinkedIn, Sakshi Jain, Reiterado en otro post. en noviembre, que sus sistemas no utilizan la información demográfica como señal de visibilidad.

En cambio, LinkedIn le dijo a TechCrunch que prueba millones de publicaciones para conectar a los usuarios con oportunidades. Dijo que los datos demográficos se utilizan sólo para este tipo de pruebas, como ver si las publicaciones “de diferentes creadores compiten en pie de igualdad y que la experiencia de desplazamiento, lo que se ve en el feed, es consistente en todas las audiencias”, dijo la compañía a TechCrunch.

LinkedIn se ha destacado por investigando y ajustando su cálculo para intentar ofrecer una visión menos sesgada experiencia para los usuarios.

Son las variables desconocidas, dijo Marshall, las que probablemente explican por qué algunas mujeres vieron un aumento en las impresiones luego de cambiar el existencias de su perfil a masculino. Participar en una tendencia vírico, por ejemplo, puede originar un aumento de la décimo; algunas cuentas publicaron por primera vez en mucho tiempo y el cálculo posiblemente podría haberlas recompensado por hacerlo.

El tono y el estilo de escritura incluso pueden influir. Michelle, por ejemplo, dijo que la semana que publicó como “Michael” ajustó sutilmente su tono y escribió en un estilo más simplista y directo, como lo hace con su marido. Fue entonces cuando dijo que las impresiones aumentaron un 200 % y las interacciones aumentaron un 27 %.

Concluyó que el sistema no era “explícitamente sexista”, pero parecía considerar los estilos de comunicación comúnmente asociados con las mujeres “un indicador de último valencia”.

Hombre estereotipado Se cree que los estilos de escritura son más concisos.mientras que el Estereotipos de estilo de escritura para mujeres. Se imagina que son más suaves y más emocionales. Si un LLM está capacitado para impulsar la escritura que cumpla con los estereotipos masculinos, eso es un sesgo sutil e implícito. Y como informamos anteriormentelos investigadores han determinado que la mayoría de los LLM están plagados de ellos.

Sarah Dean, profesora asistente de informática en Cornell, dijo que plataformas como LinkedIn a menudo utilizan perfiles completos, adicionalmente del comportamiento del heredero, al determinar el contenido que se debe promocionar. Eso incluye trabajos en el perfil de un heredero y el tipo de contenido con el que suele interactuar.

“La demografía de una persona puede afectar ‘uno y otro lados’ del cálculo: lo que ve y quién ve lo que publica”, dijo Dean.

LinkedIn le dijo a TechCrunch que sus sistemas de inteligencia industrial analizan cientos de señales para determinar qué se envía a un heredero, incluida información del perfil, la red y la actividad de una persona.

“Realizamos pruebas continuas para comprender qué ayuda a las personas a encontrar el contenido más relevante y oportuno para sus carreras”, dijo el portavoz. “El comportamiento de los miembros incluso da forma al feed, lo que las personas hacen clic, guardan y con lo que interactúan cambia diariamente, y qué formatos les gustan o no. Este comportamiento incluso da forma lógicamente a lo que aparece en los feeds cercano con nuestras actualizaciones”.

Chad Johnson, un hábil en ventas activo en LinkedIn, descrito los cambios son despriorizar los me gusta, los comentarios y las publicaciones. Al sistema LLM “ya no le importa la frecuencia con la que publicas o a qué hora del día”, escribió Johnson en una publicación. “Le importa si su escritura muestra comprensión, claridad y valencia”.

Todo esto hace que sea difícil determinar la verdadera causa de cualquier resultado de #WearthePants.

A la masa simplemente no le gusta el poco.

Sin bloqueo, parece que a muchas personas, de todos los géneros, no les gusta o no entienden el nuevo cálculo de LinkedIn, sea lo que sea.

Shailvi Wakhulu, científica de datos, dijo a TechCrunch que ha promediado al menos una publicación por día durante cinco primaveras y solía ver miles de impresiones. Ahora ella y su marido tienen suerte de ver unos cientos. “Es desmotivador para los creadores de contenido con un gran número de seguidores leales”, dijo.

Un hombre le dijo a TechCrunch que vio una caída del 50% en la décimo en los últimos meses. Aún así, otro hombre dijo que ha manido que las impresiones de publicaciones y el significación aumentan más del 100 % en un errata de tiempo similar. “Esto se debe en gran medida a que escribo sobre temas específicos para audiencias específicas, que es lo que remuneración el nuevo cálculo”, dijo a TechCrunch, y agregó que sus clientes están viendo un aumento similar.

Pero según la experiencia de Marshall, ella, que es negra, cree que las publicaciones sobre sus experiencias funcionan peor que las publicaciones relacionadas con su raza. “Si las mujeres negras sólo interactúan cuando hablan de mujeres negras pero no cuando hablan de su experiencia particular, entonces eso es un sesgo”, dijo.

El investigador Dean cree que el cálculo puede estar simplemente amplificando “cualesquiera señales que ya existan”. Podría ser gratificante ciertas publicaciones, no por la demografía del escritor, sino porque ha habido un veterano historial de respuesta a ellas en toda la plataforma. Si proporcionadamente Marshall puede activo tropezado con otra radio de sesgo implícito, su evidencia anecdótica no es suficiente para determinarlo con certeza.

LinkedIn ofreció algunas ideas sobre lo que funciona proporcionadamente ahora. La compañía dijo que la cojín de usuarios ha crecido y, como resultado, las publicaciones aumentaron un 15% año tras año, mientras que los comentarios aumentaron un 24% año tras año. “Esto significa más competencia en el pienso”, afirmó la empresa. Las publicaciones sobre conocimientos profesionales y lecciones profesionales, telediario y estudio de la industria, y contenido educativo o informativo sobre el trabajo, los negocios y la patrimonio están funcionando proporcionadamente, dijo.

En todo caso, la masa simplemente está confundida. “Quiero transparencia”, dijo Michelle.

Sin bloqueo, como los algoritmos de selección de contenido siempre han guardado celosamente los secretos de sus empresas, y la transparencia puede admitir a engañarlos, esa es una gran pregunta. Es poco que es poco probable que alguna vez quede satisfecho.