Exclusivo: el ejecutivo de Twitter dice que se están moviendo rápido en la moderación a medida que aumenta el contenido dañino

2 dic (Mundo Informático) - El Twitter de Elon Musk se está apoyando fuertemente en la automatización para moderar el contenido, eliminando parte de la edición manual y favoreciendo las restricciones en la distribución en lugar de eliminar algunos discursos por completo, dijo a Mundo Informático su nuevo jefe de gabinete.

Twitter también está restringiendo de manera más agresiva los hashtags y los resultados de búsqueda abusados ​​en áreas que incluyen la explotación infantil, independientemente del impacto potencial en los "usos benignos" de esos términos, dijo Ella Irwin, vicepresidenta de productos para la confianza y la seguridad de Twitter.

"Lo más importante que ha cambiado es que el equipo tiene todo el poder para moverse rápido y ser lo más agresivo posible", dijo Irwin el jueves, en la primera entrevista que dio un ejecutivo de Twitter desde que Twitter adquirió la compañía de redes sociales, parte de Musk. a finales de octubre.

Sus comentarios se producen cuando los investigadores informan un aumento en el discurso de odio en el servicio de redes sociales después de que Musk anunciara una amnistía para las cuentas suspendidas bajo el liderazgo anterior de la compañía que no habían infringido la ley ni estaban involucradas en "spam flagrante".

La empresa se ha enfrentado a preguntas puntuales sobre su capacidad y voluntad para moderar contenido dañino e ilegal desde que Musk recortó a la mitad el personal de Twitter y emitió un ultimátum para trabajar muchas horas que resultó en la pérdida de cientos de empleados más.

Y los anunciantes, la principal fuente de ingresos de Twitter, han abandonado la plataforma por preocupaciones sobre la seguridad de la marca.

El viernes, Musk prometió "un endurecimiento significativo de la moderación del contenido y la protección de la libertad de expresión" en una reunión con el presidente francés, Emmanuel Macron.

Irwin dijo que Musk alentó al equipo a preocuparse menos por cómo sus acciones afectarían el crecimiento de los usuarios o los ingresos, diciendo que la seguridad era la principal prioridad de la empresa. "Lo enfatiza todos los días, varias veces al día", dijo.

El enfoque de seguridad descrito por Irwin refleja, al menos en parte, una aceleración de los cambios que ya se habían planeado desde el año pasado en el manejo de Twitter del comportamiento de odio y otras violaciones de políticas, según ex empleados familiarizados con ese trabajo.

Un enfoque, capturado en el mantra de la industria "libertad de expresión, no libertad de acceso", implica eliminar algunos tweets que violan las políticas de la empresa, pero evitar que aparezcan en lugares como el historial de inicio y la búsqueda.

Twitter ha implementado durante mucho tiempo tales herramientas de "filtro de vista" de desinformación y ya las había incorporado en su política oficial de conducta odiosa antes de la adquisición de Musk. El enfoque permite una expresión más libre, al tiempo que reduce el daño potencial asociado con el contenido viral ofensivo.

La cantidad de tuits con contenido de odio en Twitter aumentó considerablemente en la semana anterior a que Musk tuiteara el 23 de noviembre que las impresiones o opiniones sobre el discurso de odio estaban disminuyendo, según el Centro para contrarrestar el odio digital, en un ejemplo de investigadores que señalan la prevalencia. de dicho contenido, mientras que Musk promueve una reducción de la visibilidad.

Los tuits que contenían palabras anti-negras esa semana triplicaron el número visto en el mes anterior a que Musk asumiera el control, mientras que los tuits que contenían un insulto gay aumentaron un 31%, dijeron los investigadores.

'MÁS RIESGO, MUÉVETE RÁPIDO'

Irwin, quien se unió a la empresa en junio y anteriormente ocupó puestos de seguridad en otras empresas, incluidas Amazon.com y Google, descartó las sugerencias de que Twitter no tenía los recursos o la voluntad para asegurar la plataforma.

Dijo que los despidos no habían afectado significativamente a los empleados o contratistas de tiempo completo que trabajaban en lo que la compañía llamó sus divisiones de "Cuidado de la salud", incluidas las "áreas críticas" como la seguridad y la sujeción de los niños.

Dos fuentes familiarizadas con los recortes dijeron que se despidió a más del 50% de la unidad de ingeniería sanitaria. Irwin no respondió de inmediato a una solicitud de comentarios sobre la declaración, pero previamente negó que el equipo de atención médica se haya visto gravemente afectado por los despidos.

Agregó que la cantidad de personas que trabajan en seguridad infantil no ha cambiado desde la adquisición y que el gerente de producto del equipo todavía estaba allí. Irwin dijo que Twitter llenó algunos puestos para personas que dejaron la empresa, aunque se negó a dar cifras específicas sobre el tamaño de los ingresos.

Dijo que Musk se ha centrado en usar más automatización, argumentando que la compañía había cometido un error en el pasado al usar revisiones humanas de contenido malicioso que requerían mucho tiempo y trabajo.

"Alentó al equipo a tomar más riesgos, moverse rápido, asegurar la plataforma", dijo.

En cuanto a la seguridad infantil, por ejemplo, Irwin dijo que Twitter se ha movido hacia la eliminación automática de tuits marcados por figuras confiables con un historial de informes precisos sobre publicaciones dañinas.

Carolina Christofoletti, investigadora de inteligencia de amenazas en TRM Labs que se especializa en material de abuso sexual infantil, dijo que notó que Twitter eliminó recientemente parte del contenido en solo 30 segundos después de informarlo, sin acusar recibo de su informe ni confirmar su decisión. .

En la entrevista del jueves, Irwin dijo que Twitter eliminó alrededor de 44,000 cuentas involucradas en violaciones de seguridad infantil, en colaboración con el grupo de seguridad cibernética Ghost Data.

Twitter también está restringiendo los hashtags y los resultados de búsqueda a menudo asociados con el abuso, como aquellos destinados a buscar pornografía "adolescente". Las preocupaciones anteriores sobre el impacto de tales restricciones en los usos permitidos de los términos se han desvanecido, dijo.

El uso de "reporteros de confianza" fue "algo que hemos discutido en el pasado en Twitter, pero hubo algunas dudas y, francamente, solo un poco de retraso", dijo Irwin.

"Creo que ahora tenemos la oportunidad de seguir adelante con cosas como esa", dijo.

Información de Katie Paul y Sheila Dang; editado por Kenneth Li y Anna Driver

Nuestros estándares: los principios de confianza de Thomson Mundo Informático.