El funcionamiento del algoritmo de TikTok es probablemente el secreto mejor guardado de la empresa. Pero creemos que ha podido ser resuelto usando un montón de cuentas de bot, y los resultados son fascinantes e inquietantes.
Un exingeniero de Google que trabajó en el algoritmo de YouTube dice que, en esencia, se aplica el mismo enfoque, pero en una forma menos extrema. Oficialmente, TikTok dice que usa cuatro señales: lo que miras, lo que compartes, lo que te gusta y lo que sigues. Pero el análisis sugirió que uno de los cuatro es, con mucho, el más importante.
El WSJ creó un video de 13 minutos para compartir sus hallazgos. Descubrimos que TikTok solo necesita uno de estos para descubrirlo: cuánto tiempo se demora en un fragmento de contenido.
Cada segundo que dudes o vuelves a mirar, la aplicación te rastrea. A través de esta poderosa señal, TikTok aprende tus intereses y emociones más ocultos, y te sumerge en los agujeros del conejo de contenido de los que es difícil escapar.
La experiencia de TikTok comienza de la misma manera para todos. Abra la aplicación e inmediatamente verá una serie interminable de videos en su feed For You. TikTok comienza sirviendo a la cuenta una selección de videos muy populares examinados por los moderadores de la aplicación. A partir de estos, funciona para identificar sus intereses.
El Wall Street Journal programó los bots para que tuvieran una edad, una ubicación y un conjunto de intereses particulares. Esos intereses nunca se ingresaron en la aplicación, solo se usaron como base para elegir los videos que el bot vio. El bot verificó cada video en su feed en busca de hashtags o imágenes identificadas por AI relacionadas con sus intereses. Luego dejaría de desplazarse para ver estos videos y volvería a ver algunos de ellos.
Lo que descubrió el periódico fue que las selecciones de videos y el recuento de reproducciones se contrajeron, desde videos populares sobre cualquier tema, hasta videos muy enfocados en los intereses que había identificado.
Los resultados fueron analizados por el científico de datos y experto en algoritmos Guillaume Chaslot, un ex ingeniero de Google que trabajó en el algoritmo de YouTube. Ahora es un defensor de la transparencia de los algoritmos. Dice que TikTok es diferente de otras plataformas de redes sociales.
«El algoritmo de TikTok puede volverse mucho más poderoso y puede aprender sus vulnerabilidades mucho más rápido».
_
Un ejemplo de cómo funciona el algoritmo de TikTok
TikTok conoció completamente muchos de los intereses de las cuentas en menos de dos horas. Algunos incluso en menos de 40 minutos. Por ejemplo, un bot fue programado con tristeza y depresión como «intereses».
A menos de tres minutos de usar TikTok, en su 15º video, [bot] kentucky_96 hace una pausa en un video triste sobre perder personas de tu vida. Kentucky_96 ve el video de 35 segundos dos veces. Aquí TikTok tiene su primer indicio de que quizás el nuevo usuario se esté sintiendo mal últimamente.La información contenida en este único video proporcionó a la aplicación pistas importantes. El autor del video, la pista de audio, la descripción del video, los hashtags. Después del primer video triste de kentucky_96, TikTok muestra otro 23 videos más tarde, o después de unos cuatro minutos más de visualización.
Este es un video de ruptura con el hashtag #sad. TikTok todavía está tratando de descubrir a este nuevo usuario, con más videos de alto conteo de visualizaciones [pero] en el video 57, kentucky_96 sigue viendo un video sobre desamor y sentimientos heridos. Y luego, en el video 60, ve uno sobre el dolor emocional.
Según los videos que vimos hasta ahora, TikTok cree que tal vez este usuario quiera ver más sobre el amor, las rupturas y las citas. Entonces, con aproximadamente 80 videos y 15 minutos, la aplicación comienza a ofrecer más información sobre las relaciones. Pero kentucky_96 no está interesado.
En cambio, el usuario se detiene en uno sobre salud mental, luego pasa rápidamente videos sobre la pérdida de un ex, consejos sobre cómo seguir adelante y cómo mantener el interés de un amante. Pero kentucky_96 se demora en este video que contiene el hashtag #depresión y estos videos sobre el sufrimiento de la ansiedad.
Después de 224 videos en el viaje general del bot, o aproximadamente 36 minutos de tiempo total de reproducción, la comprensión del algoritmo de TikTok sobre kentucky_96 toma forma. Los videos sobre depresión y problemas de salud mental superan en número a los de relaciones y rupturas. A partir de ahora, el feed de kentucky_96 es una avalancha de contenido depresivo. El 93% de los videos que se muestran en la cuenta son sobre tristeza o depresión.
TikTok dice que el comportamiento del bot no es representativo de los usuarios reales, pero incluso los bots con diversos intereses programados en ellos vieron rápidamente que su contenido se redujo drásticamente.
Dada la enorme popularidad de TikTok entre los adolescentes en particular, esto genera preocupaciones obvias. Alguien en un estado depresivo fácilmente podría deprimirse aún más al ver un flujo de dicho contenido. También es probable que un algoritmo de este tipo empuje a quienes tienen puntos de vista extremistas a contenidos cada vez más extremos.
TikTok parece estar priorizando el compromiso sobre la salud mental, y Chaslot dice que YouTube hace algo similar, pero de una manera menos extrema. ¿Tú que crees? ¿Es este tipo de algoritmo lógico o preocupante?
_