Durante este fin de semana, la controversia en tiktok aumentó drásticamente.
Miles de usuarias se unieron para reclamar por el bloqueo de la palabra “mujer” y la alteración de nombres propios femeninos.
Resulta que Tik Tok estaba censurando la palabra “mujer” en todos los idiomas y cuando se escribía un nombre femenino, por ejemplo “Andrea” el algoritmo lo reemplazaba por “Andrés”. Esto fue comprobado por varias usuarias de diferentes países con nombres como Andrea, Antonia, Fernanda, Gabriela y similares.
Hoy domingo 18 de octubre, la plataforma TikTok comenzó a restaurar los resultados de búsqueda y la visibilidad de las publicaciones.
Aunque la solución técnica parece haber retornado la app a la normalidad, la conversación lejos de apagarse ha tomado un tono mucho más analítico y crítico.
Muchos se preguntan su esto fue una falla técnica no intencionada, un intento fallido de moderación, la manipulación de los propios usuarios o una evidente contradicción del algoritmo
Las teorías de la comunidad: ¿error de código, moderación o comportamiento de los usuarios?
Frente a la falta de un informe detallado de la plataforma, en redes sociales han surgido diferentes explicaciones sobre por qué se impuso esta restricción:
Algunos creen que los usuarios han realizado una gran cantidad de informes o han usado repetidamente ciertas palabras en comentarios de acoso. Estas acciones podrían haber activado las alertas del sistema. La Inteligencia Artificial, al detectar un aumento inusual de “conflicto” relacionado con la palabra “mujer”, habría restringido esa palabra como medida preventiva.
Otra idea es que los filtros de seguridad estaban mal ajustados. Los ingenieros de la plataforma intentaron mejorar los sistemas para evitar discursos de odio o contenido inapropiado, pero el ajuste fue tan fuerte que terminó eliminando lenguaje común y nombres propios femeninos.
También se menciona que los modelos de IA pueden tener sesgos. Los analistas en tecnología señalan que estos sistemas suelen entrenarse con bases de datos donde los términos relacionados con mujeres se asocian frecuentemente con contenido sensible. Por eso, la máquina podría estar castigando de forma automática la identidad femenina.
La paradoja del buscador: una contradicción que encendió las molestias
Más allá de cuál haya sido la causa inicial, lo que más molesta a los usuarios es la clara desigualdad que mostró el buscador durante los días que duró el problema.
Mientras que la palabra “mujer” y nombres propios de emprendedoras, científicas y educadoras eran bloqueados o cambiados en sus publicaciones, el sistema de autocompletar de TikTok seguía ofreciendo sugerencias de búsqueda ligadas a estereotipos, e incluso a contenido sexual.
Esta contradicción genera un fuerte malestar en la comunidad, porque si el objetivo era proteger a las personas o evitar el acoso, no tiene sentido que se censuren términos identitarios básicos, alineados con iniciativas internacionales de Naciones Unidas para proteger la visibilidad y equidad de género, mientras se dejan activas búsquedas con contenido explícito.
El impacto en la economía digital y la confianza de las marcas
Para el ecosistema de la creator economy, los emprendimientos Femtech y las PyMEs lideradas por mujeres, que la situación se haya solucionado no elimina la incertidumbre:
-
Vulnerabilidad del negocio: El episodio demostró lo frágil que es depender del alcance orgánico de un algoritmo. Una restricción temporal —ya sea por error del software o por dinámicas de reporte de los usuarios— interrumpe campañas, reduce ventas y congela la tracción comercial.
-
La exigencia de transparencia: La comunidad digital no solo pide que el sistema funcione, sino que la empresa explique de forma clara cómo operan sus filtros para evitar que un problema similar vuelva a comprometer la visibilidad de sus proyectos,
¿Qué nos enseña sobre la responsabilidad digital?
El caso de la palabra “mujer” en TikTok marca un hito en el debate sobre la interacción entre la tecnología y el comportamiento humano.
Ya sea por un error en la arquitectura de la Inteligencia Artificial, por el uso indebido de los usuarios o por fallas en las políticas de seguridad, lo ocurrido demuestra que la moderación automatizada aún enfrenta graves desafíos de criterio y equidad.
Para plataformas que funcionan como la plaza pública moderna, garantizar la transparencia y corregir estas contradicciones no es solo un ajuste técnico: es un compromiso esencial con la sostenibilidad digital y la confianza de su comunidad.
Pingback: ¿Nos escuchan los celulares? La verdad sobre la publicidad dirigida y el rastreo de datos -