Moderación con IA: el peligro de combatir el spam con más algoritmos
Intentar frenar la marea de contenido basura generado por inteligencia artificial mediante más filtros automatizados está provocando un problema colateral grave en las redes sociales. Aunque la automatización promete velocidad para eliminar el odio y el spam, prescindir del criterio humano destruye la autenticidad de las comunidades. Un caso real que demuestra esta falla ocurrió en Reddit con la comunidad r/AskHistorians. El sistema automatizado eliminó masivamente publicaciones académicas valiosas acumuladas durante años solo porque incluían enlaces a un sitio histórico etiquetado erróneamente como origen de spam, borrando trabajo de investigación sin posibilidad de réplica. El problema se agrava con la tasa de falsos positivos en otras plataformas populares. Discord tuvo que admitir que su filtro automático bloqueó más de 8.000 cuentas de usuarios al confundir patrones visuales inofensivos, como tableros de ajedrez u hojas de cálculo, con imágenes de contenido explícito o ilega...