Un algoritmo de inteligencia artificial causó graves daños a una escritora argentina al identificarla erróneamente como una persona que aparecía en material audiovisual de Ceuta. Flavia Broffoni, politóloga de profesión, pasó a ser blanco de múltiples amenazas, incluyendo mensajes de muerte y violación, derivados directamente de la confusión tecnológica.

El hecho comenzó cuando la herramienta de IA vinculó a Broffoni con una activista identificada en un video grabado en Ceuta, España. A partir de esa conexión falsa, la mujer argentina recibió una cadena de emails y mensajes agresivos, todos basados en la equivocación del sistema automático. La propagación fue masiva, generando lo que se describió como una verdadera «catarata» de contenido amenazante.

El episodio evidencia un problema creciente en la era de la inteligencia artificial: la amplificación de errores técnicos a través de canales digitales. Cuando un algoritmo comete un error de identificación, ese error no queda contenido en el sistema que lo originó, sino que puede dispersarse rápidamente entre múltiples usuarios y plataformas, multiplicando sus consecuencias.

Para Broffoni, el impacto fue directo y amenazante. Enfrentó contenido de naturaleza criminal dirigido contra ella, basado enteramente en una confusión que ella no originó y sobre la que no tenía control. Esto subraya cómo las vulnerabilidades de los sistemas automáticos pueden transformarse en peligros tangibles para personas específicas.

El caso invita a reflexionar sobre varios aspectos: la necesidad de validaciones humanas antes de difundir identificaciones realizadas por máquinas, la responsabilidad de las empresas que despliegan estas tecnologías, y los derechos de protección que deberían asistir a quienes resultan perjudicados. La historia de Broffoni es un recordatorio de que los errores de inteligencia artificial no son meramente técnicos: tienen consecuencias reales en la seguridad y dignidad de las personas.

Con informacion de La Pampa 24