Piden a Meta priorizar recursos para identificar los videos y audios manipulados con IA

La aplicación que hace Meta de su política de manipulación multimedia “es inconsistente”, según el Consejo Asesor, que insta a la compañía tecnológica a implementar las herramientas que permitan identificar y etiquetar los videos y audios manipulados a gran escala.

Meta identifica las fotografías, vídeos y audios realistas que ha sido manipulados con herramientas de inteligencia artificial con una etiqueta que avisa de este hecho, un cambio en su política que introdujo el año pasado siguiendo las recomendaciones del Consejo asesor.

Sin embargo, el caso de una supuesta conversación entre los hermanos Bafel y Qubad Talabani, miembros de la Unión Patriótica del Kurdistán (UPK), sobre sus planea para manipular las elecciones parlamentarias del Kurdistán iraquí de octubre de 2024, ha llevado al Consejo a afirmar que la aplicación de la política de manipulación multimedia “es inconsistente”.

En concreto, se refiere a un audio que fue publicado en la página de Facebook de un medio de comunicación afiliado al Partido Democrático del Kurdistán (PDK) e identificado como desinformación por dos usuarios, que así lo denunciaron.

Meta desestimó las denuncias, pese a que el Consejo indica que “hay indicadores fiables, incluyendo señales técnicas, de que el clip fue creado digitalmente”. Pero sí actuó sobre publicaciones compartidas en Facebook e Instagram que contenían el mismo clip de audio, que etiquetó para advertir que “este contenido puede haber sido creado digitalmente o alterado para parecer real”. En ningún momento etiquetó el audio como tal.

Al ser consultado por el Consejo sobre el tratamiento que hace del contenido multimedia manipulado, Meta informó de que “solo puede identificar y etiquetar automáticamente imágenes estáticas, no contenido de vídeo o audio”, como se recoge en una nota de prensa.

Por ello, insta a la compañía tecnológica a “priorizar la inversión en tecnología para identificar y etiquetar vídeo y audio manipulados a gran escala” y ha implementar las etiquetas de manipulación multimedia en el idioma local.

Meta reemplazaría al 90 % de sus revisores humanos por IA para detectar riesgos en redes sociales

Semanas atrás, se conoció que Meta planea recurrir principalmente a sistemas de Inteligencia Artificial (IA) para evaluar los posibles riesgos de las nuevas funciones concebidas para integrarse en sus plataformas de redes sociales, sustituyendo en un 90 % a sus equipos de revisión actuales.

A la hora de lanzar nuevas herramientas para sus redes sociales, como Instagram, WhatsApp y Facebook, la compañía liderada por Mark Zuckerberg dispone de equipos de revisores que evalúan los posibles riesgos de dichas funciones antes de lanzarlas, de cara a evitar inconvenientes de privacidad o de propagación de contenido dañino, entre las posibles consecuencias.

Actualmente, estos equipos están compuestos por personal que evalúa mediante distintos procesos las características de las nuevas funciones, sin embargo, Meta está considerando ahora sustituirlos por sistemas impulsados por IA para la mayoría de las evaluaciones de riesgos.

Así lo ha recogido el medio estadounidense NPR, quien ha tenido acceso a documentos internos y a declaraciones de fuentes relacionadas con la compañía, donde se detalla que se trata de una medida pensada para lanzar más productos con mayor rapidez y “con un escrutinio y una oposición menos rigurosa”.

Con información de Europa Press