Los gigantes de la IA se alían contra un enemigo común: la explotación infantil

*Con 36 millones de reportes de explotación infantil en 2022, está claro que hay mucho trabajo por delante

Espresso Matutino . | Ciudad de México | 24 Abr 2024

¿Qué une a OpenAI, Meta y Google en la era de la IA generativa? No, no es un proyecto secreto de chatbots, sino una causa mucho más noble: combatir la explotación infantil.

Junto a Thorn y All Tech Is Human, estos titanes tecnológicos implementarán medidas de seguridad más estrictas en sus herramientas.

El propósito es claro: frenar la creación de contenido sexualizado de menores antes de que estas tecnologías se propaguen y causen más daño.

Las medidas incluyen:

Evitar conjuntos de datos con contenido sexual infantil y depurar sus materiales de entrenamiento.

Invertir en pruebas regulares para encontrar y corregir brechas que permitan generar dicho contenido.

Eliminar enlaces a servicios que desnudan imágenes de niños, un problema que ha surgido en las escuelas secundarias.

Pero no es tan simple como parece. Encontrar el equilibrio entre seguridad y utilidad es un desafío, y algunas medidas requerirán avances técnicos y acuerdos con reguladores.

En perspectiva: Con 36 millones de reportes de explotación infantil en 2022, está claro que hay mucho trabajo por delante. Pero con las grandes de la IA uniendo fuerzas, hay esperanza de un futuro digital más seguro para los más pequeños.