El avance de las IA ya está llegando a un punto en el que comienzan a dar sustillo. No solo tenemos inteligencias artificiales capaces de escribir prácticamente lo que sea de forma automática, sino que también pueden crear de la nada imágenes muy variopintas o hacer que tu voz suene como la de un famoso, entre otras muchas funciones.
Pero una de las características más controvertidas de la IA es el reconocimiento facial, sobre todo por lo que implica respecto a nuestra privacidad. Esta semana, The New York Times recoge que PimEyes, un motor de búsqueda público que utiliza el reconocimiento facial para cotejar fotos de personas en Internet, ha prohibido las búsquedas de menores de edad por temor a que ponga en peligro a los niños.
Pero, si bien el veto ya está en funcionamiento, el sistema de detección de PimEyes no funciona del todo bien en ciertos casos. Y es que, para que alguien no pueda buscar una imagen de un menor de edad por Internet, la IA debe detectar primero que el rostro de esa persona es de un menor, algo que no resulta fácil en fotos tomadas en ciertos ángulos o con adolescentes.
“Casualmente”, este sistema de protección se ha implementado solo una semana después de que Kashmir Hill, redactora de The New York Times, publicara un artículo titulado “¿Se puede ocultar la cara de un niño a la IA?” que hablaba sobre la amenaza que supone la inteligencia artificial para los niños.
Según detalla Hill en su artículo, PimEyes habría prohibido más de 200 cuentas por “búsquedas inapropiadas” de niños. La situación llegó hasta tal punto de que una madre llegó a encontrar fotos de sus hijos que no había visto nunca usando este servicio. Eso sí, para saber la procedencia de la imagen debía pagar los 29,99 dólares que cuesta la cuota mensual.
¿Se tomarán medidas más estrictas para asegurar que nadie pueda buscar ninguna imagen de un menor de edad? Y, sobre todo, ¿cómo podrán acotar las búsquedas en el caso de menores que ronden los 16-17 años? Solo el tiempo lo dirá.
