La seguridad y privacidad en línea son preocupaciones crecientes para muchos padres en todo el mundo. En un mundo en constante conexión, donde los niños están expuestos a innumerables aplicaciones y plataformas en línea, la necesidad de una supervisión y protección adecuadas se ha vuelto crucial.
Recientemente, el New York Times ha arrojado luz sobre un proyecto llamado el App Danger Project. Una lista de aplicaciones que, utilizando inteligencia artificial para su análisis, quedan marcadas como no seguras para los más pequeños de la casa. Una lista que podemos consultar y cotejar con las aplicaciones instaladas para tomar las medidas necesarias.
Proyecto App Danger: protección contra el Peligro Digital
El App Danger Project utiliza un algoritmo de machine learning para ofrecer dos recursos a los padres preocupados por la seguridad de sus hijos en línea. La herramienta ofrece:
- Una lista de aplicaciones “peligrosas”: que, actualmente, contiene 182 aplicaciones entre el App Store de Apple y la Google Play Store.
- Una herramienta de búsqueda y análisis: que permite a cualquiera buscar aplicaciones de ambas tiendas y analizar sus reseñas, basándose en menciones de pornografía infantil, pedófilos y otros indicadores de explotación infantil.
Por ejemplo, Snapchat arroja 23 reseñas que señalan que esta aplicación es insegura para los niños. Por otro lado, Facebook ha sido marcado con cuatro reseñas que advierten sobre preocupaciones de seguridad.
Conviene destacar, eso sí, que una reseña escrita por un usuario no significa automáticamente que la app tenga contenido inapropiado. Pero tampoco se puede pasar por alto esta alerta, más cuando son varios los comentarios que ponen de manifiesto la situación. Aquí es donde entra en juego parte de la inteligencia artificial del proyecto, pues tiene en cuenta el tono y forma del comentario para determinar si incluirlo en la lista.
Dicho esto, la misma herramienta está dando sus frutos en las tiendas de aplicaciones. El informe del New York Times revela que Apple eliminó 10 aplicaciones de la App Store después de investigar la lista del App Danger Project y las aplicaciones que en ella aparecían. La compañía no proporcionó detalles de las aplicaciones retiradas ni de las razones para hacerlo, aunque afirmó que su equipo de revisión trabaja 24/7 para garantizar que cada aplicación cumpla con los estándares de Apple.
Aparte de esto, Apple ha tomado medidas desde hace años para proteger a los menores. Funciones como las que llegan con iOS 17 en forma de aviso de imágenes sensibles y la protección de comunicación en la app Mensajes para menores de 13 años son prueba de ello.
La Importancia de la Vigilancia Parental
La revisión manual de todas y cada una de las apps que lleva a cabo Apple antes de colocarlas en la tienda, no puede detectar este tipo de contenido. Esto es así porque la app no está dedicada a mostrar contenido de este tipo, sino que son los usuarios los que aportan este contenido. En esta tesitura, la de la supervisión constante de todo el contenido, algo que es realmente difícil de afrontar —aunque no imposible—, es donde nace el App Danger Project.
Un proyecto que pone de manifiesto la necesidad de un mayor cuidado y supervisión por parte de los padres. Las plataformas online siempre podrán mejorar sus sistemas de detecciones de contenido inadecuado. Entre tanto, la educación en seguridad en línea y el uso de herramientas como el App Danger Project pueden ser vitales para garantizar que los niños disfruten de un entorno digital seguro y saludable.
El cuidado, también es verdad, no debe limitarse solo a las aplicaciones en la lista del App Danger Project, sino que se extiende a todas las plataformas y contenidos en línea a los que los niños tienen acceso. La seguridad en línea es una responsabilidad continua, y este proyecto es un recordatorio oportuno de la importancia de estar siempre atentos y activamente involucrados en la vida digital de nuestros hijos.
Algunos de los enlaces añadidos en el artículo forman parte de campañas de afiliación y pueden representar beneficios para Softonic.
