Un Roomba a pris une vidéo d'une femme utilisant la salle de bain - et des captures d'écran se sont retrouvées en ligne
Les captures d'écran divulguées amènent beaucoup de personnes à se demander combien de données leurs appareils intelligents collectent et comment elles sont utilisées.
Roombas, ou tout autre robot aspirateur d'ailleurs, peut être une bouée de sauvetage pour les parents qui ont trop à jongler et qui ont besoin d'un peu d'aide pour nettoyer la maison. Mais pour chaque commodité technologique et «bouée de sauvetage» qui nous est accordée, il semble y avoir des compromis de plus en plus insidieux lorsqu'il s'agit de permettre aux appareils intelligents de surveiller et collecter des données de multiples manières.
Cas d'espèce ? Des photos d'une femme utilisant des toilettes - capturées par un modèle de test Roomba qui utilise la vidéo comme moyen d'améliorer la capacité du robot à naviguer entre différents plans d'étage et obstacles - ont été divulguées sur des groupes Facebook privés.
Le modèle de test a été conçu pour enregistrer la vidéo pendant le nettoyage, puis envoyer ladite vidéo à Scale AI, une startup qui engage des travailleurs dans le monde entier pour aider à étiqueter les données audio, photo et vidéo (connues sous le nom d'annotation de données) pour aider à former l'intelligence artificielle.
« Comment nos robots deviennent-ils si intelligents ? Cela commence pendant le processus de développement, et dans le cadre de celui-ci, à travers la collecte de données pour former des algorithmes d'apprentissage automatique », a expliqué Colin Angle, PDG, président et fondateur d'iRobot, dans un Poste LinkedIn . 'La collecte de ces données nous permet de développer l'intelligence à l'intérieur de nos produits qui alimente des fonctionnalités telles que la reconnaissance et l'évitement d'objets, l'identification de la pièce et des suggestions de nettoyage personnalisées.'
Apparemment, ces données privées sont censées être utilisées uniquement pour la formation, mais du MIT Examen de la technologie obtenu 15 captures d'écran qui avaient été publiées dans des groupes Facebook privés. Il y avait des photos d'enfants allongés sur le sol, donnant un regard idiot au robot aspirateur, ainsi que la photo d'une femme utilisant les toilettes. Et tandis que son visage est flouté sur la photo principale, il y en a d'autres qui la montrent pleinement dans une violation sauvage de la vie privée.
Bien que ces photos aient été obtenues à partir d'aspirateurs de test que les employés de Roomba et d'autres ont consenti à utiliser dans leurs foyers, les photos divulguées sont un rappel brutal de la rapidité avec laquelle de nombreuses personnes signent la surveillance de leurs données avec des appareils intelligents - et comment ces données sont finalement suivies par des humains qui pourraient divulguer ou utiliser les données à d'autres fins que celles prévues.
'Lorsque vous avez des données que vous avez obtenues de clients, elles résident normalement dans une base de données avec protection d'accès', a déclaré Pete Warden, un chercheur de premier plan en vision par ordinateur et doctorant à l'Université de Stanford. Examen de la technologie .
Avec la formation à l'apprentissage automatique, comme celle utilisée dans l'unité de test Roombas, les données des clients sont toutes combinées 'dans un gros lot', élargissant le 'cercle des personnes' qui y ont accès.
Pour que l'IA puisse apprendre, les services d'annotation de données affirment avoir besoin d'accéder à des visages humains. Les visages des adultes et des mineurs ne sont pas considérés comme des formes de données «sensibles» et sont souvent envoyés à des centres de données sans être censurés. Et, comme certaines personnes l'ont appris, ces données peuvent être vendues à des tiers et utilisées d'autres manières, comme lorsqu'une femme s'est vu refuser l'entrée au Radio City Hall avec la troupe d'éclaireuses de sa fille. grâce à la reconnaissance faciale .
À quelques jours de Noël, le moment est peut-être venu pour les parents de parler à leurs enfants de la sécurité des données et confidentialité numérique , surtout si le Père Noël apporte aux enfants des appareils intelligents. Et en général, lisez les petits caractères lorsque vous acceptez de partager vos données avec des entreprises.
Partage Avec Tes Amis:
