Une maman dit que des escrocs ont utilisé l'IA pour recréer la voix de sa fille

Les canulars d'enlèvement sont en augmentation, et maintenant les escrocs peuvent utiliser la technologie vocale pour les aider à tromper les parents.

Escroqueries aux enlèvements deviennent de plus en plus courants, à tel point que tant les Institut national de la santé (NIH) et le FBI ont récemment émis un avertissement pour que les familles soient à l'affût de tels appels. Et maintenant, les escrocs profitent de la nouvelle technologie d'intelligence artificielle qui peut rendre leurs appels plus convaincants (et effrayants) que jamais.

Cette semaine, une maman de l'Arizona a rapporté qu'elle a reçu un appel de faux ravisseurs qui ont utilisé la voix de sa fille de 15 ans pour lui faire croire qu'elle était détenue en captivité et qu'elle ne serait libérée que si elle payait une rançon.

Jennifer DeStefano a déclaré à Arizona CBS News Channel 5 que lorsqu'elle a décroché un appel d'un numéro inconnu, elle a immédiatement reconnu la voix de sa fille adolescente, et elle était en détresse.

'Je décroche le téléphone et j'entends la voix de ma fille, et ça dit:' Maman! 'Et elle sanglote', a déclaré DeStefano à la station d'information locale. 'J'ai dit:' Que s'est-il passé? 'Et elle a dit:' Maman, j'ai foiré ', et elle sanglote et pleure.'

Puis un homme a téléphoné et a demandé 1 million de dollars à la famille, sinon il profiterait d'elle et la déposerait ensuite au Mexique. En arrière-plan, elle pouvait entendre sa fille appeler à l'aide et pleurer.

Parce que sa fille était partie en voyage de ski, DeStefano craignait que l'appel ne soit valide.

« Il n'a jamais été question de savoir qui est-ce ? C'était complètement sa voix. C'était son inflexion. C'était comme ça qu'elle aurait pleuré', a-t-elle déclaré à Channel 5. 'Je n'ai jamais douté une seule seconde que c'était elle. C'est la partie bizarre qui m'a vraiment amené à mon cœur.

Heureusement, DeStefano était au studio de danse de son autre fille à l'époque, et les femmes qui l'entouraient sont passées à l'action dès qu'elles ont entendu ce qui se passait. L'un a appelé le 911 et un autre a appelé le mari de Jennifer, qui a rapidement pu localiser leur fille, saine et sauve.

Dans le passé, il fallait beaucoup d'enregistrements et beaucoup de temps à un ordinateur pour prendre en charge de manière fiable la voix d'un humain spécifique. Mais maintenant, avec le décollage de la technologie AI, les experts disent que vous pouvez copier une voix avec seulement quelques secondes de matériel enregistré à portée de main.

'Vous ne pouvez plus faire confiance à vos oreilles', a déclaré à la chaîne d'information Subbarao Kambhampati, professeur d'informatique à l'Arizona State University spécialisé dans l'IA. 'La plupart des clonages de voix capturent en fait l'inflexion ainsi que l'émotion. Évidemment, si vous parliez avec votre voix normale, je ne serais pas nécessairement capable de cloner la façon dont vous pourriez sonner lorsque vous êtes contrarié, mais si j'avais aussi trois secondes de votre voix contrariée, alors tous les paris sont ouverts.

noms de filles anglais rares

Les experts exhortent également les parents à faites très attention aux réseaux sociaux , en particulier en partageant trop d'informations privées ou de clips vocaux, à la fois sur vos comptes et sur les comptes de vos enfants. Mais Jennifer a déclaré dans un message sur Facebook que sa fille faisait attention et que cela se produisait toujours.

'Brie n'a PAS de comptes de médias sociaux publics qui ont sa voix,' elle a écrit sur Facebook . 'Elle a quelques interviews publiques pour le sport / l'école qui ont un large échantillon de sa voix.'

Les autorités disent de se méfier des appels provenant de numéros extérieurs à votre indicatif régional ainsi que des appels internationaux. Les escrocs tenteront également de vous dissuader d'appeler votre proche, qui pourrait être en contact avec votre enfant, ou qui pourrait reconnaître l'arnaque. Enfin, les escrocs essaieront de vous garder au téléphone et vous demanderont de vous virer de l'argent ou des cartes-cadeaux au lieu de les rencontrer à un endroit physique. Ils pourraient également demander une somme d'argent plus raisonnable que les ravisseurs réels – dans l'affaire DeStefano, ils avaient initialement demandé 1 million de dollars avant de passer rapidement à 50 000 dollars.

Pour ralentir la situation, demandez des preuves solides qu'ils ont votre enfant et, bien sûr, appelez la police dès que possible.

DeStefano avait un autre conseil: 'Ayez un mot ou une question d'urgence familiale que vous seul connaissez afin de pouvoir valider que vous n'êtes pas victime d'une arnaque avec l'IA', a-t-elle suggéré sur Facebook.

Partage Avec Tes Amis: