's Avonds laat krijgen je ouders vol paniek een gesproken bericht van je waarin staat dat je in de problemen zit en hulp nodig hebt, dat je portemonnee is gestolen en dat je vastzit op een onbekende plek. Het geld moet onmiddellijk naar u worden overgemaakt, zodat u naar huis kunt terugkeren.
De stem in de brief klinkt heel reëel en is onmiskenbaar de stem van zijn kind, maar dat is het niet. Hij is een AI-stemkloon die het doelwit is geworden van een zwendel die even geavanceerd als angstaanjagend effectief is.
Dit soort fraude is afhankelijk van het gebruik van kunstmatige-intelligentietechnieken om stemmen te genereren die van familieleden of vrienden lijken te zijn op een manier die sterk lijkt op echte stemmen. Als deze valse stemmen niet worden opgemerkt, kunnen ze verwarring en desinformatie veroorzaken, en tot ernstige gevolgen leiden. Daarom is het detecteren van fraude met het klonen van familieaudio essentieel om de integriteit en veiligheid te behouden. Verifiëren Evaluatie van het gebruik van geluidsreproductietechnologie bij het creëren van grootschalige inhoud.
Hoe werkt de AI-stemkloneringszwendel?
Technologieën voor het klonen van stemmen kunnen ongelooflijk realistische digitale kopieën van iemands stem creëren. Deze technologie wordt gewoonlijk genoemd Deepfakes-audio, met behulp van AI-hulpmiddelen voor het klonen van stemmen, zoals ElevenLabs (zie het voorbeeld van AI-spraakklonen hieronder). Gecombineerd met generatieve AI en stemsynthese kan de gekloonde stem emoties, nuances, intonatie en zelfs angst repliceren.
Ter referentie: dit is hoe Christian Cowley echt klinkt, sprekend op de Very Helpful Podcast.
Om een AI-transcriptie te maken is slechts een klein audiofragment nodig – vaak slechts een minuut of minder. Audio wordt vaak gesampled uit openbare berichten op sociale media, waardoor vloggers, makers en beroemdheden bijzonder kwetsbaar zijn omdat de audio in hun berichten van hoge kwaliteit is en direct beschikbaar is.
Zodra de oplichter het stemvoorbeeld heeft gekloond, gebruiken ze tekst-naar-spraak of zelfs realtime spraak-naar-spraak om nepoproepen en spraakberichten te creëren.
Nadat de oplichter toegang heeft gekregen tot de sociale media-accounts van het slachtoffer en zijn persoonlijke gegevens heeft verzameld, creëert hij een geloofwaardig scenario. Het kan te maken hebben met ziekenhuisopname, arrestatie, beroving, ontvoering of iets anders dat angst en verwarring veroorzaakt. De gekloonde stem wordt vervolgens gebruikt om het familielid te manipuleren door te geloven dat iemand in de familie aan een ernstig probleem lijdt.
Het realisme van stem en emotie, gekoppeld aan de schok en urgentie van het verzoek, kan het scepticisme overweldigen, wat kan leiden tot overhaaste beslissingen om geld over te maken of gevoelige informatie te verstrekken.
Waarom is oplichting met AI-stemklonen zo effectief?
Zoals de meeste oplichtingspraktijken gericht op familie en vrienden, is het klonen van stemmen met AI effectief omdat er misbruik wordt gemaakt van persoonlijke connecties. De paniek bij het ontvangen van een noodoproep van een familielid kan het beoordelingsvermogen snel vertroebelen, wat tot overhaaste beslissingen leidt. Het is dezelfde tactiek die wordt gebruikt bij ruilhandel, maar het effect wordt versterkt als je de stem hoort van iemand die dicht bij je staat.
Familieleden van mensen met een grote aanwezigheid op sociale media of mensen die reizen lopen een bijzonder risico omdat hun situatie een plausibele context biedt voor het verzonnen verhaal van de oplichter. De oplichter verzamelt en gebruikt vaak van tevoren de privégegevens van hun doelwitten van hun openbare sociale media-accounts, waardoor de verhalen overtuigender worden. Verifiëren Hoe kunt u de dreiging van virtuele ontvoering aanpakken en uzelf online beschermen? Herken bedreigingen.
Belangrijkste tekenen van oplichting met AI-stemklonen
Ondanks de complexiteit kan het klonen van AI-stem zich openbaren via specifieke waarschuwingssignalen:
- Urgentie: De oplichter zal proberen u ervan te overtuigen dat er iets vreselijks zal gebeuren als er niet onmiddellijk actie wordt ondernomen.
- : De oplichter kent niet altijd het volledige verhaal achter uw relatie met het doelwit, dus let op inconsistenties.
- Ongebruikelijke verzoeken: Verzoeken om geld over te maken naar bankrekeningen in het buitenland of om te betalen naar een cryptocurrency-portemonnee zijn veelgebruikte methoden.
Het is moeilijk om met deze factoren rekening te houden als u met een nijpend scenario wordt geconfronteerd, maar ze kunnen voorkomen dat u wordt opgelicht.
Wat u moet doen als u vermoedt dat er sprake is van oplichting met het klonen van AI-stem
Als u een telefoontje of spraakbericht ontvangt van een dierbare in nood, blijf dan kalm. De oplichter zal proberen u in paniek te brengen en emotioneel te maken, omdat dit de kans vergroot dat u aan zijn methoden wordt blootgesteld.
Als u een telefoontje ontvangt
Als u, ook al is het maar even, vermoedt dat een oproep een oplichting met stemklonen is, hang dan onmiddellijk op. Deel geen informatie en doe geen zaken met oplichters. Bel in plaats daarvan uw dierbaren terug op een bekend nummer om de authenticiteit van de noodoproep te bevestigen.
Als u verdere gesprekken met de oplichter voert, bestaat het risico dat uw stem wordt opgenomen en gekloond.
Als u een gesproken bericht ontvangt
Als de oplichter een spraakbericht achterlaat, sla de audio dan onmiddellijk op uw telefoon of laptop op. Dit audiovoorbeeld kan worden gebruikt in een AI-spraakclassificator om te bepalen of het een menselijke stem is. Door AI aangedreven spraakclassificatoren werken net als hardware Detectie van typen door kunstmatige intelligentie. Voer eenvoudigweg het audiobestand in en de classificator markeert het als door mensen gegenereerd of door AI gegenereerd.
Een geweldig hulpmiddel om deze controle uit te voeren is ElevenLabs Speech Classifier. ElevenLabs ondersteunt de meeste AI-platforms voor het klonen van stemmen, dus het is een ideaal hulpmiddel om te bepalen of een stem is gekloond. U kunt het als volgt gebruiken om door AI gereproduceerde audio te identificeren:
- Ga naar ElevenLabs spraakclassificatie.
- Upload een voorbeeld van een spraakbericht en klik op 'Gesynthetiseerde spraak detecteren'.
In het onderstaande voorbeeld is door iemand een noodbericht opgenomen en naar de werkmap geüpload. U kunt zien dat er een kans van 2% is dat er mee wordt geknoeid.
In het volgende voorbeeld werd hetzelfde noodbericht geproduceerd met behulp van een AI-tool voor het klonen van stemmen. Voor het menselijk oor zijn geluiden niet van elkaar te onderscheiden. De tool schatte echter dat het een kans van 98% had om door AI te worden gegenereerd.
Hoewel u niet 100% op deze werkmap kunt vertrouwen, kan deze uw vermoedens over het gebruik van gekloonde audio bevestigen. U dient uw dierbare ook op een bekend nummer te bellen om dit te bevestigen. Verifiëren Zijn menselijke capaciteiten of kunstmatige intelligentie superieur in het detecteren van deep-fake-technologie?.
Preventie is de beste verdediging tegen oplichting met AI-stemklonen
Soms zijn low-tech oplossingen de beste verdediging tegen hightech oplichting.
Maak een offline wachtwoord dat alleen bekend is bij uw dierbaren, familie en vrienden. Als u in kritieke situaties belt, kan het gebruik van dit wachtwoord een goede manier zijn om de identiteit van de beller te bevestigen.
Ten slotte is het weghouden van uw privégegevens van sociale-mediasites een grote stap om ervoor te zorgen dat oplichters niet genoeg informatie kunnen verzamelen om een verhaal op te bouwen. Onthoud: als je niet wilt dat iedereen het weet, kun je het het beste niet delen op sociale media. Je kunt nu bekijken Wat is de waarde van uw sociale media-accountgegevens op het dark web?
