في ساعة مُتأخرة من الليل يتلقى والديك رسالة صوتية منك مليئة بالذعر، تُفيد بأنك في ورطة وبحاجة إلى المُساعدة، وقد سُرقت محفظتك، وأنك عالق في مكان مجهول. يجب تحويل الأموال إليك على الفور حتى تتمكن من العودة إلى المنزل.
يبدو الصوت الموجود في الرسالة حقيقيًا للغاية وهو صوت طفله بشكل لا لبس فيه، لكنه ليس كذلك. إنه استنساخ صوتي بالذكاء الاصطناعي، وقد أصبح هدفًا لعملية احتيال مُتطورة بقدر ما هي فعالة بشكل مخيف.
يعتمد هذا النوع من الاحتيال على استخدام تقنيات الذكاء الاصطناعي لتوليد أصوات تبدو وكأنها تنتمي لأفراد العائلة أو الأصدقاء بطريقة شديدة التشابه مع الأصوات الحقيقية. إذا لم يتم اكتشافها، يُمكن أن تؤدي هذه الأصوات المزيفة إلى إثارة الارتباك والتضليل، وقد تؤدي إلى تبعات خطيرة. لذلك، يُعتبر الكشف عن احتيال استنساخ الصوت العائلي أمرًا ضروريًا للمحافظة على النزاهة والأمان. تحقق من تقييم استخدام تقنية الاستنساخ الصوتي في إنشاء مُحتوى واسع النطاق.
كيف تعمل عملية احتيال استنساخ الصوت بالذكاء الاصطناعي؟
يُمكن لتقنيات استنساخ الصوت إنشاء نسخ رقمية واقعية بشكل لا يصدق من صوت الشخص. يتم إنشاء هذه التقنية، التي يطلق عليها عادة التزييف العميق للصوت، باستخدام أدوات استنساخ الصوت بالذكاء الاصطناعي مثل ElevenLabs (راجع مثال استنساخ الصوت بالذكاء الاصطناعي أدناه). إلى جانب الذكاء الاصطناعي التوليدي والتوليف الصوتي، يُمكن للصوت المُستنسخ تكرار العواطف والفروق الدقيقة والتنغيم وحتى الخوف.
وللإشارة، إليك ما يبدو عليه صوت كريستيان كاولي حقًا، وهو يتحدث في عرض “البودكاست المُفيد حقًا”.
لإنشاء نسخة صوتية بالذكاء الاصطناعي، لا يلزم سوى عينة صوتية صغيرة — غالبًا دقيقة واحدة فقط أو أقل. غالبًا ما يتم أخذ عينات من الأصوات من منشورات مواقع التواصل الاجتماعي العامة، مما يجعل مُدوني الفيديو والمُبدعين والمشاهير عرضة للخطر بشكل خاص لأنَّ جودة الصوت في منشوراتهم عالية الجودة ومُتاحة بسهولة.
بمجرد استنساخ المُحتال للعينة الصوتية، فإنه يستخدم تحويل النص إلى كلام أو حتى تحويل الكلام إلى كلام في الوقت الفعلي لإنشاء مكالمات ورسائل صوتية مُزيفة.
بعد الوصول إلى حسابات الضحية على مواقع التواصل الاجتماعي وجمع تفاصيلها الشخصية، يقوم المُحتال بإنشاء سيناريو قابل للتصديق. يمكن أن يكون مُتعلقًا بدخول المُستشفى، أو الاعتقال، أو السرقة، أو الاختطاف، أو أي شيء يخلق الخوف والإرتباك. يتم بعد ذلك استخدام الصوت المُستنسخ للتلاعب بأحد أفراد الأسرة وجعله يعتقد أنَّ شخصًا من العائلة يُعاني من مشكلة خطيرة.
إنَّ واقعية الصوت والعواطف، إلى جانب الصدمة وإلحاح الطلب، يُمكن أن تتغلب على الشكوك، مما يؤدي إلى قرارات مُتسرعة لتحويل الأموال أو تقديم معلومات حساسة.
لماذا يُعد احتيال استنساخ الصوت باستخدام الذكاء الاصطناعي فعَّال جدًا؟
مثل معظم عمليات الاحتيال التي تستهدف العائلة والأصدقاء، تُعد عملية استنساخ الصوت باستخدام الذكاء الاصطناعي فعَّالة لأنها تستغل الروابط الشخصية. يُمكن للذعر الناتج عن تلقي نداء استغاثة من أحد أفراد الأسرة أن يُؤثر بسرعة على الحكم، مما يؤدي إلى اتخاذ قرارات مُتهورة. إنه نفس التكتيك المستخدم في عمليات الاحتيال بالمُقايضة، ولكن التأثير يتفاقم عند سماع صوت شخص مُقرب لك.
يتعرض أفراد عائلات أولئك الذين لديهم حضور كبير على مواقع التواصل الاجتماعي أو أولئك الذين يُسافرون للخطر بشكل خاص لأنَّ مواقفهم تُوفر سياقًا معقولًا لرواية المُحتال المُلفقة. غالبًا ما يقوم المُحتال بجمع واستخدام البيانات الخاصة لأهدافهم من حساباتهم العامة على مواقع التواصل الاجتماعي في وقت مُبكر، مما يجعل القصص أكثر إقناعًا. تحقق من كيفية التصدي لخطر الاختطاف الافتراضي وحماية نفسك عبر الإنترنت؟ التعرف على التهديدات.
العلامات الرئيسية لعملية احتيال استنساخ الصوت بالذكاء الاصطناعي
على الرغم من تعقيدها، يُمكن أن تكشف عمليات استنساخ الصوت باستخدام الذكاء الاصطناعي عن نفسها من خلال إشارات تحذير مُحددة:
- الاستعجال: سيُحاول المُحتال أن يُقنعك بأن شيئًا فظيعًا سيحدث إذا لم يتم اتخاذ الإجراء على الفور.
- الحقائق: لا يعرف المُحتال دائمًا القصة الكاملة وراء علاقتك بالهدف، لذا انتبه إلى التناقضات.
- طلبات غير عادية: تُعد طلبات تحويل الأموال إلى حسابات مصرفية في الخارج أو الدفع إلى محفظة عملة مُشفرة من الأساليب الشائعة.
من الصعب أخذ هذه العوامل في الاعتبار عند مواجهة سيناريو رهيب، ولكنها قد تمنعك من التعرض للاحتيال.
ماذا تفعل إذا كنت تشك في عملية احتيال استنساخ الصوت بالذكاء الاصطناعي
إذا تلقيت مكالمة أو رسالة صوتية من أحبائك الذين يُعانون من محنة، فابق هادئًا. يُحاول المُحتال أن يجعلك تشعر بالذعر وتُصبح عاطفيًا، لأنَّ هذا يزيد من أحتمالية تعرضك لأساليبه.
إذا تلقيت مكالمة هاتفية
إذا كنت تشك، ولو لثانية واحدة، في أنَّ المكالمة قد تكون عملية احتيال استنساخ الصوت، فقم بإنهاء المكالمة على الفور. لا تُشارك أي معلومات، ولا تتعامل مع المُحتالين. وبدلاً من ذلك، قم بمعاودة الاتصال بأحبائك على رقم معروف للتأكد من صحة نداء الاستغاثة.
قد يؤدي إجراء المزيد من المحادثات مع المُحتال إلى المخاطرة بتسجيل صوتك واستنساخه أيضًا.
إذا تلقيت رسالة صوتية
إذا ترك المُحتال رسالة صوتية، فاحفظ الصوت على هاتفك أو الكمبيوتر المحمول على الفور. يُمكن استخدام هذه العينة من الصوت في أداة تصنيف الكلام بالذكاء الاصطناعي لتحديد ما إذا كان صوتًا بشريًا. تعمل مصنفات الكلام المدعومة بالذكاء الاصطناعي تمامًا مثل أجهزة كشف الكتابة بالذكاء الاصطناعي. ما عليك سوى إدخال الملف الصوتي، وسيقوم المُصنف بوضع علامة عليه على أنه تم إنشاؤه بواسطة الإنسان أو بواسطة الذكاء الاصطناعي.
إحدى الأدوات الرائعة لإجراء هذا الفحص هي ElevenLabs Speech Classifier. تعمل ElevenLabs على تشغيل معظم منصات استنساخ الصوت بالذكاء الاصطناعي، لذا فهي أداة مثالية لتحديد ما إذا كان الصوت قد تم استنساخه. إليك كيفية استخدامها لتحديد الصوت المُستنسخ بواسطة الذكاء الاصطناعي:
- انتقل إلى ElevenLabs Speech Classifier.
- قم بتحميل عينة من الرسالة الصوتية وانقر على “الكشف عن الكلام المُركب”.
في المثال أدناه، تم تسجيل رسالة إستغاثة بواسطة أحد الأشخاص وتم تحميلها إلى المصنف. يُمكنك أن ترى أنه تم وضع علامة عليها على أنها تحتوي على احتمالية 2% للتلاعب بها.
في المثال التالي، تم إنتاج نفس الرسالة الإستغاثة باستخدام أداة استنساخ الصوت بالذكاء الاصطناعي. بالنسبة للأذن البشرية، الأصوات لا يُمكن تمييزها. ومع ذلك، فقد صنفتها الأداة على أنها تحتوي على احتمالية بنسبة 98% أن يتم إنشاؤها بواسطة الذكاء الاصطناعي.
على الرغم من أنه لا يُمكنك الاعتماد على هذا المصنف بنسبة 100%، إلا أنه يمكنه تأكيد شكوكك بشأن استخدام صوت مُستنسخ. يجب عليك أيضًا الاتصال بمن تحب على رقم معروف للتأكيد. تحقق من هل تتفوق القدرات البشرية أم الذكاء الاصطناعي في اكتشاف تقنية التزييف العميق.
الوقاية هي أفضل دفاع ضد عمليات الاحتيال المُتعلقة باستنساخ الصوت بالذكاء الاصطناعي
في بعض الأحيان، يكون أفضل دفاع ضد عمليات الاحتيال عالية التقنية هو الحلول مُنخفضة التقنية.
قم بإنشاء كلمة سر غير مُتصلة بالإنترنت معروفة فقط لأحبائك وعائلتك وأصدقائك. في حالة إجراء مكالمة في المواقف الحرجة، يُمكن أن يكون استخدام كلمة السر هذه طريقة مُؤكدة لتأكيد هوية المتصل.
أخيرًا، يُعد إبقاء معلوماتك الخاصة بعيدًا عن مواقع التواصل الاجتماعي خطوة كبيرة نحو ضمان عدم تمكن المُحتالين من جمع معلومات كافية لبناء قصة. تذكر: إذا كنت لا تريد أن يعرفها الجميع، فمن الأفضل عدم مشاركتها على مواقع التواصل الاجتماعي. يُمكنك الإطلاع الآن على ما هي قيمة بيانات حساباتك على مواقع التواصل الاجتماعي في الويب المظلم؟
