AI-जनित ऑडियो को मात देना

मात्र 30 सेकंड की रिकॉर्ड की गई ऑडियो से आपकी आवाज़ की लगभग सही नकल तैयार की जा सकती है। इस खतरे से लड़ने का सही तरीका क्या है?

आधुनिक AI सॉफ्टवेयर और सेवाओं से, मात्र 30 सेकंड की रिकॉर्ड की गई ऑडियो से आपकी आवाज़ की लगभग सही नकल तैयार की जा सकती है। मात्र 5 सेकंड से उचित नकल उत्पन्न की जा सकती है। और दोनों को रियल-टाइम में तैयार किया जा सकता है। इस खतरे से लड़ने का सही तरीका क्या है?

सिंथेटिक मीडिया से लड़ने के दो सामान्य दृष्टिकोण हैं: उत्पत्ति (provenance), और पहचान (detection)। आइए देखें कि वे इस परीक्षण में कैसे प्रदर्शन करते हैं।

ऑडियो के लिए उत्पत्ति?

"उत्पत्ति" तकनीक का बुनियादी तंत्र सरल है - यह मूल कैप्चर डिवाइस से लेकर आउटपुट डिवाइस तक "chain of custody" स्थापित करता है। दृश्य डेटा के मामले में, यह उत्पत्ति प्रामाणिकता की एक मजबूत गारंटी है - कम से कम तब तक जब तक हमारे पास जीवन-आकार के होलोग्राफिक डिस्प्ले नहीं होते। लेकिन ऑडियो के लिए, हम पहले से ही उस दुर्भाग्यपूर्ण भविष्य में जी रहे हैं - माइक्रोफ़ोन के लिए, आपकी आवाज़, आपकी आवाज़ की पूर्व-रिकॉर्ड की गई प्रति, या आपकी आवाज़ की सिंथेटिक नकल के बीच कोई पहचानने योग्य अंतर नहीं है: वे सभी समान लगते हैं। जबकि हम विभिन्न प्रकार के steganography का उपयोग करके यह स्थापित कर सकते हैं कि माइक्रोफ़ोन ने इस ऑडियो को कब कैप्चर किया, उनमें से कोई भी यह पुष्टि करने में मदद नहीं करता कि वे ध्वनि तरंगें कहाँ से आईं। इसलिए कच्ची ऑडियो उत्पत्ति यहाँ किसी काम की नहीं है।

पहचान तकनीक: सबसे अच्छे में अनिश्चित, सबसे बुरे में पक्षपाती

दुर्भाग्य से, पहचान तकनीक भी बेहतर नहीं करती। छोटी अपूर्णताएँ जिन पर वर्तमान पहचान दृष्टिकोण सिंथेटिक सामग्री की पहचान करने की कोशिश में निर्भर करते हैं, अनिश्चित परिणाम देती हैं। इससे भी बुरा, पहचान में सुधार के हमारे हर प्रयास वास्तव में समस्या को और बड़ा बना रहे हैं! (GAN विकास के दुष्चक्र पर हमारा पिछला लेख देखें।) और एक बुरा दुष्प्रभाव भी है: आज के कई detectors के प्रशिक्षण डेटा में परेशान करने वाली मात्रा में पूर्वाग्रह शामिल है। सिंथेटिक ऑडियो का पता लगाने के बजाय, वे केवल गैर-मूल भाषा बोलने वालों का पता लगा रहे हैं। यह बड़े पैमाने के प्लेटफॉर्म सामग्री स्क्रीनिंग के स्टोकास्टिक क्षेत्र में स्वीकार्य हो सकता है — लेकिन व्यक्तिगत उपयोग के लिए, यह अच्छा नहीं दिखता।

तो फिर क्या करें? ऑडियो की उत्पत्ति मदद नहीं करेगी, और पहचान भी नहीं? सौभाग्य से, एक तीसरा विकल्प है: हाइब्रिड विश्लेषण।

समाधान: हाइब्रिड विश्लेषण

पहचान एल्गोरिदम का उपयोग बहुत प्रभावी ढंग से यह बताने के लिए किया जा सकता है कि कोई दिया गया ऑडियो स्रोत वीडियो सिग्नल के साथ सिंक में है या नहीं। और उत्पत्ति तकनीक उस वीडियो की प्रामाणिकता को विश्वसनीय रूप से स्थापित कर सकती है। दोनों को मिलाने से अंततः वह मिलता है जिसे हम खोज रहे थे: एक आवाज़ जिस पर हम भरोसा कर सकते हैं। (एक अतिरिक्त बोनस के रूप में, हम बोलने वाले की पहचान भी सत्यापित कर सकते हैं!)