सिंथेटिक मीडिया के लिए एक प्रस्तावित नीति ढाँचा

सिंथेटिक मीडिया के माध्यम से किए गए (या संभावित) नुकसानों में से कोई भी उस मीडिया के उत्पादन की विधियों के लिए अद्वितीय नहीं है, और उनमें से कोई भी केवल उसके उत्पादन की तकनीक पर नियंत्रण के माध्यम से रोका नहीं जा सकता। इस प्रकार, हानिकारक सिंथेटिक मीडिया के जोखिमों को संबोधित करने के लिए एक नीति ढाँचा व्यापक रूप से डिजिटल मीडिया के लिए एक नीति ढाँचा होना चाहिए। हालाँकि हमने हाल के हफ्तों में कई नीति प्रस्ताव देखे हैं, उनमें से अधिकांश संकीर्ण रूप से केंद्रित रहे हैं, जिनके संभावित रूप से बड़े अनपेक्षित परिणाम हो सकते हैं। यह मसौदा कुछ गायब टुकड़ों को उजागर करने और आगे की बातचीत को प्रेरित करने के लिए है।

Mr. Smith Goes to Washington

इस प्रस्ताव का दर्शक वर्ग

सिंथेटिक मीडिया के नुकसान स्रोत और लक्ष्य दोनों में वैश्विक हैं, और दांव इससे अधिक नहीं हो सकते। लेकिन विधायी परिदृश्य, साथ ही सार्वजनिक राय का परिदृश्य, समान नहीं है। हमने एक ऐसी नीति की कल्पना करने का प्रयास किया है जिसे कम से कम उत्तरी अमेरिका, यूरोप और भारत की राष्ट्रीय और क्षेत्रीय सरकारों द्वारा अपनाया और स्वीकार किया जा सके। (ऐसी कई सरकारें इस समय प्रासंगिक नियम पारित कर रही हैं।)

इस ढाँचे के लक्ष्य

इस ढाँचे के लक्ष्य deepfakes (या किसी अन्य प्रकार के सिंथेटिक मीडिया) के निर्माण को समाप्त करना नहीं हैं। वे हैं:

• नुकसानों के दायरे को कम करना, और…

• लेखकत्व को स्पष्ट बनाना, जिससे हम…

• अंतर्निहित नुकसानों को मौजूदा विनियमों के अधिकार क्षेत्र में वापस धकेल सकें…

…और उपरोक्त सभी को अत्यधिक गति के साथ प्राप्त करना।

विशेष रूप से, उस मीडिया को दबाने में वास्तविक नुकसान हैं जो सिंथेटिक होने का संदेह है जब वह नहीं है, और सिंथेटिक मीडिया को वास्तविक के रूप में प्रस्तुत होने देने में भी। यह प्रस्ताव न केवल उन नुकसानों को संतुलित करने का प्रयास करता है, बल्कि उचित न्यायक्षेत्र में न्यायिक कार्य के लिए ऐसे संतुलन के अंतिम निर्णय को जितनी जल्दी हो सके स्थगित करने का भी।

यह अतिरिक्त रूप से हमारा लक्ष्य है कि ऐसी कोई नीति प्रस्तावित न की जाए जो बोलने की स्वतंत्रता, राजनीतिक अभिव्यक्ति या विदेशी हस्तक्षेप के आसपास वर्तमान विनियमन को चुनौती दे या बदल दे।

इस नीति के तहत कौन सा मीडिया कवर किया जाएगा?

जबकि यह कल्पना की जा सकती है कि सिंथेटिक मीडिया को हर संभव (अच्छे और बुरे) उपयोग के लिए रखा जाएगा, विशिष्ट नुकसान जो पहले से देखे गए हैं वे निम्नलिखित हैं:

घरेलू राजनीतिक हस्तक्षेप पहचान की चोरी और धोखाधड़ी गैर-सहमति से अश्लीलता विदेशी राजनीतिक हस्तक्षेप सैन्य दुष्प्रचार अभियान बीमा धोखाधड़ी झूठा साक्ष्य

कोई भी मीडिया (फ़ोटोग्राफ़, वीडियो, ऑडियो रिकॉर्डिंग, चाहे सार्वजनिक रूप से प्रसारित हो या निजी रूप से प्रसारित) जो इन नुकसानों को करने का प्रयास करता है या उन्हें प्राप्त करता है, इस नीति के दायरे में है।

मीडिया नीति के लिए ढाँचा

यह ढाँचा मीडिया के पूरे जीवनचक्र के आसपास आकार लेना चाहिए, कैप्चर या निर्माण से लेकर प्रकाशन तक रिपोर्टिंग और शमन तक, और इसमें शामिल विभिन्न अभिनेताओं को संबोधित करना चाहिए।

मीडिया नीति के लिए एक ढाँचा

1. सिंथेटिक मीडिया निर्माण की तकनीक

हम "मजबूत" deepfake दृष्टिकोणों के उपयोग को विनियमित करने की कोशिश कर सकते हैं उसी तरह जैसे हम मजबूत एन्क्रिप्शन (एक हथियार के रूप में, और ITAR द्वारा कवर) को नियंत्रित करते हैं; हालाँकि, इस दृष्टिकोण के लिए शायद बहुत देर हो चुकी है। आज की deepfakes तकनीकें पहले से ही सिंथेटिक मीडिया जनरेशन की AR-15 हैं, और कोई प्राकृतिक तकनीकी "रेखा" नहीं है (रिज़ॉल्यूशन, फ्रेम-रेट, प्रति पिक्सेल या फ्रेम कंप्यूटिंग पावर की मात्रा, प्रशिक्षण डेटा सेट की जटिलता, आदि) जो पहले से पार नहीं की गई हो…

… बिल्ली पहले से ही बाहर है।

इसके बजाय, हमें मीडिया उत्पत्ति के लिए मानक स्थापित करने होंगे, और नुकसान पहुँचाने वाले मीडिया को अपनी उत्पत्ति का बचाव करना होगा। यह DMCA/ISD के तहत कॉपीराइट के प्रश्नों पर लागू की गई नीति को दर्पण करता है — एक बार कॉपीराइट उल्लंघन का दावा किया जाने के बाद, मीडिया का प्रकाशक उल्लंघनकारी मीडिया का उपयोग करने के अपने अधिकार का साक्ष्य प्रदान करने के लिए बाध्य है। जब उन्होंने ऐसा किया है, तो सबूत का बोझ दावेदार पर स्थानांतरित हो जाता है।

मीडिया के लिए न्यूनतम उत्पत्ति को कब, कहाँ और किस डिवाइस से मूल स्रोत मीडिया को कैप्चर किया गया था, यह स्थापित करना होगा। निर्मित मीडिया जो किसी मूल स्रोत मीडिया का संपादन नहीं है, उसे उत्पत्ति की आवश्यकता नहीं है, लेकिन उसे सिंथेटिक के अलावा कुछ होने का दावा नहीं करना चाहिए।

(हम स्वीकार करते हैं कि मीडिया उत्पत्ति के कैप्चर और प्रमाणीकरण के लिए उपकरण अभी तक व्यापक रूप से उपलब्ध नहीं हैं; अल्पकालिक में, उत्पत्ति का सबसे सरल रूप मीडिया निर्माता का शपथ पत्र है।)

2. तकनीशियनों के कर्तव्य

जबकि आज के मीडिया परिदृश्य के सबसे बड़े खतरों में से एक वह बढ़ती आसानी है जिसके साथ शौकिया लोग, छोटे बजट और ओपन सोर्स या मुफ्त में उपलब्ध टूलिंग का उपयोग करके, आकर्षक और भ्रामक सिंथेटिक मीडिया का उत्पादन कर सकते हैं, वास्तव में अज्ञात deepfakes तैयार करना (और शायद रहेगा) विशेषज्ञों का क्षेत्र है, कम से कम अभी के लिए।

स्पष्ट रूप से, अपराधियों और विदेशी एजेंटों की लाइसेंस या प्रमाणपत्रों में कोई रुचि नहीं है। लेकिन अधिकांश पेशेवर जो वैध उद्देश्यों (फिल्मों, विज्ञापन, कॉमेडी) के लिए deepfakes विकसित करते हैं, उनसे एक पर्यवेक्षण निकाय से जुड़े व्यावसायिक आचरण के मानक की सदस्यता लेने की उम्मीद की जा सकती है। (यह इस तरह होगा जैसे ट्रेडस्पर्सन, डॉक्टर, लॉबिस्ट, अकाउंटेंट और अन्य पेशेवरों को नियंत्रित किया जाता है।) हानिकारक मीडिया में किसी भी भागीदारी से उनकी लाभदायक, वैध सिंथेटिक मीडिया में भाग लेने की क्षमता जोखिम में पड़ जाएगी।

3. सामग्री नीतियाँ

सामग्री स्तर पर हमारी एकल, बुनियादी नीति सिफारिश है: कोई भी मीडिया जो किसी वास्तविक व्यक्ति या समकालीन घटना का सिंथेटिक प्रतिनिधित्व उत्पन्न करता है, उसे सिंथेटिक के रूप में लेबल किया जाना चाहिए।

ऐसी लेबलिंग नीति स्थापित करने से (और इस तरह के लेबलिंग के उपयोगकर्ता अनुभव पर प्रमुख वितरण प्लेटफार्मों के साथ मिलकर काम करने से) इस नीति ढाँचे की अधिकांश संभावित अति-पहुँच से बचा जा सकेगा, और व्यंग्य और राजनीतिक टिप्पणी के लिए सभी रूपों के सिंथेटिक मीडिया का उपयोग करने के अधिकारों को संरक्षित किया जा सकेगा।

हम मानते हैं कि ऐसी लेबलिंग मीडिया के भीतर ही होनी चाहिए, न कि केवल वितरण प्लेटफॉर्म के भीतर। इससे वितरण के असमान नियामक परिदृश्य (जिसे हमने TikTok Challenge कहा है), साथ ही निजी, वॉल्ड-गार्डन संचार समूहों की प्रमुख भूमिका को संबोधित करने में मदद मिलेगी (WhatsApp Gap)।

4. सिंथेटिक मीडिया का वितरण

किसी भी प्रमुख मीडिया वितरण प्लेटफॉर्म के लिए एक उद्देश्यपूर्ण, गैर-पक्षपाती सामग्री समीक्षा प्रक्रिया लागू करना संभवतः असंभव है। (निश्चित रूप से यह स्वैच्छिक स्व-शासन के तहत होने की संभावना नहीं है।) यहाँ तक कि अगर यह संभव होता, तो यह बाहरी रूप से ऑडिट या पुष्टि करना असंभव रहेगा, और इसलिए भरोसा करना असंभव है।

सौभाग्य से, सामग्री समीक्षा आवश्यक नहीं है। जो आवश्यक है वह विस्तारित रिपोर्टिंग और शमन कार्यक्रमों में भाग लेने की एक मजबूत बाध्यता है। इन शमन कार्यक्रमों को प्लेटफार्मों को उभरते मीडिया उत्पत्ति मानकों के सत्यापन का समर्थन करने की आवश्यकता होगी।

रिपोर्टिंग और शमन के लिए विशिष्ट नीतियों में सप्ताहों या महीनों में नहीं, घंटों या दिनों में समय-सीमाएँ शामिल होनी चाहिए।

5. नुकसान के दावों को संभालना

DCMA प्रक्रिया की तरह, हानिकारक मीडिया के शमन के लिए अनुरोध उन लोगों द्वारा प्रस्तुत किए जाने चाहिए जिनके पास "स्थायित्व" है। यह सबसे सरल रूप से वह व्यक्ति या हानि प्राप्त समूह का सदस्य, या एक कानूनी प्रतिनिधि है।

जब नुकसान का दावा प्रस्तुत किया जाता है (चाहे कानून प्रवर्तन को, या सीधे मीडिया वितरण प्लेटफॉर्म को), दावा प्राप्तकर्ता को मीडिया प्रकाशक से "उत्पत्ति की माँग" के साथ संपर्क करना होगा। जब तक मीडिया प्रकाशक इस प्रारंभिक बार को पूरा करने वाली उत्पत्ति प्रदान कर सकता है, उनका मीडिया उपलब्ध और अपरिवर्तित रहता है; सबूत का बोझ अब दावेदार पर है।

6. हानिकारक मीडिया का शमन

जैसा कि अन्यत्र अच्छी तरह से प्रलेखित है, झूठे मीडिया को हटाना अक्सर गलत दृष्टिकोण है। संपादित सामग्री जैसे deepfake तक सार्वजनिक पहुँच के मामले में, प्लेटफार्मों का दर्शकों को बिना संपादित मूल सामग्री की ओर पुनर्निर्देशित करने का दायित्व है, हानिकारक संपादनों का वर्णन करते हुए लेकिन प्रदर्शित किए बिना।

शमन में पुनर्निर्देशन पर जोर होना चाहिए, हटाने पर नहीं

मीडिया प्लेटफार्मों में अक्सर दर्शकों को नई या अपडेट की गई सामग्री की सूचना देने के तरीके होते हैं; उन्हें इन तरीकों का उपयोग उन दर्शकों को सूचित करने के लिए करना चाहिए जो मूल हानिकारक मीडिया के संपर्क में थे।

7. निवारक उपाय

बड़े नुकसान जिनकी हम बात कर रहे हैं (चुनावों में विदेशी हस्तक्षेप, मानहानि, गैर-सहमति से अश्लीलता, धोखाधड़ी) सभी अपने आप में गंभीर अपराध हैं; इन अपराधों को करने में deepfakes के उपयोग के लिए अतिरिक्त निवारक उपाय संभवतः अप्रासंगिक होंगे। तकनीशियनों, सलाहकारों और मीडिया क्रिएटिव को संश्लेषण तकनीकों के दुरुपयोग के लिए संयुक्त रूप से जिम्मेदार बनाना संभवतः सबसे प्रभावी निवारक है।

निष्कर्ष

जबकि deepfakes द्वारा उत्पन्न खतरे नए और उभरते लग सकते हैं, सिंथेटिक मीडिया की अंतर्निहित समस्या दशकों से तेज हो रही है। ऐसे मीडिया के नुकसानों को संबोधित करने का प्रयास बहुत पहले होना चाहिए था। यह ढाँचा एक मसौदा है, जिसका उद्देश्य कुछ अंतरालों को संबोधित करना और आगे की चर्चा को प्रेरित करना है।