केस स्टडी
AI प्रेज़ेंटर नकली लगता है: वह जाँच जो इसे पकड़ लेती है
हमें रोज़ वीडियो चाहिए था, पर रोज़ शूटिंग नहीं। तो एक इमेज मॉडल प्रेज़ेंटर को नई जगहों और नए कपड़ों में बनाने लगा। तस्वीरें साफ़ थीं, फिर भी वह पूरा वह नहीं था। यह रही वह जाँच जिसने इसे पकड़ा, और इसे अपनी तस्वीरों पर कैसे चलाएँ।
मुख्य बातें
- जो आपका चेहरा पहचानता है, उसके लिए तस्वीर ज़रा भी अलग हो तो वह पूरे वीडियो पर भरोसा छोड़ देता है।
- अपने हर मापदंड को हाँ-या-ना वाले सवाल में बदलिए, ताकि कोई स्कोर किसी कमी को पास न करा दे।
- बनाई हुई तस्वीरों की तुलना सही पोर्ट्रेट से कीजिए, क्योंकि सेल्फ़ी मॉडल को अच्छा दिखा देती है।
- पोस्ट करने से पहले तय कर लीजिए कि जब कुछ पास न हो तो क्या होगा, और जवाब यह रखिए कि उस दिन कोई वीडियो नहीं।
- कटअवे में हमशक्ल न रखिए, और हर पोस्ट पर लिखिए कि वह AI से बनी है।
AI प्रेज़ेंटर नकली लगता है, वह भी देखने वाले के बता पाने से बहुत पहले, और तस्वीरें आपके तय किए हर स्कोर में पास हो सकती हैं। हमारे यहाँ इसे एक अलग जाँच ने पकड़ा: सीधे हाँ-या-ना वाले सवाल, जो किसी तस्वीर को बाहर कर देते हैं, और शक्ल का आकलन सेल्फ़ी की जगह सही पोर्ट्रेट से। हमारा हर रोज़ का वीडियो अब एक असली फ़ोटो से शुरू होता है, और यह फ़ैसला उसी जाँच से निकला।
वह जाँच जो स्कोर से बेहतर पकड़ती है कि AI प्रेज़ेंटर नकली लगता है
अपने मापदंडों को ऐसे सवालों में बदलिए जिनका जवाब हाँ या ना हो, और कोई भी हाँ तस्वीर के इस्तेमाल से पहले उसे बाहर कर दे।
किसी मॉडल का स्कोर बताता है कि तस्वीर कितनी साफ़ है, यह नहीं कि उसमें जो व्यक्ति है वह आप हैं। हमारा स्कोर उदार था। चौड़ी मुस्कान और दिखते दाँतों वाला चेहरा 10 में से 9 आया, जबकि मॉडल के अपने निर्देश कहते थे कि दाँत दिखने पर तस्वीर बाहर होनी चाहिए। एक मज़बूत मॉडल ने वही तस्वीर देखी, दाँत देखे और उसे 6 दिया।
सवालों में बहस की गुंजाइश कम रहती है: दाँत दिख रहे हैं? फ़्रेम में कोई और है? कहीं कोई लिखाई है? आँखें बंद हैं? कोई भी हाँ हो और तस्वीर बाहर, चाहे स्कोर कुछ भी कहे।
जाँच का दूसरा हिस्सा है कि आप किससे तुलना करते हैं। हाथ की दूरी से, लेंस के पास से ली गई पुरानी सेल्फ़ी बनाए हुए चेहरे को आपके ज़्यादा करीब दिखा देती हैं। सामान्य रोशनी में कैमरे की ओर देखते हुए कुछ अच्छे पोर्ट्रेट शक्ल का आकलन करने के लिए ज़्यादा कड़ा और ज़्यादा न्यायपूर्ण मापदंड हैं।
रोज़ का AI प्रेज़ेंटर आख़िर गड़बड़ क्यों होता है
देखने वाला बिना ठाने ही चेहरा जाँच लेता है, इसलिए जो प्रेज़ेंटर लगभग आप हैं, वह झूठा लगता है, चाहे कपड़े, रोशनी और बैकग्राउंड सही हों।
हम अपने ही चैनलों पर YouTube Shorts, Instagram Reels, TikTok और Facebook के लिए रोज़ एक छोटा वीडियो बनाते हैं। हमारे काम को पेश करने वाला व्यक्ति दिन का लेख एक मिनट से कम में बताता है, अपनी सहमति से क्लोन की गई आवाज़ और चेहरे के साथ, और हर पोस्ट पर हर नेटवर्क पर यह लिखा होता है कि वह AI से बनी है। वीडियो एक जैसे न दिखें, इसलिए हर वीडियो में एक इमेज मॉडल से नया कपड़ा और नई जगह दिखाना तय था।
यहीं किसी व्यक्ति के चेहरे पर बना चैनल वह खो सकता है जिसके लिए वह बना था। किसी कारोबार के लिए कैमरे पर दिखता चेहरा ही भरोसा है। बगल की मेज़ पर बैठा कोई अजनबी, या ऐसी शर्ट पर कोई निशान जो किसी ने चुना ही नहीं, देखने वालों को बता देता है कि सब कुछ बनावटी है, और वे जिस वजह से देखने आए थे, वही छोड़ देते हैं।
हमारे पहले दौर में क्या निकला
बनाई हुई तस्वीरें साफ़ थीं और छोटी-छोटी बातों में गलत, जो किसी ने माँगी ही नहीं थीं।
एक भीड़-भाड़ वाले कैफ़े में उन्होंने बगल की मेज़ पर अजनबी बैठा दिए। सादे पोलो शर्ट पर एक निशान जोड़ दिया। खाली जगहें और सादे कपड़े माँगने से फ़ायदा हुआ; पर उस सवाल का जवाब नहीं मिला जो असली था, यानी क्या तस्वीर में जो व्यक्ति है वह वही है।
बैकअप भी फेल हुआ। एक बार जब सोलहों तस्वीरें बाहर कर दी गईं, तो वीडियो प्लेटफ़ॉर्म के अपने प्रेज़ेंटर का चेहरा बुरी तरह बिगड़ा हुआ निकला।
बदलाव की बात कोई और सेटिंग नहीं, तुलना थी। पुरानी चौड़ी सेल्फ़ी की जगह असली पोर्ट्रेट से आँकने पर बनाई हुई तस्वीरें उनसे सिर्फ़ कुछ हद तक मिलती थीं।
हमने क्या बदला
दो चीज़ें: कड़े सवाल, और आँकने के लिए असली फ़ोटो।
नियम सीधे हाँ-या-ना वाले सवाल बन गए, और स्कोर पढ़ने से पहले कोई भी हाँ तस्वीर को बाहर कर देता था। आँकना दो कदमों में हुआ: एक तेज़ मॉडल चार तस्वीरों में साफ़ गलतियाँ बाहर करता है, और एक मज़बूत मॉडल सिर्फ़ सबसे अच्छी दो देखता है और अकेले ही एक को पास कर सकता है। जो चेहरा फेल हुआ, उससे कोई वीडियो नहीं बनता।
फिर वह फ़ैसला आया जिसकी ओर सबूत इशारा कर रहे थे। अब हर वीडियो एक असली फ़ोटो से शुरू होता है, जैसी वह है, 42 में से एक, हर बार बारी-बारी से एक बार इस्तेमाल, और बैकग्राउंड में बदलती जगह। बनाए हुए लुक बंद कर दिए गए हैं और सँभाल कर रखे हैं।
हमने उनकी लाइनों के बीच फुटेज भी फिर से माँगा, क्योंकि सिर्फ़ बोलता चेहरा नीरस लगता है, एक शर्त के साथ: कोई भी स्टॉक क्लिप ऐसा आदमी न दिखाए जिसे वही समझा जा सके। कटअवे में आया हमशक्ल देखने वालों को उलझन में डाल देता है कि असली कौन है।
हमारे रोज़ के वीडियो अब कहाँ हैं
16 October से लाइव: तब से हर रोज़ का वीडियो एक असली फ़ोटो से शुरू हुआ है और चारों नेटवर्क पर गया है।
आँकने का काम बेकार नहीं गया। उसी ने हमें आँकड़ों में बताया कि बनाई हुई तस्वीरें काफ़ी अच्छी नहीं थीं, ऐसी बात जिस पर हम बहस कर सकते थे पर सवाल और स्कोर बनने से पहले नाप नहीं सकते थे।
आप खुद क्या जाँच सकते हैं
- जो आपका चेहरा पहचानता है, उससे कहिए कि कुछ असली तस्वीरों में से AI वाली चुनकर बताए, बिना यह बताए कि कितनी हैं।
- वीडियो आवाज़ बंद करके चलाइए और सिर्फ़ मुँह और आँखें देखिए, जहाँ खराब तरीके से हिलता चेहरा सबसे पहले पकड़ में आता है।
- हाथ दिखें तो उन्हें देखिए, और उँगलियाँ गिनिए।
- हर बनाई हुई तस्वीर के बैकग्राउंड में देखिए कि कोई लोगो, लिखाई या ऐसा राहगीर तो नहीं जो उस कमरे में था ही नहीं।
- अपनी तय की हुई पोस्टें देखिए और पक्का कीजिए कि जिसमें भी क्लोन की गई आवाज़ या चेहरा है, उस पर यह लिखा है।
आगे क्या करें
अभी तय कर लीजिए कि जिस दिन कुछ भी पास न हो, उस दिन क्या होगा, उस दिन के आने से पहले। कोई वीडियो न बनाना किसी कमज़ोर तस्वीर को पोस्ट करने से बेहतर है, और बिना जाँच वाला बैकअप ही वह रास्ता है जिससे बिगड़ा चेहरा दर्शकों तक पहुँचता है।
अच्छी रोशनी में, कैमरे की ओर देखते हुए कुछ सही पोर्ट्रेट बनवा लीजिए। जो भी बनाया जाएगा, उसे इसी से नापा जाएगा, और मुश्किल के दिन आप इसी पर लौटेंगे।
इस जाँच को तय करना, और इसे पोस्ट करने की अपनी दिनचर्या में शामिल करना, ऐसा काम है जो हमारे इंजीनियर उन ग्राहकों के लिए करते हैं जो रोज़ शूटिंग किए बिना कैमरे पर आना चाहते हैं।
लोग जो पूछते हैं
क्या AI प्रेज़ेंटर को बिल्कुल मेरे जैसा बनाया जा सकता है?
इमेज मॉडल आपके जैसे दिखने वाले किसी व्यक्ति को बनाता है, आपको नहीं, इसलिए तस्वीरें करीब आती हैं, सटीक नहीं। हमारे अनुभव में कमियाँ मुँह, हाथों और बैकग्राउंड में दिखती हैं, और जो आपका चेहरा पहचानते हैं वे उन्हें जल्दी पकड़ लेते हैं। आप किसी तस्वीर का मापदंड ऊँचा कर सकते हैं, पर ऊँचा करने से यह फ़ासला खत्म नहीं होता।
AI तस्वीरों में बिना माँगे अजनबी और लोगो क्यों आ गए?
इमेज मॉडल वह सब भर देते हैं जिससे कोई दृश्य पूरा लगे, और लोगों वाला कमरा खाली कमरे से ज़्यादा पूरा लगता है। सादे कपड़े और खाली जगह माँगने से फ़ायदा होता है, पर हर जोड़ हटता नहीं। किसी मॉडल से कोई चीज़ छोड़ने को कहने पर वह चीज़ और भी आ सकती है, इसलिए निर्देश पर भरोसा करने की जगह हर तस्वीर जाँचिए।
कैसे जाँचूँ कि मेरी AI तस्वीर पोस्ट करने लायक है या नहीं?
उसे किसी असली पोर्ट्रेट के बगल में रखिए और जो आपका चेहरा पहचानता है, उससे पूछिए कि कौन-सी कौन है, पहले जवाब बताए बिना। फिर उसे अकेले देखिए: मुँह, आँखें, हाथ, कपड़े और बैकग्राउंड, यहीं समस्याएँ दिखती हैं। अगर वह पास न हो, तो उस दिन कुछ भी कमज़ोर पोस्ट करने की जगह कुछ भी पोस्ट न कीजिए।
अगर चेहरा सही नहीं है तो क्या मुझे AI वीडियो बंद कर देना चाहिए?
ज़रूरी नहीं। हमने अपने वीडियो के लिए जो तय किया, वह यह था कि हर वीडियो प्रेज़ेंटर की असली फ़ोटो से शुरू हो और उसके आस-पास की जगह बदलती रहे, जिससे रोज़ का वीडियो चलता रहे और दर्शकों को थोड़ा अलग चेहरा कबूल करने की ज़रूरत न पड़े। अगर आपके पास असली फ़ोटो का सेट है और उन्हें इस्तेमाल करने की दिनचर्या है, तो आपको बनाए हुए चेहरे की ज़रूरत ही न पड़े।
क्या मुझे बताना पड़ेगा कि वीडियो AI से बना है?
हम हर नेटवर्क पर अपने वीडियो पर यह लिखते हैं, और आप जो भी तय करें, यह लिखना ज़्यादा सुरक्षित आदत है। नियम प्लेटफ़ॉर्म और देश के हिसाब से अलग होते हैं और बदलते रहते हैं, इसलिए जहाँ आप पोस्ट करते हैं वहाँ की मौजूदा गाइड देखिए, और जहाँ कानून आप पर लागू हो वहाँ सलाह लीजिए।