इंटरनेट और स्मार्टफोन की बढ़ती पहुंच के साथ सोशल मीडिया हमारे जीवन का अभिन्न हिस्सा बन चुकी है। आज के दौर में सोशल मीडिया के उपयोगकर्ता इस प्लेटफाॅर्म के ज़रिए बड़ी कम्युनिटी के साथ जुड़े रहते हैं, अपने विचारों को अभिव्यक्त करते हैं तथा सोशल मीडिया ऐप्स में खबरें और जानकारी प्राप्त करते हैं। इसके परिणामस्वरूप ऐप्स पर झूठी खबरों एवं अनुपयुक्त कंटेंट के फैलने की संभावना भी बहुत अधिक बढ़ जाती है। ऐसे में ज़रूरी है कि सोशल मीडिया ऐप्स पर इस जोखिम को कम किया जाए और झूठी खबरों पर लगाम लगाने क लिए सशक्त कंटेंट माॅडरेशन प्रणाली को सुनिश्चित किया जाए।
इसी तरह का एक सोशल मीडिया ऐप हेलो इस खतरे से लड़ने के लिए कदम उठा रहा है। हेलो को अपने उपयोगकर्ताओं के लिए सुरक्षित प्लेटफाॅर्म बनाने के प्रयास में हेलो ने अपने प्लेटफाॅर्म से 6 मिलियन से अधिक पोस्ट हटा दिए हैं, जो कम्युनिटी निर्देशों का उल्लंघन कर रहे थे। हेलो एक सशक्त कंटेंट माॅडरेशन प्रक्रिया को अपनाता है, यह इन-ऐप रिपोर्टिंग जैसे फीचर्स पेश करता है, जिसके द्वारा उपयोगकर्ता ऐसे कंटेंट को रिपोर्ट कर सकते हैं जो उनके लिए असहज हो, इस तरह यह प्लेेटफाॅर्म को सुरक्षित बनाने की दिशा में महत्वपूर्ण प्रयास है।
वास्तव में झूठी खबरों पर लगाम लगाने और गैर-पक्षपातपूर्ण तरीके से तथ्यों की जांच के लिए हेलो ने अक्टूबर 2018 में एक स्थानीय साझेदार प्राधिकरण के साथ साझेदारी की। 2019 के आम चुनावों के दौरान हेलो ने भारतीय चुनाव आयोग के निर्देशों का पालन किया और आदर्श आचार संहिता का पालन करते हुए एक एस्केलेशन चैनल की स्थापना भी की। हेलो ने एक पीएसए इन-ऐप फीचर का भी संचालन किया, जिसके माध्यम से चुनावोें के दौरान उपयोगकर्ताओं को याद दिलाया गया कि वे सोच-समझ पर ऐप पर कंटेंट पोस्ट करें, उन्हें सत्यापित स्रोतों से प्राप्त खबरों का इस्तेमाल करने और ईसीआई के चुनावी दिशानिर्देशों का पालन करने के लिए प्रोत्साहित किया गया।
देश भर के सोशल मीडिया ऐप्स की ज़िम्मेदारी है कि वे अपने ऐपे पर प्रकाशित की जाने वाली सामग्री की समीक्षा करें, इस पर निगरानी बनाए रखें। हेलो की स्थानीय कंटेंट रिव्यू एवं माॅडरेशन टीम आॅपरेशन्स टीम के साथ मिलकर काम करती है और प्लेटफाॅर्म पर मौजूद 14 भाषाओं पर निगरानी बनाए रखती है। हेलो की माॅडरेशन कम्युनिटी निर्देशों का उल्लंघन करने वाले कंटेंट की समीक्षा के लिए मशीन लर्निंग तकनीक तथा मानवीय हस्तक्षेप का इस्तेमाल करती है- जिसके तहत झूठी खबरों, अनुपयुक्त कंटेंट, स्पाम को अपलोड करने या बौद्धिक संपदा अधिकारों का उल्लंघन करने और किसी भी दुर्भावनापूर्ण गतिविधि की सख्त मनाही होती है। ये कदम झूठी खबरों के प्रचार को रोकने के लिए प्रभावी पाए गए हैं। यह झूठी खबरों पर लगाम लगाने की हेलो की प्रतिबद्धता की पुष्टि करता है।
उपरोक्त संदर्भ में ऐप पर उपयोगकर्ताओं की सुरक्षा हेलो के लिए प्रमुख प्राथमिकता है। यह तो साफ है कि किसी भी सोशल मीडिया प्लेटफाॅर्म को गलत जानकारी, झूठी खबरों से 100 फीसदी सुरक्षित रख पाना संभव नहीं है, किंतु एक सशक्त एवं मल्टी-लेयर्ड कंटेंट माॅडरेशन और त्वरित जांच प्रणाली के द्वारा झूठी खबरों को फैलने से रोका जा सकता है। इसके अलावा उचित निर्देशों और सुरक्षा फीचर्स के साथ उपभोक्ताओं का भरोसा जीत कर सोशल मीडिया के इस्तेमाल को सुरक्षित बनाया जा सकता है। सुरक्षित और भरोसेमंद कंटेंट सुनिश्चित करता है कि हेलो जैसे ऐप भारत में खबरों और नए विषयों के प्रचार के लिए सबसे भरोसेमंद स्रोत बने रहें।