जेनरेटिव AI जादू की तरह लग सकता है लेकिन इसके पीछे कंपनी की पूरी टीम काम कर रही होती है. इन सिस्टम को डेवलपमेंट करने के लिए Google, OpenAI और दूसरी कंपनियों में एम्प्लोयीज की फौज है. इन लोगों को “प्रॉम्प्ट इंजीनियर्स” और एनालिस्ट्स के रूप में जाना जाता है. ये अपने AI को इम्प्रूव करने के लिए चैटबॉट्स के आउटपुट की एक्यूरेसी को रेट करते हैं.
TechCrunch ने इसको लेकर सबसे पहले रिपोर्ट किया है. रिपोर्ट में बताया गया है कि Gemini पर काम करने वाले कॉन्ट्रैक्टर्स को Google की तरफ से दिए गए एक नए इंटरनल गाइडलाइन ने चिंतित कर दिया है. Gemini आम लोगों को हेल्थकेयर जैसे बहुत सेंसिटिव टॉपिक्स पर गलत जानकारी देने के लिए ज्यादा प्रोन हो सकता है.
Gemini को इम्प्रूव करने के लिए Hitachi के आउटसोर्सिंग फर्म GlobalLogic के साथ काम करने वाले कॉन्ट्रैक्टर्स का इस्तेमाल किया जा रहा है. जहां उन्हें नियमित रूप से “ट्रूथफुलनेस ” जैसे फैक्टर्स के हिसाब से AI-जेनरेटेड रिस्पांस का इवैल्यूएट करने के लिए कहा जाता है. ये कॉन्ट्रैक्टर्स हाल तक कुछ प्रॉम्प्ट्स को “स्किप” कर सकते थे.
यह भी पढ़ें: फिर एक्टिव हुए हैकर्स, Bluetooth का इस्तेमाल करके हैक कर रहे मोबाइल, ये गलती पड़ेगी भारी
इसके अलावा अगर प्रॉम्प्ट उनकी डोमेन एक्सपर्टीज के बाहर होता तो वे AI-लिखित रिस्पांस का इवैल्यूएट करने से पीछे हट सकते थे. उदाहरण के लिए, एक कॉन्ट्रैक्टर जिसका कोई साइंटिफिक बैकग्राउंड नहीं है वह ऐसे प्रॉम्प्ट को स्किप कर सकता था जो कार्डियोलॉजी के बारे में किसी स्पेसिफिक सवाल पूछ रहा था.
लेकिन पिछले हफ्ते GlobalLogic ने Google की तरफ से एक बदलाव की घोषणा की. इससे कॉन्ट्रैक्टर्स को अब ऐसे प्रॉम्प्ट्स को स्किप करने की परमिशन नहीं है. इसके लिए चाहे उनकी अपनी एक्सपर्टीज कुछ भी हो. TechCrunch की रिपोर्ट में बताया गया है कि पहले की गाइडलाइन्स में कंपनी प्रॉम्प्ट को रेट करने के लिए क्रिटिकल एक्सपर्टीज ना होने पर उन्हें स्किप करने का ऑप्शन था.
पहले स्किप कर सकते थे रेटिंग
लेकिन, नई गाइडलाइन्स के अनुसार, अब वे उन्हें उन प्रॉम्प्ट्स को स्किप नहीं करने के लिए कहा जा रहा जिनके लिए स्पेशलाइज्ड डोमेन नॉलेज की जरूरत होती है. इसकी बजाय कॉन्ट्रैक्टर्स को “प्रॉम्प्ट के उन हिस्सों को रेट करने के लिए कहा जा रहा है जिन्हें वे समझते हैं, इसके साथ एक नोट भी लिखवाया जाता है जिसमें कहा जाता है कि उनके पास डोमेन नॉलेज नहीं है.
Gemini की एक्यूरेसी को लेकर चिंता
इससे कुछ टॉपिक्स पर Gemini की एक्यूरेसी के बारे में सीधी चिंताएँ पैदा हुई हैं. इससे कॉन्ट्रैक्टर्स को कभी-कभी रेयर बीमारी जैसे मुद्दों के बारे में ज्यादा टेक्निकल AI रिस्पांस का इवैल्यूएट करने का काम सौंपा जाता है, जिनके बारे में उन्हें कुछ नहीं पता होता.
नई गाइडलाइन्स के अनुसार, कॉन्ट्रैक्टर्स अब सिर्फ दो केस में प्रॉम्प्ट्स को स्किप कर सकते हैं. एक केस में अगर उन्हें पूरी तरह से जानकारी का आभाव है जबकि दूसरे केस में हार्मफुल कंटेंट जिनको इवैल्यूएट करने के लिए स्पेशल कंसेंट फ़ॉर्म्स की जरूरत होती है तब भी ही वे इसे स्किप कर सकते हैं.
यह भी पढ़ें: BSNL में ऐसे करें VoLTE एनेबल, कर पाएंगे HD क्वालिटी में कॉल, बहुत कम लोगों को पता है तरीका
Follow Us
Sudhanshu Shubham
सुधांशु शुभम मीडिया में लगभग आधे दशक से सक्रिय हैं. टाइम्स नेटवर्क में आने से पहले वह न्यूज 18 और आजतक जैसी संस्थाओं के साथ काम कर चुके हैं. टेक में रूचि होने की वजह से आप टेक्नोलॉजी पर इनसे लंबी बात कर सकते हैं. View Full Profile
