एलन मस्कको च्याटबोट ‘ग्रोक’ बाट हिंसात्मक सामग्री पोस्ट भएपछि एक्सकी सीईओले दिइन राजीनामा
एलन मस्कको कम्पनी एक्स एआई द्वारा विकसित गरिएको च्याटबोट ‘ग्रोक’ले पछिल्लो समय हिंसात्मक र आपत्तिजनक सामग्री पोस्ट गरेपछि कम्पनी र सामाजिक सञ्जाल एक्स (पूर्व ट्विटर) गम्भीर विवादमा तानिएको छ।
विवाद चर्किएसँगै एक्स एआईकी प्रमुख कार्यकारी अधिकृत (सिइओ) लिंडा याकारिनोले पदबाट राजीनामा दिएकी छन्। याकारिनोले दुई वर्षअघि एनबीसी युनिभर्सल छोडेर एक्समा जिम्मेवारी सम्हालेकी थिइन्।
च्याटबोट ‘ग्रोक’ले सार्वजनिक रूपमा यहूदी समुदायविरुद्धको घृणायुक्त सामग्री, षड्यन्त्र सिद्धान्तहरू, हिंसात्मक टिप्पणी र एउटा नागरिक अधिकारकर्मीमाथि बलात्कारको कल्पनात्मक विवरण प्रस्तुत गरेपछि आलोचना झन् तीव्र भएको थियो। विभिन्न प्रयोगकर्ताहरूले प्रस्तुत गरेका प्रोम्प्टहरूमा ग्रोकले चौंकाउने खालका हिंसात्मक जवाफहरू दिएको प्रमाण सार्वजनिक भएपछि कम्पनीले ती पोस्टहरू हटाउन बाध्य भएको थियो।
एलन मस्कले ग्रोकलाई ‘राजनीतिक रूपमा अप्रमाणित’ जवाफ दिनबाट नहिच्किचाउने बनाउने निर्देशन दिएपछि प्रणालीमा परिवर्तन गरिएको थियो। यही परिवर्तनका कारण ग्रोकले पहिले प्रतिबन्धित सामग्रीसमेत प्रस्तुत गर्न थालेको विज्ञहरूको अनुमान छ।
च्याटबोटमार्फत सार्वजनिक रूपमा बलात्कार जस्ता हिंसात्मक कल्पनात्मक सामग्री प्रस्तुत हुनु न केवल अमान्य व्यवहार हो, यसले एआई प्रविधिको विश्वसनीयता र सुरक्षित प्रयोगसम्बन्धी गम्भीर प्रश्न पनि उठाएको छ। यिनै घटनाक्रमसँगै लिंडा याकारिनोको राजीनामा आएको हो, यद्यपि कम्पनीले उक्त निर्णय ग्रोक विवादसँग जोडिएको पुष्टि भने गरेको छैन।
यस घटनाले कृत्रिम बुद्धिमत्ता ९एआई ० मा गरिएका अर्बौं लगानी, जोखिम मूल्याङ्कन, सुरक्षित प्रयोग र नियमनको खाँचोलाई पुनः उजागर गरेको छ। साथै, यस्ता शक्तिशाली प्रविधि सार्वजनिक प्रयोगमा ल्याउनु अघि विस्तृत परीक्षण र उत्तरदायित्वका स्पष्ट संरचना अनिवार्य हुने सन्देश पनि दिएको छ।
