गूगल का आर्टिफिशियल इंटेलिजेंस (AI) सर्च इंजन ‘जेमिनी’ विवादों में फँस गया है। गूगल के जेमिनी पर हिन्दू भावनाओं को आहत करने का आरोप लगा है। इसी के साथ ही इस पर गोरी चमड़ी वाले लोगों की उपलब्धियों को नजरअंदाज करने और हर बात में लिबरल विचारधारा घुसाने का आरोप भी लगा है। इसके कारण AI टीम के मुखिया को माफ़ी माँगनी पड़ी है।
यह सारा मामला AI सर्च इंजन से फोटो जनरेट करने को लेकर जुड़ा हुआ है। एक्स (पहले ट्विटर) पर बुधवार (21 फरवरी 2024) को ‘माइक इन स्पेस’ (@mikeinspace/X) नाम के हैंडल ने एक ट्वीट डाला। इसमें उन्होंने बताया, “मैंने गूगल जेमिनी से ‘बिटकॉइनर की स्टीक खाते हुए’ एक इमेज बनाने के लिए कहा और इसने मुझे एक हिन्दू महिला को बीफ़ खाते हुए दिखाया। मुझे लगता है यह गूगल के सांस्कृतिक रूप से संवेदनशील होने का प्रयास है।”
I asked Google Gemini to generate an image of a "Bitcoiner eating a steak" and it gave me a *hindu* woman eating *beef*. I guess this is Google trying to be culturally sensitive? 🥴 pic.twitter.com/EuECohu2ov
— Mike In Space (@mikeinspace) February 21, 2024
उन्होंने आखिरी लाइन में गूगल पर तंज कसा, क्योंकि गूगल सदैव ही सभी संस्कृतियों का सम्मान करने का दावा करता है। ऐसे में एक हिन्दू महिला को बीफ खाते हुए दिखाने को लेकर प्रश्न उठ रहे हैं। उन्होंने जो फोटो ट्विटर पर साझा की है, उसमें माथे पर तिलक लगाई हुई एक महिला बीफ खाते हुए दिखती है। ऐसे में उन्होंने प्रश्न उठाया कि जहाँ एक हिन्दू बिटक्वाइनर (बिटक्वाइन बनाने वाला) हो सकता है, वह बीफ कभी नहीं खाएगा।
लोगों ने भी इस बात पर प्रश्न उठाए कि ऐसा क्यों है, जबकि गूगल का सीईओ एक भारतीय हिन्दू है। इसके बाद और भी कुछ ट्वीट वायरल हुए, जहाँ गूगल जेमिनी इतिहास से छेड़छाड़ करता दिखा। जेमिनी से जब एक व्यक्ति ने ग्रीक लोगों की फोटो जनरेट करने को कहा तो Gemini ने उन्हें अश्वेत दिखाया जबकि असल में वह गोरी चमड़ी वाले थे। इसने पोप को भी अश्वेत दिखाया।
New game: Try to get Google Gemini to make an image of a Caucasian male. I have not been successful so far. pic.twitter.com/1LAzZM2pXF
— Frank J. Fleming (@IMAO_) February 21, 2024
इसके बाद जब इससे अमेरिका के संस्थापकों के बारे में इमेज जनरेट करने को कहा गया, तब भी ऐसा ही हुआ। इसने कुछ लोगों को अश्वेत दिखाया।
It's probably got the cast of Hamilton as part of its data, so I can understand this one. pic.twitter.com/8fRNqXqgTh
— Frank J. Fleming (@IMAO_) February 21, 2024
इससे जब मध्यकालीन योद्धाओं की तस्वीर दिखाने को कहा गया तो इसने इसमें कोई भी यूरोपियन योद्धा को शामिल नहीं किया, जबकि असल में मध्यकाल में बड़ी संख्या में यूरोप में युद्ध हो रहे थे और इसमें गोरी चमड़ी वाले योद्धा शामिल थे।
I’m trying to come up with new ways of asking for a white person without explicitly saying so. pic.twitter.com/VufLkgzqHg
— Frank J. Fleming (@IMAO_) February 21, 2024
इससे जब वाइकिंग योद्धाओं की एक फोटो जनरेट करने को कहा गया तो इसने यहाँ काले लोगों को दिखाया, जबकि असल में वाइकिंग योद्धा नॉर्वे जैसे देशों के थे और गोरी चमड़ी वाले थे। इसका परिणामों को बदलना लोगों को गुस्सा दे गया। हालाँकि, जब जेमिनी से ज़ुलु योद्धाओं की फोटो जारी करने को कहा गया तो इसने एकदम सही फोटो जारी की। दरअसल, ज़ुलु अफ़्रीकी योद्धा थे।
Come on. pic.twitter.com/Zx6tfXwXuo
— Frank J. Fleming (@IMAO_) February 21, 2024
पोप को काला दिखाने, ऐतिहासिक तथ्यों को सही से ना प्रदर्शित करने और सब कहीं अफ़्रीकी मूल के लोगों की प्रधानता प्रस्तुत करने के चक्कर में जेमिनी की खूब लानत मलानत हुई। इसके बाद जेमिनी के मुखिया जैक क्राव्जी ने माफ़ी माँगी। जैक गूगल की AI डिवीजन के प्रमुख हैं।
उन्होंने इस विषय में एक्स (पहले ट्विटर) पर लिखा, “हमें इस बात की जानकारी है कि जेमिनी कुछ ऐतिहासिक लोगों के विषय में गलत इमेज बना रहा है। हम इस समस्या को तुरंत ठीक करने के लिए काम कर रहे हैं।”
We are aware that Gemini is offering inaccuracies in some historical image generation depictions, and we are working to fix this immediately.
— Jack Krawczyk (@JackK) February 21, 2024
As part of our AI principles https://t.co/BK786xbkey, we design our image generation capabilities to reflect our global user base, and we…
उन्होंने कहा कि ऐतिहासिक लोगों के विषय में अधिक सावधानी की जरूरत होती है और इसे ऐसा किया जाएगा। हालाँकि, उनके इस बयान पर लोगों ने पूछा कि जेमिनी आखिर अंग्रेज या यूरोपियन लोगों के साथ ही क्यों कर रहा है।
