ટેકનોલોજીનાં બેફામ ઉપયોગથી ચિંતામાં વધારો
બંધારણીય હોદાઓના AI અને ડિપફેક વીડિયો ફોટાથી પદ-પ્રતિષ્ઠાને ભારે અસર
AI અને ડિપફેક કન્ટેન્ટને લઇ હાઇકોર્ટ લાલઘૂમ : મેટા, એકસ અને ગુગલને નોટીસ ફટકારી : અમદાવાદની અરજી પર સુનાવણી
અગ્ર ગુજરાત, અમદાવાદ
ગુજરાત હાઇકોર્ટમાં અમદાવાદથી અરજદાર વિકાસ.વિ.નાયરે એડવોકેટ અમિત પંચાલ દ્વારા AI અને ડીપફેકને લઈને જાહેર હિતની અરજી દાખલ કરી છે. જેમાં હાઇકોર્ટે હુકમ કરતા મેટા, X, ગુગલ વગેરેને નોટિસ પાઠવીને જવાબ રજૂ કરવા કહ્યું છે. તેઓને કેન્દ્ર સરકારના સહયોગ પોર્ટલ ઉપર જોડાવવા આદેશ કર્યો છે.
આ અરજીમાં મૂળ મુદ્દો એ હતો કે, પ્લેટફોર્મ પ્રોવાઇડર કંપનીઓને સૂચના આપવા છત્તા કન્ટેન્ટ દૂર કરતી નથી અને મોટા ભાગે કહે છે કે URL ઉપલબ્ધ નથી. બાળકો પણ AIથી બનેલા વીડિયો જુએ છે. લોકોને પણ સમજતા સમય લાગે છે કે આ AI જનરેટેડ વિડિઓ છે.
ગત સુનવણીમાં કેન્દ્ર સરકારે કહ્યું હતું કે, તેઓએ સહયોગ પ્લેટફોર્મ બનાવ્યું છે, જ્યાં તમામ પ્લેટફોર્મ પ્રોવાઇડર જોડાયેલા છે. તેમને વાંધાજનક AI જનરેટેડ કન્ટેન્ટ ઉતારવા માટે જણાવવામાં આવે છે. કોર્ટે કહ્યું હતું કે, પ્લેટફોર્મ દ્વારા આવા વીડિયો કોઈ ઓથેન્ટિકેશન વગર મૂકી શકે નહીં, જો ઓથેન્ટિકેશનની વ્યવસ્થા ના હોય તો પ્લેટફોર્મ ઉપર આવતી ફરિયાદો ધ્યાને લેવી જોઈએ.
રાજ્ય સરકાર વતી જણાવાયું હતું કે, જાન્યુઆરી, 2026માં પ્લેટફોર્મ પ્રોવાઇડરને 107 કન્ટેન્ટ દૂર કરવા કહ્યું છત્તા તે પ્લેટફોર્મ ઉપર છે. વિદેશમાંથી પણ ફરિયાદના ફોન આવે છે, લોકોની ઇમેજ ખરાબ થઈ રહી છે. ડીપ ફેક વીડિયોને તો ઓળખવો અઘરો છે.
કેન્દ્રના ગૃહ વિભાગના જણાવ્યા મુજબ, નિયમો ચાલુ વર્ષે 2026માં બન્યા છે. જેમાં ફેક વીડિયો ઉતારવા પ્લેટફોર્મને સૂચનાઓ આપવામાં આવે છે. કોર્ટે પૂછ્યું હતું કે જો પ્લેટફોર્મ પ્રોવાઇડર ના માને તો શું કરશો ? કેન્દ્ર સરકારે કહ્યું હતું કે નિર્દેશ ઉપર ત્રણ કલાકમાં કન્ટેન્ટ હટાવવુ પડે, પહેલા આ સમય 36 કલાકનો હતો. કોર્ટે ફરી પૂછ્યું હતું કે જો તેઓ કન્ટેન્ટ ના ઉતારે તો શું ?
સરકારી વકીલે કહ્યું હતું કે, IT એક્ટ 66C, 66D અને 66E અંતર્ગત કાર્યવાહી કરવામાં આવે છે. જેથી કોર્ટે કહ્યું હતું કે, તેના પ્રાવધાન તો ખોટું કન્ટેન્ટ ચઢાવનાર સામે છે, પણ પ્લેટફોર્મ માટે શું ? તમે શું કરી શકો ? તમે નિર્દેશ આપી શકો, પણ નિર્દેશ ન માને તો શું ?
કેન્દ્રએ કહ્યું હતું કે, રાજ્ય વિરુદ્ધના ગુન્હાઓ માટે સખત કાર્યવાહીના પ્રાવધાન લાગુ છે, પણ પ્રાઇવેટ ફરિયાદ માટે નહીં. જો પ્લેટફોર્મ પ્રોવાઇડર AI જનરેટેડ વાંધાજનક કન્ટેન્ટ જાતે દૂર ન કરે અથવા સૂચના બાદ પણ દૂર ના કરે તો સહ આરોપી બને છે. જો કે કોર્ટે કહ્યું હતું કે આરોપ સાબિત કરવા કોર્ટ ટ્રાયલની જરૂર પડે એમાં ટાઈમ જોઈએ, એના માટેનો સમય નથી.
કોર્ટે કહ્યું હતું કે, સૂચના આપ્યા બાદ ત્રણ કલાકનો સમય કન્ટેન્ટ ઉતારવા માટે વધુ કહેવાય. તુરંત થતી હાનિ કેવી રીતે અટકાવી શકાય ? તમે જાતે પ્લેટફોર્મ ઉપરથી કન્ટેન્ટ ઉતારી શકો તેમ નથી. તુરંતના પગલા લેવા માટે શું પ્રાવધાન છે ?.
રાજ્ય સરકાર વતી કહેવાયું હતું કે, એક હજાર ફરિયાદમાંથી માત્ર 14 ફરિયાદનો જ પ્લેટફોર્મ પ્રોવાઇડરે જવાબ આપ્યો હતો. વળી X સહયોગ પોર્ટલ સાથે સંકળાયેલ નથી. આથી એક યોગ્ય મિકેનિઝમ બનાવવાની જરૂર છે. સોશિયલ મીડિયા જ્યારે IT મંત્રાલય અંતર્ગત આવે છે, ત્યારે હવે કોર્ટ પ્લેટફોર્મ પ્રોવાઇડરને નિયમો પાળવા હુકમ કરી શકે છે.
અગાઉની સુનવણીમાં રજૂઆત કરાઈ હતી કે, બંધારણીય હોદ્દેદારોના પણ મોટા પાયે AI જનરેટેડ અને ડિપફેક વીડિયો તેમજ ફોટા બની રહ્યા છે. તેનાથી પદ અને પ્રતિષ્ઠામાં ઘટાડો થાય છે અને લોકોનો વિશ્વાસ ઘટે છે. ત્યારે IT એક્ટ અંતર્ગત રાજ્ય સરકારે તેની ઉપર નિયમો બનાવવા જરૂરી છે. ઓફિસિયલ ગેઝેટ અને નોટોફિકેશન દ્વારા આવા નિયમો બની શકે છે.
ગુજરાત હાઇકોર્ટ લાઈવ સ્ટ્રીમિંગ રૂલમાં કોપીરાઇટ હોવા છતાં તેના વીડિયો સોશિયલ મીડિયા પ્લેટફોર્મ ઉપર વાયરલ થાય છે, જે અંગે પ્લેટફોર્મને જાણ કરવા છતાં તે વીડિયોને દૂર કરાતા નથી. વળી આવા કેટલાય નકલી વીડિયો અને ફોટા બનતા રહે છે, જેને રોકવા ખૂબ જ અઘરા છે. તેને રિયલ ટાઈમ જ પ્લેટફોર્મ પરથી ઉતારવા પડે તો જ તેને નાથી શકાય તેમ છે. અરજદારે જણાવ્યું હતું કે, AIથી તૈયાર કરાયેલું ટ્રાયલ કોર્ટનું એવું જજમેન્ટ સમક્ષ મુકવામાં આવ્યું હતું જે હકીકતમાં અસ્તિત્વ જ ધરાવતું નહોતું.
