Proliferation
Meaning in English: Rapid increase or spread of something.
Meaning in Urdu: تیزی سے پھیلاؤ، افزائشEthical
Meaning in English: Relating to moral principles or the branch of knowledge dealing with these.
Meaning in Urdu: اخلاقی، اصولیDeepfake
Meaning in English: A technique for human image synthesis based on artificial intelligence to create realistic fake videos or images.
Meaning in Urdu: مصنوعی ذہانت کے ذریعے تیار کردہ جعلی ویڈیوز یا تصاویرPernicious
Meaning in English: Having a harmful effect, especially in a gradual or subtle way.
Meaning in Urdu: ضرر رساں، نقصان دہCyberstalking
Meaning in English: The repeated use of electronic communications to harass or frighten someone.
Meaning in Urdu: آن لائن ہراساں کرنا، انٹرنیٹ کے ذریعے تعاقبImpersonation
Meaning in English: Pretending to be another person for the purpose of entertainment or fraud.
Meaning in Urdu: کسی اور کے طور پر دکھانا، نقل بناناCulminate
Meaning in English: To reach the highest or most decisive point.
Meaning in Urdu: اختتام پذیر ہونا، انتہا پر پہنچناNon-consensual
Meaning in English: Done without the consent or agreement of the other person.
Meaning in Urdu: بغیر رضامندی کے، غیر متفقBiometric Surveillance
Meaning in English: Monitoring of individuals through the use of unique biological characteristics like fingerprints, facial recognition, etc.
Meaning in Urdu: حیاتیاتی نگرانی، بائیومیٹرک کی نگرانیRegulation
Meaning in English: A rule or directive made and maintained by an authority.
Meaning in Urdu: ضابطہ، قانون
IT is said that we stand at the cusp of the “fourth industrial revolution”. The emergence and proliferation of artificial intelligence (AI) and machine-based learning is set to usher in a new era of productivity, efficiency and governance across public and private sectors.
In recognition of such potential, the Ministry of Information Technology and Telecommunication laid out a draft National Artificial Intelligence Policy last year, which reportedly was to be presented before the cabinet this month. The policy sets out ambitious targets for the use, scaling and proliferation of AI, while recognising — though almost in passing — the need to ensure its ethical and responsible use, which upholds the fundamental rights and privacy of users. Given the state’s existing performance on cyber safety, particularly of women, these assurances appear unrealistic.
AI is a broad field that encompasses the development of computer systems capable of simulating human learning, comprehension, problem-solving, decision-making and creativity. It employs tools such as machine learning and deep learning to analyse data (including text and images) to identify patterns, make predictions and generate human-like speech.
ChatGPT may be the most commonly encountered/used generative AI tool. Generative AI generates texts and images in response to commands or prompts submitted by a user. The technology has been put to beneficial use in business settings to, for instance, improve efficiency through automation of simple tasks, synthesise and analyse data to enhance business decision-making, and assist with creative undertakings.
According to one study, while 26pc of women aged 18‑24 years experience cyberstalking, only 7pc of men in the same age range do so.
However, there is a flip side. Deepfake technology — a form of generative AI — can create realistic but entirely fake images and videos of persons by analysing existing audiovisual data.
Many of us have come across doctored video clips of prominent personalities online — some comical and others more pernicious in intent and nature. In fact, the latter are predominant on the web: 98 per cent of deepfake videos are pornographic in nature; 99pc target women or girls. These statistics are not surprising. Cases involving deepfake videos (often sexual in nature) targeting women journalists and women politicians have made headlines in Pakistan in the recent past.
Technology-facilitated gender-based violence (TFGBV), such as deepfake content, also manifests as image-based abuse and blackmail, misinformation/ defamation, impersonation, cyberstalking and violent threats. While men, too, are subject to cyber violence, it is a gendered phenomenon worldwide. Women are the largest victims of online harassment in Pakistan. According to a Pew Research Centre study, while 26pc of women aged 1824 years experience cyberstalking, only 7pc of men in the same age range do so. Cyberspace is a more unsafe place for women across the world.
AI has now altered the arena where TFGBV plays out, greatly enhancing the apparent authenticity and believability of misinformation and fake news propagated on the internet. This is not just on account of deepfake technology. Generative AI can be used not only to create cyber-harassment templates, but also to generate and modify false, yet convincing personal histories of women, perpetuating the cycle of misinformation and fake news.
TFGBV violates women’s right to dignity, privacy and non-discrimination. Many times, it culminates in physical violence. Issues of consent and intellectual property rights also arise with the (often) non-consensual use of copyrighted data by AI technologies — a matter that gained prominence last year in the Hollywood strike against the unlicensed use of actors’ AI replicas by motion picture studios.
AI regulation is an evolving field. Given the risks that have arisen with the increased deployment of and access to AI technology, there have been efforts worldwide to regulate its use.
Taking the lead in a human rights-centric approach to AI regulation, the EU Artificial Intelligence Act, 2024, positions safety and compatibility with fundamental rights and freedoms as the guiding principles of AI regulation. It bars the use of AI for biometric surveillance and compilation of facial recognition databases (Article 5) and provides that where video, audio or image content is created with deepfake technologies, disclosure regarding such artificial generation/ manipulation be provided (Article 52).
Unesco’s Recommendations on the Ethics of Artificial Intelligence Use (2023), also stipulate the protection of human rights and freedoms as the first guiding “value” in AI regulation. The US Blueprint for an AI Bill of Rights, a white paper published by the White House, articulates certain principles for the protection of civil rights and democratic values in the building, deployment, and governance of automated systems.
Pakistan’s AI policy also recognises the particular dangers of AI to create “fake content such as text, images and videos”, and envisions that the AI Regulatory Directorate (ARD) will issue guidelines to address “possible spread of disinformation, data privacy breaches and fake news”. The exact mechanism of such regulation may be more minutely spelt out in any AI legislation that is eventually passed.
For now, the existing mechanism, under the Cybercrime Wing of the FIA, has largely been ineffective in addressing the countless complaints of TFGBV made by women under the Prevention of Electronic Crimes Act, 2016, which criminalises the transmission of false and defamatory information through an electronic system, distortion of a person’s pictures to show her/ him in a sexually explicit position, and cyberstalking. However, as scathingly observed by the Sindh High Court last year, the Cybercrime Wing does not have the “competency to effectively investigate cybercrime, let alone combating th[ese] [offences]”.
Blocking the flow of information and traffic on the internet will not serve as a solution. The state must ensure that any future regulation of AI-led TFGBV — to be laid out by the ARD or enforced by the newly formed National Cybercrime Investigation Agency — is effective and upholds the standards of ethics and human rights that its AI policy espouses.
کہا جاتا ہے کہ ہم “چوتھے صنعتی انقلاب” کے دہانے پر کھڑے ہیں ۔ مصنوعی ذہانت (اے آئی) اور مشین پر مبنی سیکھنے کا ظہور اور پھیلاؤ سرکاری اور نجی شعبوں میں پیداواری صلاحیت ، کارکردگی اور حکمرانی کے ایک نئے دور کا آغاز کرنے کے لیے تیار ہے ۔
اس طرح کی صلاحیت کو تسلیم کرتے ہوئے انفارمیشن ٹیکنالوجی اور ٹیلی مواصلات کی وزارت نے گزشتہ سال نیشنل آرٹیفیشل انٹیلی جنس پالیسی کا مسودہ تیار کیا تھا ، جسے مبینہ طور پر اسی ماہ کابینہ کے سامنے پیش کیا جانا تھا ۔ یہ پالیسی اے آئی کے استعمال ، پیمانے اور پھیلاؤ کے لیے مہتواکانکشی اہداف طے کرتی ہے ، جبکہ اس کے اخلاقی اور ذمہ دارانہ استعمال کو یقینی بنانے کی ضرورت کو تسلیم کرتی ہے ، جو صارفین کے بنیادی حقوق اور رازداری کو برقرار رکھتی ہے ۔ سائبر سیفٹی پر ریاست کی موجودہ کارکردگی کو دیکھتے ہوئے ، خاص طور پر خواتین کی ، یہ یقین دہانی غیر حقیقی معلوم ہوتی ہے ۔
اے آئی ایک وسیع شعبہ ہے جس میں کمپیوٹر سسٹم کی ترقی شامل ہے جو انسانی سیکھنے ، فہم ، مسئلہ حل کرنے ، فیصلہ سازی اور تخلیقی صلاحیتوں کی تقلید کرنے کے قابل ہے ۔ یہ نمونوں کی شناخت کرنے ، پیش گوئیاں کرنے اور انسان جیسی تقریر پیدا کرنے کے لیے ڈیٹا (بشمول متن اور تصاویر) کا تجزیہ کرنے کے لیے مشین لرننگ اور ڈیپ لرننگ جیسے ٹولز کا استعمال کرتا ہے ۔
چیٹ جی پی ٹی سب سے زیادہ عام/استعمال شدہ جنریٹو اے آئی ٹول ہو سکتا ہے ۔ جنریٹو اے آئی صارف کی طرف سے جمع کردہ کمانڈز یا اشارے کے جواب میں متن اور تصاویر تیار کرتا ہے ۔ ٹیکنالوجی کو کاروباری ترتیبات میں فائدہ مند استعمال کے لیے رکھا گیا ہے ، مثال کے طور پر ، سادہ کاموں کی آٹومیشن کے ذریعے کارکردگی کو بہتر بنانے ، کاروباری فیصلہ سازی کو بڑھانے کے لیے ڈیٹا کی ترکیب اور تجزیہ ، اور تخلیقی کاموں میں مدد کرنے کے لیے ۔
ایک تحقیق کے مطابق ، جبکہ 18 سے 24 سال کی عمر کی 26 فیصد خواتین سائبر اسٹاکنگ کا تجربہ کرتی ہیں ، اسی عمر کی حد میں صرف 7 فیصد مرد ایسا کرتے ہیں ۔
تاہم ، ایک پلٹائیں پہلو بھی ہے ۔ ڈیپ فیک ٹیکنالوجی-جنریٹو اے آئی کی ایک شکل-موجودہ آڈیو ویژول ڈیٹا کا تجزیہ کرکے افراد کی حقیقت پسندانہ لیکن مکمل طور پر جعلی تصاویر اور ویڈیوز بنا سکتی ہے ۔
ہم میں سے بہت سے لوگوں کو آن لائن ممتاز شخصیات کے مسخ شدہ ویڈیو کلپس ملے ہیں-کچھ مزاحیہ اور دیگر ارادے اور نوعیت میں زیادہ تباہ کن ہیں ۔ درحقیقت ، مؤخر الذکر ویب پر غالب ہیں: ڈیپ فیک ویڈیوز میں سے 98 فیصد فحش نوعیت کی ہیں ۔ 99 فیصد خواتین یا لڑکیوں کو نشانہ بناتے ہیں ۔ یہ اعدادوشمار حیران کن نہیں ہیں ۔ حالیہ ماضی میں پاکستان میں خواتین صحافیوں اور خواتین سیاست دانوں کو نشانہ بنانے والی ڈیپ فیک ویڈیوز (اکثر جنسی نوعیت کی) سے متعلق مقدمات سرخیوں میں رہے ہیں ۔
ٹیکنالوجی کی سہولت سے صنفی بنیاد پر تشدد (ٹی ایف جی بی وی) جیسے ڈیپ فیک مواد ، تصویر پر مبنی بدسلوکی اور بلیک میل ، غلط معلومات/بدنامی ، نقالی ، سائبر اسٹاکنگ اور پرتشدد دھمکیوں کے طور پر بھی ظاہر ہوتا ہے ۔ اگرچہ مرد بھی سائبر تشدد کا شکار ہوتے ہیں ، لیکن یہ دنیا بھر میں ایک صنفی رجحان ہے ۔ پاکستان میں آن لائن ہراسانی کا سب سے بڑا شکار خواتین ہیں ۔ پیو ریسرچ سینٹر کے مطالعے کے مطابق ، جبکہ 1824 سال کی عمر کی 26 فیصد خواتین سائبر اسٹاکنگ کا تجربہ کرتی ہیں ، اسی عمر کے صرف 7 فیصد مرد ایسا کرتے ہیں ۔ سائبر اسپیس دنیا بھر میں خواتین کے لیے ایک زیادہ غیر محفوظ جگہ ہے ۔
اے آئی نے اب اس میدان کو تبدیل کر دیا ہے جہاں ٹی ایف جی بی وی کام کرتا ہے ، جس سے انٹرنیٹ پر پھیلائی جانے والی غلط معلومات اور جعلی خبروں کی ظاہری صداقت اور وشوسنییتا میں بہت اضافہ ہوتا ہے ۔ یہ صرف ڈیپ فیک ٹیکنالوجی کی وجہ سے نہیں ہے ۔ جنریٹو اے آئی کا استعمال نہ صرف سائبر ہراساں کرنے والے ٹیمپلیٹس بنانے کے لیے کیا جا سکتا ہے ، بلکہ غلط معلومات اور جعلی خبروں کے چکر کو برقرار رکھتے ہوئے خواتین کی جھوٹی ، لیکن قائل کرنے والی ذاتی تاریخوں کو تیار کرنے اور ان میں ترمیم کرنے کے لیے بھی کیا جا سکتا ہے ۔
ٹی ایف جی بی وی خواتین کے وقار ، رازداری اور غیر امتیازی سلوک کے حق کی خلاف ورزی کرتا ہے ۔ کئی بار ، یہ جسمانی تشدد میں ختم ہو جاتا ہے ۔ رضامندی اور دانشورانہ املاک کے حقوق کے مسائل AI ٹیکنالوجیز کے ذریعہ کاپی رائٹ شدہ ڈیٹا کے (اکثر) غیر متفقہ استعمال کے ساتھ بھی پیدا ہوتے ہیں-ایک ایسا معاملہ جس نے گزشتہ سال ہالی ووڈ کی ہڑتال میں موشن پکچر اسٹوڈیوز کے ذریعہ اداکاروں کی AI نقل کے غیر لائسنس یافتہ استعمال کے خلاف اہمیت حاصل کی تھی ۔
اے آئی ریگولیشن ایک ترقی پذیر شعبہ ہے ۔ اے آئی ٹیکنالوجی کی بڑھتی ہوئی تعیناتی اور رسائی سے پیدا ہونے والے خطرات کو دیکھتے ہوئے ، اس کے استعمال کو منظم کرنے کے لیے دنیا بھر میں کوششیں کی گئی ہیں ۔
اے آئی ریگولیشن کے لیے انسانی حقوق پر مرکوز نقطہ نظر کی قیادت کرتے ہوئے ، ای یو آرٹیفیشل انٹیلی جنس ایکٹ ، 2024 ، اے آئی ریگولیشن کے رہنما اصولوں کے طور پر بنیادی حقوق اور آزادیوں کے ساتھ حفاظت اور مطابقت رکھتا ہے ۔ یہ بائیو میٹرک نگرانی اور چہرے کی شناخت کے ڈیٹا بیس کی تالیف کے لیے اے آئی کے استعمال کو روکتا ہے (آرٹیکل 5) اور یہ فراہم کرتا ہے کہ جہاں ویڈیو ، آڈیو یا تصویر کا مواد ڈیپ فیک ٹیکنالوجیز کے ساتھ بنایا جاتا ہے ، اس طرح کی مصنوعی نسل/ہیرا پھیری سے متعلق انکشاف فراہم کیا جائے ۔ (Article 52).
مصنوعی ذہانت کے استعمال کی اخلاقیات پر یونیسکو کی سفارشات (2023) بھی اے آئی ریگولیشن میں پہلی رہنما “قدر” کے طور پر انسانی حقوق اور آزادیوں کے تحفظ کو متعین کرتی ہیں ۔ اے آئی بل آف رائٹس کے لیے یو ایس بلیو پرنٹ ، وائٹ ہاؤس کی طرف سے شائع کردہ ایک وائٹ پیپر ، خودکار نظاموں کی تعمیر ، تعیناتی اور حکمرانی میں شہری حقوق اور جمہوری اقدار کے تحفظ کے لیے کچھ اصولوں کو واضح کرتا ہے ۔
پاکستان کی اے آئی پالیسی “متن ، تصاویر اور ویڈیوز جیسے جعلی مواد” بنانے کے لیے اے آئی کے مخصوص خطرات کو بھی تسلیم کرتی ہے ، اور تصور کرتی ہے کہ اے آئی ریگولیٹری ڈائریکٹوریٹ (اے آر ڈی) “غلط معلومات کے ممکنہ پھیلاؤ ، ڈیٹا پرائیویسی کی خلاف ورزیوں اور جعلی خبروں” سے نمٹنے کے لیے رہنما خطوط جاری کرے گا ۔ اس طرح کے ضابطے کا صحیح طریقہ کار کسی بھی اے آئی قانون سازی میں زیادہ باریکی سے بیان کیا جا سکتا ہے جو بالآخر منظور ہو جاتا ہے ۔
فی الحال ، ایف آئی اے کے سائبر کرائم ونگ کے تحت موجودہ میکانزم ، الیکٹرانک کرائمز کی روک تھام ایکٹ ، 2016 کے تحت خواتین کی طرف سے کی گئی ٹی ایف جی بی وی کی بے شمار شکایات کو دور کرنے میں بڑی حد تک غیر موثر رہا ہے ، جو الیکٹرانک سسٹم کے ذریعے غلط اور ہتک آمیز معلومات کی ترسیل کو جرم قرار دیتا ہے ، کسی شخص کی تصاویر کو جنسی طور پر واضح پوزیشن میں دکھانے کے لیے مسخ کرنا ، اور سائبر اسٹاکنگ ۔ تاہم ، جیسا کہ گزشتہ سال سندھ ہائی کورٹ نے سختی سے مشاہدہ کیا تھا ، سائبر کرائم ونگ میں “سائبر کرائم کی مؤثر طریقے سے تحقیقات کرنے کی اہلیت نہیں ہے ، جرائم کا مقابلہ کرنے کی بات ہی چھوڑ دیں” ۔
انٹرنیٹ پر معلومات کے بہاؤ اور ٹریفک کو روکنا حل کے طور پر کام نہیں کرے گا ۔ ریاست کو اس بات کو یقینی بنانا چاہیے کہ اے آئی کی قیادت والے ٹی ایف جی بی وی کا مستقبل کا کوئی بھی ضابطہ-جو اے آر ڈی کے ذریعہ وضع کیا جائے یا نو تشکیل شدہ نیشنل سائبر کرائم انویسٹی گیشن ایجنسی کے ذریعہ نافذ کیا جائے-موثر ہو اور اخلاقیات اور انسانی حقوق کے معیارات کو برقرار رکھے جس کی اس کی اے آئی پالیسی حمایت کرتی ہے ۔