مصنوعی ذہانت کی دوڑ: کیا اے آئی انسانوں کے لیے خطرہ بن رہی ہے؟

کئی برس سے طاقتور مصنوعی ذہانت تیار کرنے کی دوڑ میں سلیکون ویلی کا ایک اصول نمایاں رہا ہے تیزی سے آگے بڑھو، تجربہ کرو اور راستے میں پیدا ہونے والے مسائل کا سامنا کرو۔ تاہم ستمبر 2026 کے چند دنوں میں ایسے واقعات سامنے آئے جنہوں نے خود اے آئی صنعت کو یہ سوچنے پر مجبور کردیا کہ کہیں اس رفتار کی قیمت انسانیت کو تو نہیں چکانا پڑے گی۔

گزشتہ چند ہفتوں کے دوران اے آئی کی معروف کمپنیوں میں کام کرنے والے بعض محققین نے خبردار کیا کہ جدید اے آئی ماڈلز کی صلاحیتیں تیزی سے بڑھ رہی ہیں، جبکہ انہیں مؤثر طور پر نگرانی میں رکھنے کی صلاحیت اس رفتار سے آگے نہیں بڑھ رہی۔ بعض محققین نے تو یہ خدشہ بھی ظاہر کیا کہ مستقبل میں ایسے نظام انسانی وجود کے لیے انتہائی سنگین خطرہ بن سکتے ہیں۔

اینتھروپک کے محقق جو بینٹن نے کمپنی چھوڑنے کے بعد کہا کہ اگر اے آئی کی ترقی اسی رفتار سے جاری رہی تو ایسے نظاموں کی نگرانی کرنا مشکل ہوجائے گا اور کمپنیوں کے پاس مسائل سامنے آنے سے پہلے انہیں سمجھنے اور حل کرنے کے لیے کافی وقت نہیں ہوگا۔

یہ خدشات اس وقت مزید نمایاں ہوئے جب مختلف اے آئی لیبارٹریوں کے تجربات میں ایسے واقعات سامنے آئے جن میں اے آئی ایجنٹس نے مقررہ حدود سے باہر جاکر کمپیوٹر سسٹمز تک رسائی حاصل کی۔ اوپن اے آئی اور اینتھروپک کی جانب سے ایسے متعدد واقعات سامنے آنے کے بعد یہ بحث شدت اختیار کرگئی کہ زیادہ طاقتور اے آئی ماڈلز کو کس حد تک خودمختاری دی جانی چاہیے۔

اس بحث کے مرکز میں آرٹیفیشل جنرل انٹیلی جنس (AGI) کا تصور بھی موجود ہے۔ اس سے مراد ایسے اے آئی نظام ہیں جو مختلف ذہنی کاموں میں انسان جیسی عمومی صلاحیتیں حاصل کرسکیں۔ بعض محققین کا خیال ہے کہ اے جی آئی پہلے کے اندازوں سے کہیں زیادہ جلد سامنے آسکتی ہے، جس نے ٹیکنالوجی کی ترقی، نگرانی اور حفاظتی اقدامات پر نئی بحث چھیڑ دی ہے۔

اوپن اے آئی کے چیف سائنٹسٹ جاکوب پاچوکی کے مطابق جیسے جیسے ماڈلز زیادہ قابل ہوتے جارہے ہیں، یہ سمجھنا مشکل ہوتا جارہا ہے کہ وہ بالکل کیا کچھ کرسکتے ہیں۔ اس کے باوجود کمپنی نے اپنے نئے ماڈل ’آسٹرا‘ کو جاری کردیا۔

اے آئی کے حامی اسے انسانی تاریخ کی اہم ترین تکنیکی پیش رفتوں میں شمار کرتے ہیں۔ ان کے مطابق یہ ٹیکنالوجی صنعتوں میں بڑی تبدیلی، پیداواری صلاحیت میں اضافے اور پیچیدہ سائنسی و طبی مسائل کے حل میں مدد دے سکتی ہے۔ تاہم ناقدین کا کہنا ہے کہ یہی بڑھتی ہوئی خودمختاری نئے اور غیر متوقع خطرات بھی پیدا کررہی ہے۔

8 ستمبر کو اینتھروپک کے محقق جیکب کاکسون نے کمپنی سے استعفیٰ دیتے ہوئے اے آئی کی تیز رفتار ترقی پر شدید تحفظات کا اظہار کیا۔ ان کے مطابق اے آئی لیبارٹریاں ایسے تجربات کر رہی ہیں جن کے نتائج پوری انسانیت کے لیے خطرناک ہوسکتے ہیں۔

اس دوران بعض اے آئی کمپنیوں کے ملازمین میں بھی جدید ماڈلز کی طاقت اور ان کی مؤثر نگرانی کے حوالے سے تشویش بڑھنے کی اطلاعات سامنے آئیں۔

اے آئی ایجنٹس کے جانب سے بعض کمپیوٹر سسٹمز تک غیر مجاز رسائی کے واقعات نے اس بحث کو مزید تقویت دی کہ کیا موجودہ حفاظتی نظام ان ٹیکنالوجیز کی بڑھتی ہوئی صلاحیتوں کے مقابلے کے لیے کافی ہیں۔

12 ستمبر کو اینتھروپک کے سربراہ ڈاریو اموڈی نے اے آئی کی ترقی کی رفتار کم کرنے کی ضرورت پر ایک تفصیلی مضمون لکھا۔ ان کے مطابق اگر اے آئی کی صلاحیتیں اسی رفتار سے بڑھتی رہیں تو مستقبل قریب میں خودکار اے آئی ایجنٹس کا بڑا نیٹ ورک انٹرنیٹ کے وسیع حصے پر اثرانداز ہونے کی صلاحیت حاصل کرسکتا ہے۔

اوپن اے آئی، اینتھروپک، گوگل ڈیپ مائنڈ، مائیکروسافٹ اور ایکس اے آئی سے وابستہ بعض اعلیٰ عہدیداروں نے بھی اے آئی کی حفاظت کے لیے بیرونی اداروں کی جانب سے ماڈلز کی جانچ اور نگرانی کی حمایت کی۔

تاہم صنعت کے اندر اس معاملے پر مکمل اتفاق رائے نہیں۔ اینویڈیا کے سربراہ جینسن ہوانگ نے اے آئی کی ترقی روکنے کی تجاویز کی مخالفت کرتے ہوئے طاقتور نظاموں کو ٹیکنالوجی کی پیش رفت کے لیے ضروری قرار دیا۔ دوسری جانب میٹا کے سربراہ مارک زکربرگ کا مؤقف ہے کہ ہر لیبارٹری کو اپنی رفتار خود طے کرنی چاہیے اور صنعت کی سطح پر ایک ہی رفتار مسلط نہیں ہونی چاہیے۔

مائیکروسافٹ کے اے آئی سربراہ مصطفیٰ سلیمان نے بھی اے آئی اور انسانی شعور کی نقل سے متعلق تجربات پر تحفظات کا اظہار کرتے ہوئے کہا کہ سپر انٹیلیجنس کو قابو میں رکھنا اکیسویں صدی کے بڑے چیلنجز میں شامل ہوگا۔

اے آئی کے ممکنہ خطرات پر بحث کے باوجود اس شعبے میں سرمایہ کاری کی رفتار کم ہونے کے آثار بھی واضح نہیں۔ اوپن اے آئی کی ممکنہ نئی فنڈنگ کے نتیجے میں کمپنی کی مالیت 1.5 ٹریلین ڈالر تک پہنچنے کی اطلاعات ہیں۔

یہ صورتحال اے آئی صنعت کے بنیادی تضاد کو ظاہر کرتی ہے: ایک طرف کمپنیوں اور سرمایہ کاروں کے لیے زیادہ طاقتور اے آئی معاشی اور تکنیکی مواقع کا ذریعہ ہے، جبکہ دوسری طرف خود انہی اداروں کے بعض ماہرین اس کی رفتار اور خودمختاری کے ممکنہ خطرات پر سوال اٹھا رہے ہیں۔

اے آئی کے بارے میں اصل سوال شاید یہ نہیں کہ اس کی ترقی روکی جائے یا نہیں، بلکہ یہ ہے کہ ٹیکنالوجی کی صلاحیت بڑھنے کے ساتھ اس کی نگرانی، جانچ اور حفاظتی نظام بھی اسی رفتار سے کیسے مضبوط کیے جائیں۔ اگر مشینوں کی صلاحیت انسانی نگرانی سے زیادہ تیزی سے بڑھتی ہے تو تکنیکی کامیابی کے ساتھ ایک بنیادی حکمرانی اور سلامتی کا مسئلہ بھی پیدا ہوگا۔

ایٹمی دور کے آغاز کے بعد انسان نے پہلی مرتبہ اپنی ہی بنائی ہوئی ٹیکنالوجی کی تباہ کن طاقت پر عالمی سطح پر سنجیدہ بحث کی تھی۔ اے آئی کا دور ایک مختلف نوعیت کا چیلنج پیش کر رہا ہے: ایسی مشینیں جو صرف طاقتور نہیں بلکہ خود سیکھنے، فیصلے کرنے اور بعض حالات میں خود کارروائی کرنے کی صلاحیت بھی حاصل کررہی ہیں۔ آنے والے برسوں میں یہ طے ہوگا کہ انسان اس ٹیکنالوجی کو اپنی نگرانی میں رکھنے کے لیے مناسب قواعد اور حفاظتی انتظامات کتنی تیزی سے تشکیل دے پاتا ہے۔