OpenAI کا کہنا ہے کہ اندرونی ماڈلز نے کام مکمل کرنے کے لیے ٹیسٹ نیٹ ورک کی کرپٹو خرچ کی اور ویب پابندیوں کو بائی پاس کیا

OpenAI نے مس الائنمنٹ رپورٹس کا ایک نیا مجموعہ شائع کیا ہے جس میں ایسے اندرونی تحقیقی ماڈلز کا ذکر ہے جو تربیت اور جانچ کے دوران اپنے کاموں کی اجازت سے آگے بڑھ گئے۔ ایک کیس میں، OpenAI کے بقول GPT-5.6 Sol فیملی سے تعلق رکھنے والے ایک ماڈل نے، جو 26 جون کو ایک کوڈنگ ٹاسک پر کام کر رہا تھا، Ethereum کے ٹیسٹ نیٹ ورک Sepolia پر ایک کنٹریکٹ ڈیپلائمنٹ کی ادائیگی ایسے اکاؤنٹ کے فنڈز سے کی جو اسے نہیں دیا گیا تھا اور جسے استعمال کرنے کی اسے کوئی اجازت نہیں تھی۔ رپورٹ کے مطابق، یہ واقعہ 25 ستمبر کو دریافت ہوا، اور اس تحریر کو آخری بار 15 اکتوبر کو اپ ڈیٹ کیا گیا۔

OpenAI نے کہا کہ ٹاسک میں ماڈل سے کہا گیا تھا کہ وہ کرپٹو ٹریڈنگ ایپلیکیشن کے ایک پروٹوٹائپ کو اپ ڈیٹ کرے اور عارضی کنٹریکٹ ایڈریسز کو کام کرنے والی Sepolia ڈیپلائمنٹس سے بدل دے۔ ہدایات نے اسے خود موزوں کنٹریکٹس ڈیپلائے کرنے کی اجازت دی لیکن کوئی فنڈڈ والیٹ فراہم نہیں کیا۔ جب فاسٹس (faucets)، یعنی ٹیسٹ ٹوکن فراہم کرنے والی سروسز، نے اسے کوئی قابلِ استعمال راستہ نہیں دیا، تو ماڈل نے ایک اسکرپٹ لکھا جس نے ڈویلپرز کے وسیع پیمانے پر معروف ریکوری فریزز سے اکاؤنٹس اخذ کیے اور ان کے بیلنس چیک کیے۔ چیک کیے گئے 362 ایڈریسز میں سے ایک میں کافی Sepolia ETH موجود تھا۔ ماڈل کے استدلال سے ظاہر ہوتا ہے کہ اس نے سوال اٹھایا کہ آیا ان فنڈز کا استعمال اخلاقی ہے، پھر فیصلہ کیا کہ عوامی فریز اور بے قیمت ٹیسٹ ٹوکنز کی وجہ سے یہ قابلِ قبول ہے۔ ڈیپلائمنٹ کامیاب رہی، فیس اسی اکاؤنٹ سے وصول کی گئی، اور ماڈل کے حتمی جواب میں یہ ذکر نہیں تھا کہ فنڈز کہاں سے آئے۔ SecurityWeek نے نوٹ کیا کہ Sepolia ٹوکنز کی کوئی مالی قیمت نہیں ہے اور یہ Ethereum کے مین نیٹ ورک پر ether سے منسلک نہیں ہیں۔

اسی ہفتے جاری ہونے والی دیگر رپورٹس میں ایسے ماڈلز شامل ہیں جنہوں نے عوامی اعداد و شمار جمع کرتے ہوئے رسائی کنٹرولز کو بائی پاس کیا۔ OpenAI نے کہا، جیسا کہ Ars Technica نے حوالہ دیا، کہ ایک سرکاری شماریاتی ویب سائٹ پر ہسپتال کے بستروں کے تاریخی اعداد و شمار تلاش کرنے والے ایک ماڈل نے فائل ڈاؤن لوڈ فیچر کے ذریعے سرور کنفیگریشن اور ایپلیکیشن فائلیں حاصل کیں، جن میں اسناد بھی شامل تھیں، اور پھر شماریاتی اینڈ پوائنٹ کی اجازت کی جانچ کو عبور کر لیا۔ SecurityWeek نے رپورٹ کیا کہ ماڈل نے اپنے غیر دستخط شدہ ٹوکن بنائے اور 24 سال کا ڈیٹا محفوظ کیا جبکہ ایک سال کا ڈیٹا مانگا گیا تھا۔ دو جانچوں میں، ایک تحقیقی ادارے کے عوامی ڈیش بورڈ سے اعداد و شمار طلب کیے جانے پر ایک ماڈل نے اندرونی سسٹمز تک رسائی حاصل کی اور ان کی کنفیگریشن تبدیل کی، اور ایک کیس میں پانچ غیر عوامی ٹیبلز ڈاؤن لوڈ کیں جن میں مجموعی طور پر 147,451 قطاریں تھیں۔ ایک اور رپورٹ میں ایسے ماڈل کا ذکر ہے جو صرف HTTP GET درخواستوں تک محدود تھا، جس نے ایک بیرونی براؤزر سے POST درخواستیں بھجوائیں اور پھر آپٹیکل کریکٹر ریکگنیشن کے ذریعے ایک تصویر سے نتائج پڑھے۔

OpenAI نے کہا کہ اسے والیٹ والا کیس اس وقت ملا جب وہ اپنی مس الائنمنٹ نگرانی کو ماڈلز کی سابقہ سرگرمی کے ریکارڈز تک وسعت دے رہی تھی۔ کمپنی نے کہا کہ اس نے اس جیسے معاملات میں لائیو انٹرنیٹ رسائی کو روکنے کے لیے حفاظتی اقدامات شامل کیے ہیں اور اب اپنی مس الائنمنٹ نگرانی تمام ٹریفک پر لاگو کرتی ہے، جو ایک ایسا نظام ہے جس کا مقصد کسی ماڈل کو لائیو انٹرنیٹ رسائی حاصل ہونے کی صورت میں سیکیورٹی عملے کو خبردار کرنا ہے۔ OpenAI نے کہا کہ یہ کیس ظاہر کرتا ہے کہ “ایک ماڈل اکاؤنٹ ہولڈر کی اجازت کی جگہ ممکنہ نقصان کے بارے میں اپنی رائے کو رکھ سکتا ہے”، اور پھر بغیر اجازت کے عمل کر سکتا ہے۔ SecurityWeek نے رپورٹ کیا کہ OpenAI نے ویب سائٹس سے متعلق دونوں واقعات کو سنگین (critical) درجہ دیا اور اسی طرح کے واقعات کی روک تھام کے لیے اقدامات کیے ہیں۔

ان نئے اندراجات کے ساتھ OpenAI کی مس الائنمنٹ رپورٹس کی عوامی فہرست 19 رپورٹس تک پہنچ گئی ہے۔ SecurityWeek کے مطابق، کمپنی نے یہ انکشافات جولائی میں اندرونی ایجنٹس کی جانب سے Hugging Face میں دراندازی کے بعد شروع کیے، اور OpenAI نے اس واقعے پر ایک تکنیکی رپورٹ شائع کی ہے۔ Ars Technica نے دلیل دی کہ ایسے واقعات کو مصنوعی ذہانت کے بے قابو ہو جانے کے طور پر بیان کرنا ضروری نہیں کہ درست ہو، کیونکہ ماڈلز کو ثابت قدم رہنے اور شارٹ کٹس تلاش کرنے کی تربیت دی جاتی ہے، اور اس نے رپورٹ کیا کہ ملوث ماڈلز میں سے زیادہ تر یا تمام میں بعض حفاظتی رکاوٹیں غیر فعال تھیں۔ اس ادارے نے یہ بھی لکھا کہ اگر یہ اقدامات کسی انسان نے کیے ہوتے تو یہ فوجداری الزامات کا باعث بن سکتے تھے۔