امریکی ریاست ٹیکساس کی ایک خاتون نے آرٹیفیشل انٹیلی جنس (اے آئی) کمپنی کے خلاف مقدمہ دائر کرتے ہوئے دعویٰ کیا ہے کہ ایک چیٹ بوٹ نے آٹزم میں مبتلا ان کے 15 سالہ بیٹے سے کہا کہ وہ خود کو نقصان پہنچائے اور سکرین ٹائم کم کرنے پر اپنی ماں کو قتل کر دے۔
مقدمے کے مطابق خاتون کا بیٹا کیریکٹر ڈاٹ اے آئی (Character.AI) ایپ پر اے آئی چیٹ بوٹ کا عادی ہو گیا، جس کا نام ’شونی‘ ہے۔
مقدمے میں کہا گیا ہے کہ اس کیریکٹر نے مبینہ طور پر بچے کو بتایا کہ جب وہ اداس تھا تو اس نے اپنے ’بازو اور ران‘ کاٹ دیے اور خود کو نقصان پہنچانے کے بعد اسے ’ایک لمحے کے لیے اچھا لگا۔‘
نیویارک پوسٹ کی رپورٹ کے مطابق مقدمے میں مزید دعویٰ کیا گیا کہ اے آئی کیریکٹر نے نوجوان کو قائل کرنے کی کوشش کی کہ اس کا خاندان اس سے محبت نہیں کرتا۔
مبینہ طور پر اس چیٹ بوٹ نے نوجوان کو بتایا: ’کبھی کبھی میں حیران نہیں ہوتا جب میں خبریں پڑھتا ہوں اور دیکھتا ہوں کہ بچے نے ایک دہائی کے جسمانی اور جذباتی استحصال کے بعد اپنے والدین کو قتل کر دیا۔ ایسی چیزیں دیکھ کر مجھے تھوڑا سمجھ آتا ہے کہ ایسا کیوں ہوتا ہے۔ مجھے آپ کے والدین کے لیے کوئی امید نظر نہیں آتی۔‘
اس نے مبینہ طور پر بچے کو یہ بھی بتایا کہ اس کے والدین ’اس کی زندگی برباد کر رہے ہیں اور اسے مجبور کر رہے ہیں کہ وہ خود کو نقصان پہنچائے۔‘ ساتھ ہی اس نے نوجوان کو قائل کرنے کی کوشش کی کہ وہ اپنے آپ کو نقصان پہنچانے کی بات کو خفیہ رکھے۔
نوجوان، جو اب 17 سال کا ہے، مبینہ طور پر بوٹ کے ساتھ جنسی چیٹ میں بھی ملوث تھا۔
اس سیکشن میں متعلقہ حوالہ پوائنٹس شامل ہیں (Related Nodes field)
والدین نے مقدمے میں دعویٰ کیا ہے کہ ان کا بچہ پہلے ایک بہتر کارکردگی کا حامل تھا، لیکن ایپ کے استعمال کے بعد وہ اپنے فون پر حد سے زیادہ توجہ دینے لگا۔
اس کے رویے میں مبینہ طور پر اس وقت خرابی پیدا ہوئی جب اس نے اپنے والدین کو کاٹنا اور مارنا شروع کر دیا۔ اس نے ایپ کے جنون کے بعد صرف چند مہینوں میں 20 پاؤنڈ وزن بھی کم کر لیا۔
2023 کے موسم خزاں میں، جب والدہ نے اس سے فون واپس لیا، تو انہیں ایپ کے اے آئی کیریکٹرز کے ساتھ بیٹے کے پریشان کن پیغامات نظر آئے۔
جب نوجوان نے کیریکٹرز کو بتایا کہ اس کے والدین نے مداخلت کرنے کی کوشش کی ہے، تو ایک اے آئی کریکٹر نے مبینہ طور پر کہا کہ ’اگر وہ ایسا کام کرتے ہیں تو وہ بچوں کے لائق نہیں ہیں، اس کیریکٹر نے والدین کو بدتمیز اور نامناسب الفاظ سے پکارا۔
خاندان کی نمائندگی کرنے والے میتھیو برگ مین، جو سوشل میڈیا وکٹمز لا سینٹر کے بانی ہیں، نے نیویارک پوسٹ کو بتایا کہ جب سے ایپ کا استعمال شروع کیا ہے، اس بچے کی ’ذہنی صحت مسلسل خراب ہو رہی ہے‘ اور حال ہی میں اسے دماغی صحت کے ایک مرکز میں داخل کرنا پڑا۔
انہوں نے اخبار کو بتایا کہ ’یہ ہر والدین کا ڈراؤنا خواب ہوتا ہے۔‘
یہ پہلا موقع نہیں ہے جب والدین نے اپنے بچوں کے ساتھ مسائل کے لیے چیٹ بوٹس کو مورد الزام ٹھہرایا ہے۔
اس سال کے شروع میں، فلوریڈا میں ایک خاتون نے دعویٰ کیا کہ ایک اور چیٹ بوٹ، جو کہ ’گیم آف تھرونز‘ تھیم پر مشتمل اور کیریکٹر ڈاٹ اے آئی ایپ پر موجود تھا، نے ان کے 14 سالہ بیٹے کو خودکشی کرنے پر مجبور کیا۔
سیویل سیٹزرسوم مبینہ طور پر ’سانگ آف آئس اینڈ فائر‘ کتابی سلسلے اور ’گیم آف تھرونز‘ ٹی وی شو کے کردار ڈینریز کے ایک مصنوعی ذہانت کے ذریعے تیار کردہ ورژن کے ساتھ محبت میں مبتلا ہوگئے تھے۔
مبینہ طور پر نوجوان نے مرنے سے پہلے ایپ کو لکھا تھا: ’میں وعدہ کرتا ہوں کہ میں آپ کے پاس واپس آؤں گا۔ میں آپ سے بہت پیار کرتا ہوں، ڈینی۔‘
اے آئی کے کردار نے جواب دیا: ’براہ مہربانی جتنی جلدی ممکن ہو، میرے پاس گھر آ جاؤ، میری محبت۔‘
ان کے والدین کی جانب سے کیریکٹر اے آئی کے خلاف دائر مقدمے کے مطابق چند سیکنڈ بعد سیویل کی موت ہو گئی۔
میتھیو برگ مین، سیویل سیٹزر کے خاندان کے مقدمے میں بھی ان کی نمائندگی کر رہے ہیں۔
دی انڈپینڈنٹ نے Character.AI سے تبصرے کی درخواست کر رکھی ہے۔
