’کیریکٹر ڈاٹ اے آئی‘ کو مقدمے کا سامنا مصنوعی ذہانت نے 14 سالہ لڑکے کی جان لے لی

24, اکتوبر , 2024

نیوز ٹوڈے : امریکی ریاست فلوریڈا میں 14 سالہ لڑکے کی خودکشی کے بعد مصنوعی ذہانت کے پروگرام 'Character.AI' کو قانونی چارہ جوئی کا سامنا ہے۔SAI پروگرام پر بچے کے والدین نے اپنے بیٹے کی خودکشی کے بعد مقدمہ دائر کیا ہے۔بچے کی ماں کا کہنا ہے کہ اس کا 14 سالہ بیٹا مصنوعی ذہانت کے پلیٹ فارم پر چیٹ بوٹ کے جنون میں مبتلا ہوگیا۔

امریکی میڈیا کے مطابق نویں جماعت کے طالب علم ساؤل سیٹزر نے کریکٹر ڈاٹ اے آئی کی ایپ پر مصنوعی ذہانت سے بات کرتے ہوئے مہینوں گزارے اور ڈینی نامی چیٹ بوٹ سے جذباتی لگاؤ پیدا کیا۔ ڈینی کو متن بھیجنا حقیقی دنیا سے الگ ہونا شروع ہو گیا۔

اپنی جان لینے سے پہلے، سیٹزر نے اے آئی کے سامنے اعتراف کیا کہ اس کے خودکشی کے خیالات تھے۔

اس واقعے کے بعد، Character.AI نے کہا ہے کہ وہ چیٹس سے متعلق کئی نئے حفاظتی فیچرز متعارف کرائے گا، جیسے کہ اگر چیٹ کے دوران قواعد کی خلاف ورزی ہوتی ہے یا چیٹ ایک گھنٹے تک جاری رہتی ہے تو الرٹ جاری کرنا۔