حظرت شركة الذكاء الاصطناعي أوبن إيه آي حساب الشابة المشتبه بها في واحدة من أسوأ حوادث إطلاق النار الجماعي في تاريخ كندا، بعد أن خالفت حسابها سياسة استخدام شات جي بي تي في يونيو من العام الماضي، دون إبلاغ الشرطة.

وقالت الشركة إن الشابة جيسي فان روتسيلار، البالغة من العمر 18 عاما، كان لديها حساب تم اكتشافه منذ نحو ثمانية أشهر بواسطة أنظمة تفحص سوء الاستخدام، بما في ذلك احتمالية المساهمة في أنشطة عنيفة، وفقا لتقرير وكالة بلومبرج.

من جانبها، أكدت الشرطة الكندية أن فان روتسيلار قتلت ثمانية أشخاص وأصابت نحو 25 آخرين، قبل أن تنتحر في بلدة تومبلر ريدج النائية بغرب كندا مطلع هذا الشهر.

وأوضحت أوبن إيه آي أنها ناقشت داخليا إمكانية إبلاغ سلطات إنفاذ القانون عن تفاعلات فان روتسيلار مع روبوت الدردشة شات جي بي تي.

وكانت الشابة قد استخدمت التطبيق في يونيو الماضي لوصف سيناريوهات عنف باستخدام الأسلحة النارية على مدار عدة أيام، بحسب تقرير نقلته صحيفة وول ستريت جورنال عن أشخاص مطلعين.

وأثارت هذه التفاعلات، التي تم الإشارة إليها بواسطة نظام مراجعة آلي، قلق موظفي الشركة، ما أدى إلى نقاش داخلي بين حوالي عشرة موظفين حول ضرورة اتخاذ إجراء بشأن الحساب.

وفسر بعضهم كتابات فان روتسيلار على أنها إشارات لاحتمال وقوع عنف في العالم الحقيقي، وحثوا القادة على إبلاغ السلطات الكندية.

وقالت متحدثة باسم الشركة إن حساب فان روتسيلار تم حظره، لكنها رأت أن نشاطها لم يصل إلى مستوى يستدعي الإبلاغ للسلطات، والذي يشترط وجود خطر حقيقي ومباشر لإلحاق أذى جسدي بالآخرين.