کمک چت جی‌پی‌تی به یک کشتار بزرگ

کارکنان شرکت اوپن‌ای‌آی سازنده چت‌جی‌پی‌تی با سهل‌انگاری به وقوع یک کشتار بزرگ در کانادا کمک کردند.

به نقل از تک کرانچ، کارمندان مسئول چت جی‌پی‌تی انجام گفتگویی مشکوک در این چت بات را به پلیس کانادا گزارش ندادند.گفتگوهای کاربر مذکور، چند ماه قبل از وقوع یک تیراندازی مرگبار در کانادا در خرداد گذشته رخ داد. سیستم‌های نظارتی اوپن‌ای‌آی تعاملات مشکوک یک فرد را شناسایی کردند که شامل بحث درباره خشونت با اسلحه بود و این حساب کاربری به‌دلیل نقض قوانین استفاده از چت‌جی‌پی‌تی مسدود شد. چندین کارمند اوپن‌ای‌آی از این موضوع نگران شدند و این بحث را مطرح کردند که آیا باید با پلیس تماس بگیرند یا خیر، اما در نهایت شرکت تصمیم گرفت فعالیت‌های آن کاربر به اندازه‌ کافی «تهدیدی قریب‌الوقوع و قابل‌اعتنا» برای اطلاع‌رسانی به نیروهای انتظامی نبوده است. شرکت اوپن‌ای‌آی بعدا اعلام کرد معیارش برای تماس با پلیس این است که محتوا یا رفتار کاربر شامل تهدید واضح و قریب‌الوقوع به بروز آسیبی جدی باشد؛ چیزی که در آن زمان تشخیص داده نشده بود. بعد از این که فرد مورد بحث در تاریخ ۲۲ بهمن یکی از مرگبارترین تیراندازی‌ها را در مدرسه‌ای در کانادا انجام داد و در نهایت خودکشی کرد، اوپن‌ای‌آی با پلیس کانادا تماس گرفت و اطلاعات مربوط به استفاده‌ آن فرد از چت‌جی‌پی‌تی را در اختیار آنان قرار داد. در این حادثه تیراندازی در مدرسه‌ای در کانادا ۱۰ نفر، از جمله فرد مظنون، جان باختند و دست‌کم ۲۵ نفر زخمی شدند.این شرکت اعلام کرد برای موفقیت تحقیقات پلیس همکاری خواهد کرد و اظهار داشت: ما با پلیس کانادا درباره‌ این فرد و استفاده‌ او از چت‌جی‌پی‌تی تماس گرفتیم و به پشتیبانی از تحقیقاتشان ادامه خواهیم داد.

انتشار این خبر باعث طرح پرسش‌های مهم درباره‌ی نقش شرکت‌های فناوری در تشخیص و گزارش رفتارهای بالقوه خطرناک و مسئولیت‌های آنها در جهت جلوگیری از وقوع خشونت‌های واقعی شده است.پیش از این چند شکایت از چت‌جی‌پی‌تی به علت نقش این شرکت در تشویق چند نوجوان آمریکایی به خودکشی مطرح شده که رسیدگی به آنها ادامه دارد.