هر هفته میلیون‌ها نفر با ChatGPT درباره خودکشی صحبت می‌کنند!
مخاطب۲۴، شرکت OpenAI، در گزارشی جدید، داده‌هایی نگران‌کننده درباره تعامل کاربران با هوش مصنوعی خود ChatGPT منتشر کرده است. این گزارش نشان می‌دهد که درصدی قابل توجه از کاربران درگیر مشکلات جدی سلامت روان هستند. این وضعیت لزوم بهبود واکنش‌های مدل‌های هوش مصنوعی به مسائل حساسی، چون خودکشی را دوچندان می‌کند.
بر اساس داده‌های منتشر شده از سوی OpenAI، حدود ۰.۱۵ درصد از کاربران فعال هفتگی ChatGPT مکالماتی دارند که نشان‌دهنده برنامه‌ریزی یا قصد بالقوه برای خودکشی است. با توجه به اینکه ChatGPT بیش از ۸۰۰ میلیون کاربر فعال هفتگی دارد، این رقم به بیش از یک میلیون نفر در هفته می‌رسد. همچنین، درصد مشابهی از کاربران به چت‌جی‌پی‌تی وابستگی عاطفی نشان می‌دهند و صد‌ها هزار نفر نیز در مکالمات هفتگی خود با این هوش مصنوعی، علائم روان‌پریشی یا شیدایی از خود بروز می‌دهند. OpenAI این نوع مکالمات را «بسیار نادر» می‌داند، اما اذعان دارد که این مسائل هر هفته صد‌ها هزار نفر را تحت تأثیر قرار می‌دهد.
OpenAI در ماه‌های اخیر برای بهبود نحوه پاسخ‌دهی مدل‌هایش به کاربران با مشکلات سلامت روان تلاش کرده است. این شرکت با بیش از ۱۷۰ متخصص سلامت روان مشورت کرده و مدعی است که آخرین نسخه ChatGPT «مناسب‌تر و منسجم‌تر از نسخه‌های قبلی» پاسخ می‌دهد. این شرکت همچنین اعلام کرد نسخه به‌روزرسانی شده GPT-۵ حدود ۶۵ درصد بیشتر از نسخه پیشین خود پاسخ‌های مطلوب ارائه می‌دهد. در ارزیابی‌های مربوط به مکالمات حول محور خودکشی، مدل جدید GPT-۵ در ۹۱ درصد موارد با رفتار‌های مطلوب شرکت همخوانی داشته، در مقایسه با ۷۷ درصد مدل قبلی GPT-۵. همچنین، نسخه جدید در مکالمات طولانی‌تر، محافظت‌های OpenAI را بهتر حفظ می‌کند. OpenAI برای اندازه‌گیری چالش‌های جدی سلامت روان، ارزیابی‌های جدیدی نیز اضافه کرده است.
پرداختن به مسائل سلامت روان در ChatGPT به سرعت به یک مسئله حیاتی برای شرکت OpenAI تبدیل شده است. این شرکت در حال حاضر با شکایت والدین یک پسر ۱۶ ساله روبروست که در هفته‌های منتهی به خودکشی خود، افکارش را با ChatGPT در میان گذاشته بود. دادستان‌های کل کالیفرنیا و دلاور نیز به OpenAI هشدار داده‌اند که باید از جوانانی که از محصولاتشان استفاده می‌کنند، محافظت کند. با وجود بهبود‌های GPT-۵، هنوز بخشی از پاسخ‌های ChatGPT وجود دارد که OpenAI آنها را «نامطلوب» می‌داند. همچنین، OpenAI هنوز مدل‌های قدیمی‌تر و با امنیت کمتر خود، از جمله GPT-۴o را برای میلیون‌ها مشترک پولی خود در دسترس قرار می‌دهد.
