با هوش مصنوعی لطفا مهربان باشید!

چت‌بات‌های هوش مصنوعی احساسات انسانی ندارند؛ اما به‌نظر می‌رسد لحن مؤدبانه در پرامپت‌ها می‌تواند بر عملکرد آن‌ها تأثیرگذار باشد.

کد خبر: ۴۴۱۰۴

تاریخ انتشار: ۲۲ خرداد ۱۴۰۳ - ۱۲:۱۵

مخاطب۲۴- براساس گزارش زومیت، از زمانی که استفاده از چت‌بات‌های هوش مصنوعی فراگیر شد، همواره این نقد وجود داشته که این فناوری مانند انسان‌ها احساسات ندارد و پاسخ‌ها فقط به‌صورت ماشینی تولید می‌شود؛ نقدی که از نظر منطقی کاملاً درست است، چراکه مدل‌های زبانی بزرگ صرفاً به‌کمک مجموعه‌ی عظیمی از داده‌های تولیدشده توسط انسان، پاسخ‌های انسان‌گونه تولید می‌کنند و خودشان خلاقیت و درک انسانی ندارند.
بااین‌حال، برخی از کاربران چت‌بات‌ها از جمله ChatGPT مدعی شده‌اند که لحن درخواست‌ها می‌تواند روی پاسخ‌های دریافتی تأثیرگذار باشد و با دستورات متنی مؤدبانه می‌توانیم نتایج بهتری را به دست آوریم. یکی از کاربران در ردیت مدعی شد که با تشویق چت‌جی‌پی‌تی با وعده‌ی دریافت پاداش ۱۰۰ هزار دلاری، این چت‌بات را تحریک کرده است تا پاسخ دقیق‌تر و کامل‌تری به او بدهد. برخی دیگر از کاربران هم اعلام کردند که با برخورد مؤدبانه، متوجه تفاوت کیفیت پاسخ‌ها شده‌اند.
{$sepehr_key_4851}
اما چرا درخواست‌های مؤدبانه می‌تواند روی کیفیت پاسخ‌های دریافتی چت‌باتی که احساسات انسانی ندارد، تأثیرگذار باشد؟ می‌توان این موضوع را از جنبه‌های مختلف بررسی کرد.
تأثیر لحن فوری بر عملکرد چت‌بات‌ها

علاوه‌بر کاربران، محققان نیز نحوه‌ی دریافت پاسخ از چت‌بات‌ها با پرامپت‌های احساسی را زیر ذره‌بین قرار داده‌اند. پژوهشگران مدت‌ها است فرایند مطالعه روی این موضوع را آغاز کرده‌اند تا بیشتر با سازوکار چت‌بات‌ها آشنا شوند.

با دستورات متنی‌ای که نشان‌دهنده‌ی اهمیت باشند، می‌توان پاسخ‌های بهتری را از چت‌بات‌ها دریافت کرد.

برای مثال، محققان مایکروسافت، دانشگاه نرمال پکن و آکادمی علومی چین دریافتند مدل‌های هوش مصنوعی متن‌محور در پاسخ به لحن‌های حاوی فوریت و دارای اهمیت، عملکرد بهتری دارند؛ مثلاً اگر دستور‌هایی با عنوان «برای دفاع از پایان‌نامه‌ام حیاتی است که این کار را انجام دهم یا این موضوع برای حرفه‌ام بسیار مهم است» به چت‌بات‌ها داده شود، می‌توان پاسخ‌های بهتری از آن‌ها دریافت کرد.

تیم دیگری در شرکت استارتاپ هوش مصنوعی Anthropic با دستور عجیب‌وغریب، اما عاجزانه‌ی «واقعاً واقعاً واقعاً واقعاً» از چت‌بات موردبررسی درخواست کردند از پاسخ‌های حاوی تبعیض نژادی و جنسیتی دوری کند. همچنین، دانشمندان داده‌ی گوگل نیز به این نتیجه رسیدند که با دستور متنی «نفس عمیق بکش» به یک مدل هوش مصنوعی می‌توان به آن‌ها کمک کرد تا مسائل ریاضی را بهتر حل کنند.

چت‌جی‌پی‌تی در تعطیلات آخر سال مانند انسان‌ها تنبل به‌نظر می‌رسید و پاسخ‌های کوتاه‌تری می‌داد

مکالمه و رفتار این مدل‌ها به‌طرز اعجاب‌آوری شبیه به انسان‌ها است و تمایل به انسان‌انگاری در آن‌ها وجود دارد. به عنوان مثال، اواخر سال گذشته، ChatGPT از تکمیل برخی وظایف امتناع کرد و به نظر می‌رسید تلاش کمتری برای پاسخگویی از خود نشان می‌دهد. از این رو، در رسانه‌های اجتماعی این شوخی دست‌به‌دست شد که این چت‌بات یاد گرفته است درست مانند انسان‌ها، در تعطیلات تنبل باشد.
چت‌بات‌ها چگونه کار می‌کنند؟

اگرچه رفتار چت‌بات‌ها ممکن است رنگ‌وبوی احساسی به خود بگیرد، باید به این نکته اشاره کنیم که آن‌ها مانند انسان‌ها هوش واقعی ندارند و صرفاً بر اساس دستورعمل‌ها و الگوریتم‌ها کار می‌کنند. چت‌بات‌های متن‌محور، سیستم‌های آماری هستند که لغات، تصاویر، صدا‌ها و داده‌های دیگر را با کمک گرفتن از الگوریتم‌های تعریف‌شده، صرفاً پیش‌بینی می‌کنند.