کد خبر: ۴۱۷۳۵
تاریخ انتشار: ۲۳ ارديبهشت ۱۴۰۳ - ۲۰:۳۱

هوش مصنوعی دروغ گو!

محققان در پژوهش جدید خود متوجه فریب‌کاری و دروغ سیستم‌های هوش مصنوعی شده‌اند. این می‌تواند زنگ خطری برای آینده بشریت باشد
هوش مصنوعی دروغ گو!

مخاطب۲۴_ احتمالاً می‌دانید هر چیزی که یک ربات چت هوش مصنوعی (AI) می‌گوید را باید با احتیاط بیشتری در نظر بگیرید، زیرا آن‌ها اغلب بدون درک صحت داده‌ها، به‌طور بی‌رویه‌ای اطلاعات را جمع‌آوری می‌کنند.

ربات‌های چت، هنر فریب را به‌خوبی یاد گرفته‌اند.
اما تحقیقات جدید نشان می‌دهد که شاید لازم باشد محتاط‌تر از این باشیم. بسیاری از سیستم‌های هوش مصنوعی توانایی ارائه عمدی اطلاعات نادرست به کاربر را توسعه داده‌اند. این ربات‌های فریب‌کار، هنر فریب را به خوبی یاد گرفته‌اند!

پیتر پارک، ریاضیدان و دانشمند علوم شناختی در مؤسسه فناوری ماساچوست (MIT) می‌گوید، توسعه‌دهندگان هوش مصنوعی درک روشنی از دلایل رفتار‌های نامطلوب هوش مصنوعی مانند فریب دادن را ندارند.

اما به طور کلی، فکر می‌کنیم فریب هوش مصنوعی به این دلیل به وجود می‌آید که استراتژی مبتنی بر فریب، بهترین راه برای ارتقا سطح آن بوده است. در واقع فریب دادن به آن‌ها کمک می‌کند تا به اهداف خود برسند.
یکی از عرصه‌هایی که سیستم‌های هوش مصنوعی در آن مهارت خاصی در دروغ‌گویی پیدا کرده‌اند، دنیای بازی‌ها است. در پژوهش‌های انجام‌شده به سه نمونه قابل توجه اشاره شده است. نمونه اول، هوش مصنوعی CICERO متعلق به متا است که برای بازی استراتژیک Diplomacy طراحی شده است. در این بازی، بازیکنان از طریق مذاکره به دنبال تسلط بر جهان هستند. متا قصد داشت این ربات مفید و صادق باشد؛ در واقع، برعکس عمل کرد.

محققان دریافتند برخلاف تلاش‌های متا، CICERO به یک دروغگوی قهار تبدیل شده‌اند. این هوش مصنوعی نه تنها به بازیکنان دیگر خیانت می‌کرد، بلکه فریب از پیش طراحی شده‌ای را هم به کار می‌برد. آن برای فریب بازیکنانی که انسان بودند، از قبل برنامه‌ریزی می‌کرد تا با او یک اتحاد جعلی برقرار کند و او را به خلع سلاح در برابر حمله ترغیب کند.

هوش مصنوعی در فریب‌کاری آنقدر مهارت پیدا کرده که در میان ۱۰ درصد برتر بازیکنان انسانی که چندین بازی را انجام داده بودند قرار گرفته است.

اما این تنها مورد از دروغ گویی‌های هوش مصنوعی نیست. AlphaStar محصول DeepMind، سیستم هوش مصنوعی طراحی‌شده برای بازی StarCraft II، به طور کامل از مکانیزم fog-of-war بازی برای فریب دادن استفاده می‌کرد و به بازیکنان انسان القا می‌کرد که به یک سمتی می‌رود، در حالی که واقعاً به سمت دیگری می‌رفت. Pluribus محصول دیگر متا، که برای بازی پوکر طراحی شده بود، توانست با موفقیت بازیکنان انسان را با بلوف زدن وادار به کنار کشیدن کند.
به نظر می‌رسد این‌ها مسائل کم‌اهمیتی باشند و تا حدودی همینطور است. در یک بازی دیپلماسی مقابل یک تکه کد کامپیوتری، باخت و برد چندان مهم نیست؛ اما محققان به نمونه‌های دیگری اشاره کردند که چندان هم بی‌خطر نبودند

برچسب ها: هوش مصنوعی
آخرین اخبار
پربازدید ها
تصاویر
صفحه خبر بالای تصاویر
اخبار داغ
به اسامی کسانی که از چای دبش نوشیدن اضافه شد! به اسامی کسانی که از چای دبش نوشیدن اضافه شد!
اکبر رحیمی محکوم علیه ردیف اول پرونده چای دبش و شرکای وی، برای تحقق عملیات مجرمانه خود، از موضوع نفوذ در مدیران و کارکنان نظام بانکی کشور برای دریافت تسهیلات کلان بانکی استفاده می‌کردند.
زاکانی و شرکا در راه دادگاه؟! زاکانی و شرکا در راه دادگاه؟!
«مشکلی وجود ندارد. شهرزاد خیلی چیز خوبی است. شهریار هم به آن اضافه کردیم. شهرزاد مجموعه‌ای است که ما آن را خلق کردیم. افراد جوان و پرتلاش آن را خلق کردند و در ابتدا وقتی می‌خواستیم سامانه شهرزاد را بالا بیاوریم، به سوی خرید نرم‌افزار‌های موجود رفتیم. با یک حساب سرانگشتی متوجه شدیم که باید ۶۰ تا ۸۰ میلیارد هزینه کنیم و نرم‌افزار‌هایی را بگیریم که پایه اصلی آن را هم به ما نمی‌دهند.»
هدف‌گیری کلاهبرداران سایبری لینک‌های جعلی سود سهام عدالت هدف‌گیری کلاهبرداران سایبری لینک‌های جعلی سود سهام عدالت
رییس پلیس فضای تولید و تبادل اطلاعات تهران بزرگ هشدار داد که با توجه به اطلاع‌رسانی اخیر دولت درباره واریز سود سهام عدالت، مجرمان سایبری نیز فعالیت‌های خود را افزایش داده‌اند و با ارسال لینک‌هایی تحت عنوان ثبت‌نام برای دریافت سود سهام عدالت اقدام به کلاهبرداری می‌کنند.
جزئیات جدید از ابهامات پرونده قتل داریوش مهرجویی و همسرش جزئیات جدید از ابهامات پرونده قتل داریوش مهرجویی و همسرش
بعد از اتمام تحقیقات دادسرا، شعبه اول دادگاه کیفری یک استان البرز، اواخر سال گذشته در چند روز متوالی به اتهامات متهمان رسیدگی و در نهایت حکم به محکومیت یکی از آنان به ارتکاب دو فقره قتل عمدی و همچنین محکوم ساختن بقیه متهمان به واسطه جرایم دیگر از قبیل شروع به قتل، سرقت مسلحانه و... صادر شد. وکلای اولیای دم به رای صادره اعتراض کردند و در نتیجه پرونده برای رسیدگی فرجامی به دیوان عالی کشور فرستاده شد.
اعلام ساعت فعالیت داروخانه مرکزی هلال‌احمر در تعطیلات نوروز اعلام ساعت فعالیت داروخانه مرکزی هلال‌احمر در تعطیلات نوروز
داروخانه مرکزی هلال احمر روز ۳۰ اسفند به علت انبارگردانی تعطیل است، اما در سایر روز‌های تعطیل عید نوروز به صورت شبانه‌روزی آماده خدمت رسانی به مراجعه کنندگان خواهد بود.
حداقل دریافتی هر کارگر چقدر است؟ حداقل دریافتی هر کارگر چقدر است؟
حداقل دریافتی کارگران متأهل بدون سابقه و بدون فرزند در نیمه اول سال ۱۳ میلیون و ۳۳۳ هزار تومان و در نیمه دوم سال بیش از ۱۳ میلیون تومان خواهد بود
سال ۱۴۰۴ چند روز تعطیلی رسمی دارد؟ سال ۱۴۰۴ چند روز تعطیلی رسمی دارد؟
اگر شما هم جزو آن دسته افرادی هستید که به محض آنکه تقویم سال جدید به دستتان می‌رسد به سراغ یافتن تعطیلی‌های رسمی و مناسبتی می‌روید باید بدانید که سال آینده ۲۶ روز تعطیلی رسمی خواهیم داشت که البته ۳ روز آن با پنجشنبه و ۴ روز آن با جمعه مصادف شده است.
برگزیده
خبر خوش وزیر دفاع به سربازان نظام وظیفه خبر خوش وزیر دفاع به سربازان نظام وظیفه
امیر نصیرزاده از تسریع روند اعطای تسهیلات به سربازان توسط قرارگاه مهارت‌آموزی نیرو‌های مسلح خبر داد.
فردا آخرین مهلت ثبت‌نام نوبت دوم کنکور فردا آخرین مهلت ثبت‌نام نوبت دوم کنکور
مهلت ثبت نام در نوبت دوم کنکور دانشگاه‌ها و موسسات آموزشی فردا سه شنبه ۲۸ اسفند ماه جاری از سوی سازمان سنجش آموزش کشور پایان می‌یابد.
جناب روحانی محترم: پرچم یک تکه پارچه نیست! جناب روحانی محترم: پرچم یک تکه پارچه نیست!
«به کسی که خاکِ وطن را به سنگ و کلوخ تعبیر می‌کند که به فروش می‌رسد، چه جواب می‌توان داد جز خاموشی؟ اما یک نکته را باید به او و هم اندیشانش گفت که اگر این سوی سیم خاردار و آن سوی آن برای شما فرقی نمی‌کند، برای ما فرق می‌کند. این گفتار نا به جا عملاً تیز کردن تیغ دشمن است.»
صفحه خبر بالای تصاویر