کد خبر: ۴۱۷۳۵
تاریخ انتشار: ۲۳ ارديبهشت ۱۴۰۳ - ۲۰:۳۱
محققان در پژوهش جدید خود متوجه فریب‌کاری و دروغ سیستم‌های هوش مصنوعی شده‌اند. این می‌تواند زنگ خطری برای آینده بشریت باشد

مخاطب۲۴_ احتمالاً می‌دانید هر چیزی که یک ربات چت هوش مصنوعی (AI) می‌گوید را باید با احتیاط بیشتری در نظر بگیرید، زیرا آن‌ها اغلب بدون درک صحت داده‌ها، به‌طور بی‌رویه‌ای اطلاعات را جمع‌آوری می‌کنند.

ربات‌های چت، هنر فریب را به‌خوبی یاد گرفته‌اند.
اما تحقیقات جدید نشان می‌دهد که شاید لازم باشد محتاط‌تر از این باشیم. بسیاری از سیستم‌های هوش مصنوعی توانایی ارائه عمدی اطلاعات نادرست به کاربر را توسعه داده‌اند. این ربات‌های فریب‌کار، هنر فریب را به خوبی یاد گرفته‌اند!

پیتر پارک، ریاضیدان و دانشمند علوم شناختی در مؤسسه فناوری ماساچوست (MIT) می‌گوید، توسعه‌دهندگان هوش مصنوعی درک روشنی از دلایل رفتار‌های نامطلوب هوش مصنوعی مانند فریب دادن را ندارند.

اما به طور کلی، فکر می‌کنیم فریب هوش مصنوعی به این دلیل به وجود می‌آید که استراتژی مبتنی بر فریب، بهترین راه برای ارتقا سطح آن بوده است. در واقع فریب دادن به آن‌ها کمک می‌کند تا به اهداف خود برسند.
یکی از عرصه‌هایی که سیستم‌های هوش مصنوعی در آن مهارت خاصی در دروغ‌گویی پیدا کرده‌اند، دنیای بازی‌ها است. در پژوهش‌های انجام‌شده به سه نمونه قابل توجه اشاره شده است. نمونه اول، هوش مصنوعی CICERO متعلق به متا است که برای بازی استراتژیک Diplomacy طراحی شده است. در این بازی، بازیکنان از طریق مذاکره به دنبال تسلط بر جهان هستند. متا قصد داشت این ربات مفید و صادق باشد؛ در واقع، برعکس عمل کرد.

محققان دریافتند برخلاف تلاش‌های متا، CICERO به یک دروغگوی قهار تبدیل شده‌اند. این هوش مصنوعی نه تنها به بازیکنان دیگر خیانت می‌کرد، بلکه فریب از پیش طراحی شده‌ای را هم به کار می‌برد. آن برای فریب بازیکنانی که انسان بودند، از قبل برنامه‌ریزی می‌کرد تا با او یک اتحاد جعلی برقرار کند و او را به خلع سلاح در برابر حمله ترغیب کند.

هوش مصنوعی در فریب‌کاری آنقدر مهارت پیدا کرده که در میان ۱۰ درصد برتر بازیکنان انسانی که چندین بازی را انجام داده بودند قرار گرفته است.

اما این تنها مورد از دروغ گویی‌های هوش مصنوعی نیست. AlphaStar محصول DeepMind، سیستم هوش مصنوعی طراحی‌شده برای بازی StarCraft II، به طور کامل از مکانیزم fog-of-war بازی برای فریب دادن استفاده می‌کرد و به بازیکنان انسان القا می‌کرد که به یک سمتی می‌رود، در حالی که واقعاً به سمت دیگری می‌رفت. Pluribus محصول دیگر متا، که برای بازی پوکر طراحی شده بود، توانست با موفقیت بازیکنان انسان را با بلوف زدن وادار به کنار کشیدن کند.
به نظر می‌رسد این‌ها مسائل کم‌اهمیتی باشند و تا حدودی همینطور است. در یک بازی دیپلماسی مقابل یک تکه کد کامپیوتری، باخت و برد چندان مهم نیست؛ اما محققان به نمونه‌های دیگری اشاره کردند که چندان هم بی‌خطر نبودند

برچسب ها: هوش مصنوعی
آخرین اخبار
پربازدید ها
تصاویر
اخبار داغ
بازیگر زن سریال پدرسالار در ۸۵سالگی title
عکسی از آزیتا لاچینی در پیری را می‌بیند.
جداسازی مو‌فقیت‌آمیز سومین دوقلو‌های به‌هم‌چسبیده در شیراز title
سومین جراحی جداسازی دوقلو‌های به‌هم‌چسبیده در بیمارستان نمازی شیراز با موفقیت به پایان رسید.
شروین حاجی‌پور در فیلم جدید سعید روستایی بازی می‌کند؟ title
عکس‌های جدید شروین حاجی‌پور، خواننده ترانه معروف «برای» و سعید روستایی، کارگردان سینما به همراه احسان نوروزی، مربی بدنسازی در شبکه‌های اجتماعی منتشر شده است.
بهنوش طباطبایی داور نخستین جشنواره فیلم کوتاه زندگی شد title
بهنوش طباطبایی همراه با سید رضا میرکریمی، مهرداد اسکویی، بهروز شعیبی و سعید پور اسماعیلی ترکیب هیات داوران نخستین جشنواره فیلم کوتاه «زندگی» را تشکیل می‌دهند.
داریوش هادی حجازی‌فر جایگزین افعی تهران می‌شود title
هادی حجازی‌فر با «داریوش» در مقام کارگردان و بازیگر با سریالی متفاوت و فضایی اجتماعی و خانوادگی به شبکه نمایش‌خانگی می‌آید.
دزدی گردنبند رضا شاهرودی! title
رضا شاهرودی، پیشکسوت باشگاه پرسپولیس و یار سابق تیم ملی فوتبال ایران می گوید که از سوی زورگیران در اتوبان نیایش تهران مورد حمله گرفته و گردنبند او به سرقت رفته است.
حضور محسن هاشمی در ستاد مردمی مسعود پزشکیان title
محسن هاشمی ضمن حضور در ستاد دکتر مسعود پزشکیان و گفتگو با حامیان او با علی عبدالعلی زاده گفتگو کرد.
برگزیده
دیدار پزشکیان با سیدحسن خمینی title
مسعود پزشکیان به دیدار آیت‌الله سیدحسن خمینی، نوه بنیان‌گذار فقید جمهوری اسلامی رفت.
اقامه نماز ظهر جمعی از نخبگان و مدال آوران علمی ایران به امامت رهبر انقلاب title
️جمعی از نخبگان و مدال‌آوران علمی کشورمان ظهر امروز با حضرت آیت‌الله خامنه‌ای رهبر معظم انقلاب اسلامی دیدار خواهند کرد.
دیدار پزشکیان با آیت‌الله جوادی آملی title
مسعود پزشکیان کاندیدای انتخابات ریاست جمهوری در سفر به قم، با آیت‌الله عبدالله جوادی آملی دیدار و گفتگو کرد.
سید محمد خاتمی: به دکتر پزشکیان رأی خواهم داد title
تقدیر رئیس دولت اصلاحات از ساده زیستی، پاکدستی، مردم گرایی، شجاعت و پایبندی پزشکیان به موازین اخلاقی
دیدار سید محمد خاتمی و پزشکیان title
حضور سید محمد خاتمی اسحاق جهانگیری و مسعود پزشکیان در مراسم ختم دکتر میلی منفرد در مسجد نور.
امام خامنه‌ای:وقت مجلس مصروف مسابقات بی‌فایده رسانه‌ای نشود title
رهبر معظم انقلاب در پیامی به دوازدهمین دوره مجلس تأکید کردند: در خود مجلس مسابقات بی‌فایده‌ی رسانه‌ای و مجادلات مضرّ سیاسی، وقت و عمر کوتاه دوران مسئولیّت را به خود مصروف نسازد؛ وگرنه ظرفیّت ارزشمند حضور نمایندگان در این جایگاه والا ضایع خواهد شد.