کد خبر: ۴۱۷۳۵
تاریخ انتشار: ۲۳ ارديبهشت ۱۴۰۳ - ۲۰:۳۱
محققان در پژوهش جدید خود متوجه فریب‌کاری و دروغ سیستم‌های هوش مصنوعی شده‌اند. این می‌تواند زنگ خطری برای آینده بشریت باشد

مخاطب۲۴_ احتمالاً می‌دانید هر چیزی که یک ربات چت هوش مصنوعی (AI) می‌گوید را باید با احتیاط بیشتری در نظر بگیرید، زیرا آن‌ها اغلب بدون درک صحت داده‌ها، به‌طور بی‌رویه‌ای اطلاعات را جمع‌آوری می‌کنند.

ربات‌های چت، هنر فریب را به‌خوبی یاد گرفته‌اند.
اما تحقیقات جدید نشان می‌دهد که شاید لازم باشد محتاط‌تر از این باشیم. بسیاری از سیستم‌های هوش مصنوعی توانایی ارائه عمدی اطلاعات نادرست به کاربر را توسعه داده‌اند. این ربات‌های فریب‌کار، هنر فریب را به خوبی یاد گرفته‌اند!

پیتر پارک، ریاضیدان و دانشمند علوم شناختی در مؤسسه فناوری ماساچوست (MIT) می‌گوید، توسعه‌دهندگان هوش مصنوعی درک روشنی از دلایل رفتار‌های نامطلوب هوش مصنوعی مانند فریب دادن را ندارند.

اما به طور کلی، فکر می‌کنیم فریب هوش مصنوعی به این دلیل به وجود می‌آید که استراتژی مبتنی بر فریب، بهترین راه برای ارتقا سطح آن بوده است. در واقع فریب دادن به آن‌ها کمک می‌کند تا به اهداف خود برسند.
یکی از عرصه‌هایی که سیستم‌های هوش مصنوعی در آن مهارت خاصی در دروغ‌گویی پیدا کرده‌اند، دنیای بازی‌ها است. در پژوهش‌های انجام‌شده به سه نمونه قابل توجه اشاره شده است. نمونه اول، هوش مصنوعی CICERO متعلق به متا است که برای بازی استراتژیک Diplomacy طراحی شده است. در این بازی، بازیکنان از طریق مذاکره به دنبال تسلط بر جهان هستند. متا قصد داشت این ربات مفید و صادق باشد؛ در واقع، برعکس عمل کرد.

محققان دریافتند برخلاف تلاش‌های متا، CICERO به یک دروغگوی قهار تبدیل شده‌اند. این هوش مصنوعی نه تنها به بازیکنان دیگر خیانت می‌کرد، بلکه فریب از پیش طراحی شده‌ای را هم به کار می‌برد. آن برای فریب بازیکنانی که انسان بودند، از قبل برنامه‌ریزی می‌کرد تا با او یک اتحاد جعلی برقرار کند و او را به خلع سلاح در برابر حمله ترغیب کند.

هوش مصنوعی در فریب‌کاری آنقدر مهارت پیدا کرده که در میان ۱۰ درصد برتر بازیکنان انسانی که چندین بازی را انجام داده بودند قرار گرفته است.

اما این تنها مورد از دروغ گویی‌های هوش مصنوعی نیست. AlphaStar محصول DeepMind، سیستم هوش مصنوعی طراحی‌شده برای بازی StarCraft II، به طور کامل از مکانیزم fog-of-war بازی برای فریب دادن استفاده می‌کرد و به بازیکنان انسان القا می‌کرد که به یک سمتی می‌رود، در حالی که واقعاً به سمت دیگری می‌رفت. Pluribus محصول دیگر متا، که برای بازی پوکر طراحی شده بود، توانست با موفقیت بازیکنان انسان را با بلوف زدن وادار به کنار کشیدن کند.
به نظر می‌رسد این‌ها مسائل کم‌اهمیتی باشند و تا حدودی همینطور است. در یک بازی دیپلماسی مقابل یک تکه کد کامپیوتری، باخت و برد چندان مهم نیست؛ اما محققان به نمونه‌های دیگری اشاره کردند که چندان هم بی‌خطر نبودند

برچسب ها: هوش مصنوعی
آخرین اخبار
پربازدید ها
تصاویر
اخبار داغ
عکس آسانسوری آقای مجری! title
سلفی آسانسوری ایرج طهماست با دخترش در شب تولدش
استایل آیشواریا رای سوژه خنده شد! title
استایل آیشواریا رای، بازیگر محبوب هندی در جشنواره کن سوژه خنده شده است.
توضیحات جدید قوه قضاییه درباره تتلو title
قوه قضاییه می‌گوید در جریان روند بررسی پرونده امیرحسین مقصودلو در محاکم استان تهران هیچ فردی یا افرادی به عنوان شاکی خصوصی از او شکایت نکرد و هیچ‌گونه پرونده‌ای با عنوان شاکی خصوصی برای تتلو تشکیل نشد
حکم مجازات تتلو صادر شد؟ title
حکم ‌مجازات ‌تتلو ‌از سوی قاضی دادگاه انقلاب تهران صادر شد. بر اساس این حکم، تتلو‌ به زندان و مجازات تبعی محکوم شده است.
همسر سابق ریحانه پارسا با چه کسی ازدواج کرد؟ title
مهدی کوشکی، بازیگر سینما و تلویزیون با انتشار انتشار استوری در صفحه اینستاگرامش، از ازدواج خود با محیا مهدی‌زاده خبر داد.
دستگیر ­مامور قلابی در شمال پایتخت title
رئیس پلیس پیشگیری پایتخت از دستگیری یک مامور قلابی خبر داد.
جشن تولد ۶۵ سالگی ایرج طهماسب title
ایرج طهماسب مجری مشهور و پرطرفدار کشورمان می‌باشد ۶۵ ساله شد.
برگزیده
استوری عاشقانه داماد سینمای ایران title
سپند امیرسلیمانی در تازه‌ترین استوری خود، تصویری به همراه همسرش، مونا کرمی منتشر کرد.
سازمان هواپیمایی کشوری: در ایران جت شخصی نداریم title
سخنگوی سازمان هواپیمایی کشوری گفت: به طور کلی ما در ایران جت شخصی نداریم. در زمینه نخریدن جت شخصی، تقریبا کسی را نداریم که خریده باشد.
پیام تبریک رئیسی به مناسبت قهرمانی تیم ملی فوتسال در آسیا title
رئیس جمهور در پیامی با تبریک قهرمانی تیم ملی فوتسال کشورمان در آسیا تصریح کرد: از یکایک اعضای تیم ملی، مربیان، کادر فنی و سایر تلاشگران حوزه ورزش کشور برای کسب این عنوان ارزشمند، قدردانی می­‌نمایم.
صهیونیست‌ها دست از پا خطا کنند وضعیت متفاوت خواهد بود title
رئیس‌جمهور گفت: اگر رژیم صهیونیستی بار دیگر دست از پا خطا کند و تعرضی به خاک مقدس ایران کند، وضعیت متفاوت خواهد بود و معلوم نیست دیگر چیزی از این رژیم باقی بماند.
تقویت همکاری‌های قوای مسلح ایران و پاکستان عامل صلح و ثبات است title
فرمانده ارتش پاکستان در حاشیه سفر رسمی رئیس جمهوری اسلامی ایران به این کشور به دیدار آیت الله رئیسی رفت.