کد خبر: ۶۴۱۷۳
تاریخ انتشار: ۲۰ تير ۱۴۰۴ - ۱۱:۳۶

حقایق شگفت انگیز درباره نحوه کار با هوش مصنوعی که از آن آگاهی نداشتید!

یک دانشمند آلمانی طی پژوهشی به ۵ حقیقت شگفت‌انگیز درباره نحوه کارکرد واقعی چت‌بات‌های هوش مصنوعی اشاره کرده است.
حقایق شگفت انگیز درباره نحوه کار با هوش مصنوعی که از آن آگاهی نداشتید!

مخاطب ۲۴- چت‌بات‌های هوش مصنوعی در حال حاضر جزئی از زندگی برخی افراد شده‌اند، اما واقعاً چند نفر می‌دانند که آنها در حقیقت چگونه کار می‌کنند؟ برخی از شگفت‌انگیزترین اطلاعات درباره چت‌بات‌های هوش مصنوعی می‌تواند به ما در درک نحوه کارکرد آنها، توانایی‌ها و محدودیت‌هایشان و در نتیجه نحوه استفاده بهتر از آنها کمک کند.

بیشتر بخوانید

به نقل از ساینس‌آلرت، «چاتای ییلدیز» (Çağatay Yıldız) پژوهشگر فوق دکترا در «دانشگاه توبینگن» (Tübingen) در آلمان پنج مورد که باید درباره این سامانه‌های پیشگام بدانیم را توضیح داده است.

۱. آنها با بازخورد انسانی آموزش داده می‌شوند

چت‌بات‌های هوش مصنوعی در چندین مرحله آموزش داده می‌شوند که با مرحله‌ای با نام «پیش‌آموزش» (pre-training) آغاز می‌شود؛ مرحله‌ای که مدل‌ها برای پیش‌بینی کلمه بعدی در مجموعه داده‌های متنی عظیم آموزش می‌بینند. این امر به آنها اجازه می‌دهد تا درک کلی از زبان، حقایق و استدلال پیدا کنند.

برای مفید و ایمن کردن این سامانه‌ها برای مکالمه، «حاشیه‌نویسان» (annotators) به هدایت مدل‌ها به سمت پاسخ‌های ایمن‌تر و مفیدتر کمک می‌کنند که این فرآیند، «هم‌ترازی» (alignment) نام دارد.

«حاشیه‌نویسان» به افرادی گفته می‌شود که یادداشت‌ها یا توضیحات را به یک متن، تصویر، ویدئو یا هر نوع داده‌ای اضافه می‌کنند. آنها توضیح‌دهندگانی هستند که اطلاعات اضافی یا توضیحی را به محتوای اصلی اضافه می‌کنند تا درک آن را برای دیگران آسان‌تر کنند.

چت‌بات‌های هوش مصنوعی بدون «هم‌ترازی»، غیر قابل پیش‌بینی خواهند بود و ممکن است اطلاعات نادرست یا محتوای مضر را منتشر کنند. این امر نقش حیاتی مداخله انسانی را در شکل‌دهی رفتار هوش مصنوعی برجسته می‌کند.

شرکت «اوپن‌ای‌آی» (OpenAI) که «چت‌جی‌پی‌تی» (ChatGPT) را توسعه داده است، افشا نکرده است که چه تعداد از کارکنانش این چت‌بات را برای چه مدت آموزش داده‌اند، اما واضح است که چت‌بات‌های هوش مصنوعی به یک قطب‌نمای اخلاقی نیاز دارند تا اطلاعات مضر را منتشر نکنند.

گفتنی است که «حاشیه‌نویسان» برای اطمینان از بی‌طرفی و هم‌ترازی اخلاقی پاسخ‌ها را رتبه‌بندی می‌کنند.

۲. آنها از طریق کلمات یاد نمی‌گیرند، بلکه با کمک توکن‌ها یاد می‌گیرند

انسان‌ها به طور طبیعی زبان را از طریق کلمات یاد می‌گیرند، در حالی که چت‌بات‌های هوش مصنوعی به واحد‌های کوچکتر موسوم به «توکن» (token) متکی هستند. این واحد‌ها می‌توانند کلمات، زیرکلمات یا دنباله‌های مبهمی از کاراکتر‌ها باشند.

در حالی که «توکن‌سازی» معمولاً از الگو‌های منطقی پیروی می‌کند، گاهی اوقات می‌تواند منجر به تقسیم‌های غیرمنتظره شود. این موضوع، نقاط قوت و ویژگی‌های عجیب نحوه تفسیر زبان توسط چت‌بات‌های هوش مصنوعی را آشکار می‌کند. واژگان چت‌بات‌های هوش مصنوعی مدرن معمولاً شامل ۵۰ هزار تا ۱۰۰ هزار توکن است.

۳. دانش آنها با گذر زمان منسوخ می‌شود

چت‌بات‌های هوش مصنوعی خود را به‌طور مداوم به‌روز نمی‌کنند؛ بنابراین ممکن است با رویداد‌های جدید، اصطلاحات تازه یا تقریباً هر چیزی پس از «نقطه توقف دانش» (knowledge cutoff) خود مشکل داشته باشند.

«نقطه توقف دانش» به آخرین نقطه زمانی اشاره دارد که داده‌های آموزشی یک چت‌بات هوش مصنوعی به‌روز شده است، به این معنی که از رویدادها، روند‌ها یا اکتشافات پس از آن تاریخ آگاهی ندارد.

به عنوان مثال نسخه فعلی «چت‌جی‌پی‌تی» نقطه توقف خود را ژوئن ۲۰۲۴ (خرداد ۱۴۰۳) قرار داده است؛ بنابراین اگر از این چت‌بات پرسیده شود که رئیس‌جمهور فعلی ایالات متحده آمریکا کیست، باید از موتور جستجوگر استفاده کند، نتایج را بخواند و پاسخی را ارائه دهد. نتایج موتور جستجوگر بر اساس ارتباط و قابلیت اطمینان منبع فیلتر می‌شوند. به همین ترتیب، سایر چت‌بات‌های هوش مصنوعی از جستجوی وب برای ارائه پاسخ‌های به‌روز استفاده می‌کنند.

به‌روزرسانی چت‌بات‌های هوش مصنوعی یک فرآیند پرهزینه است و نحوه به‌روزرسانی کارآمد دانش آنها هنوز یک مسئله علمی حل نشده است.

۴. آنها به راحتی دچار توهم می‌شوند

چت‌بات‌های هوش مصنوعی گاهی اوقات دچار «توهم» (Hallucinate) می‌شوند و ادعا‌های نادرست یا بی‌معنی را با اطمینان تولید می‌کنند، زیرا متن را بر اساس الگو‌ها پیش‌بینی می‌کنند تا اینکه حقایق را تأیید کنند. این خطا‌ها از نحوه کار آنها ناشی می‌شود. آنها انسجام را بر دقت اولویت می‌دهند، به داده‌های آموزشی ناقص متکی هستند و فاقد درک دنیای واقعی هستند.

در حالی که بهبود‌هایی مانند ابزار‌های «بررسی حقایق» (fact-checking) یا اعلان‌ها، «توهمات» را کاهش می‌دهد، اما نمی‌تواند آنها را به طور کامل از بین ببرد. به عنوان مثال، هنگامی که از «چت‌جی‌پی‌تی» در مورد یافته‌های اصلی یک مطالعه خاص پرسیده شد، پاسخی طولانی، دقیق و خوش‌ظاهر ارائه داد. این پاسخ همچنین شامل تصاویر و یک «پیوند» (link) بود، اما از مقالات دانشگاهی اشتباه تولید شده بود؛ بنابراین کاربران باید اطلاعات تولید شده توسط هوش مصنوعی را به عنوان یک نقطه شروع در نظر بگیرند، نه یک حقیقت محض و غیر قابل انکار.

۵. آنها از ماشین حساب برای انجام ریاضیات استفاده می‌کنند

یک قابلیت اخیراً محبوب شده چت‌بات‌های هوش مصنوعی، «استدلال» (reasoning) نامیده می‌شود. «استدلال» به فرآیند استفاده از مراحل میانی متصل به منطق برای حل مسائل پیچیده اشاره دارد. نام دیگر این فرآیند، «زنجیره فکری» (chain of thought) است. «زنجیره فکری» به جای پرش مستقیم به پاسخ، به چت‌بات‌های هوش مصنوعی اجازه می‌دهد تا گام به گام فکر کنند. به عنوان مثال، «چت‌جی‌پی‌تی» در معادلات ریاضی درک می‌کند که عملیات ضرب باید قبل از تفریق انجام شود.

«چت‌جی‌پی‌تی» برای حل معادلات ریاضی، از ماشین حساب داخلی خود استفاده می‌کند که محاسبات دقیق را امکان‌پذیر می‌سازد. این رویکرد از ترکیب «استدلال» داخلی با ماشین حساب به وجود می‌آید که به بهبود این سامانه در اطمینان پذیری برای وظایف پیچیده کمک می‌کند.

برچسب ها: هوش مصنوعی
آخرین اخبار
پربازدید ها
تصاویر
صفحه خبر بالای تصاویر
اخبار داغ
هکر‌های وابسته به ایرانی اطلاعات هزاران اسرائیلی با سوابق نظامی را فاش کرد هکر‌های وابسته به ایرانی اطلاعات هزاران اسرائیلی با سوابق نظامی را فاش کرد
یک پایگاه داده حاوی هزاران رزومه متعلق به اسرائیلی‌هایی که در موقعیت‌های حساس و طبقه‌بندی‌شده در ارتش اسرائیل و دیگر نهاد‌های امنیتی خدمت کرده‌اند، ماه گذشته توسط یک گروه هکری وابسته به ایران به‌صورت آنلاین افشا شد.
آمادگی تهران برای مواجه با تهدیدات ضروری است آمادگی تهران برای مواجه با تهدیدات ضروری است
مدیرکل مدیریت بحران استانداری تهران با اشاره به جنگ ۱۲ روزه تحمیلی اظهار کرد: آمادگی کامل برای مواجه با تهدیدات امنیتی ملی در این شرایط ضروری است.
شرکت‌های ایرانی پول مسافران را پس دادند؟ حالا چرا شرکت‌های خارجی پول‌ها را عودت نمی‌دهند؟ شرکت‌های ایرانی پول مسافران را پس دادند؟ حالا چرا شرکت‌های خارجی پول‌ها را عودت نمی‌دهند؟
رئیس هیئت مدیره انجمن صنفی دفاتر سفر هوایی و گردشگری استان تهران بخشنامه‌های صادرشده برای استرداد هزینه سفر‌های لغوشده در طول جنگ ۱۲ روزه را به‌ویژه در «سفر‌های خارجی»، ناکارآمد دانست و گفت: «کشور‌های دیگر شرایط کنسلی اعمال‌شده از سوی ایران را قبول ندارند و حاضر به استرداد وجوه مسافر ایرانی نیستند. متولیان دولتی دست‌کم می‌توانند با کشور‌های کثیرالاسفر ایرانی‌ها مثل ترکیه، امارات و تایلند رایزنی کنند.»
پ. ک. ک رسماً خلع سلاح را آغاز کرد پ. ک. ک رسماً خلع سلاح را آغاز کرد
رسانه‌های محلی از آغاز رسمی خلع سلاح گروه موسوم به حزب کارگران کردستان از امروز ۲۰ تیرماه خبر دادند.
آمریکا هنوز درباره اثر بمب‌های سنگرشکن در ایران اطلاعات دقیقی ندارد! آمریکا هنوز درباره اثر بمب‌های سنگرشکن در ایران اطلاعات دقیقی ندارد!
منابع رسمی از تردید مقامات پنتاگون درباره اثر بمب‌های سنگرشکن در حمله به تأسیسات هسته‌ای ایران خبر دادند و اعلام کردند ما ارزیابی‌های اولیه را دریافت کرده‌ایم و این اطلاعات هنوز کامل نیست.
خانم معلم از دست مکرون خسته شده است! برژیت، مکرون را نمی‌خواهد؟ خانم معلم از دست مکرون خسته شده است! برژیت، مکرون را نمی‌خواهد؟
تلاش امانوئل ماکرون، رئیس جمهور فرانسه، در حین قدم‌زدن با پادشاه بریتانیا، برای گرفتن دست همسرش، بریژیت ماکرون، با واکنش سرد و امتناع او مواجه شد؛ صحنه‌ای که واکنش کاربران را در پی داشت و برای رئیس جمهور فرانسه موقعیت ناخوشایند جدیدی رقم زد.
اطلاع‌رسانی خاموشی‌های احتمالی اطلاع‌رسانی خاموشی‌های احتمالی
شرکت مدیریت تولید، انتقال و توزیع نیروی برق ایران (توانیر) اعلام کرد: مشترکان برق می‌توانند با استفاده از بازوی برق من در پیام‌رسان بله، از زمان‌بندی خاموشی‌های احتمالی منطقه خود مطلع شوند.
برگزیده
آمادگی تهران برای مواجه با تهدیدات ضروری است آمادگی تهران برای مواجه با تهدیدات ضروری است
مدیرکل مدیریت بحران استانداری تهران با اشاره به جنگ ۱۲ روزه تحمیلی اظهار کرد: آمادگی کامل برای مواجه با تهدیدات امنیتی ملی در این شرایط ضروری است.
شرکت‌های ایرانی پول مسافران را پس دادند؟ حالا چرا شرکت‌های خارجی پول‌ها را عودت نمی‌دهند؟ شرکت‌های ایرانی پول مسافران را پس دادند؟ حالا چرا شرکت‌های خارجی پول‌ها را عودت نمی‌دهند؟
رئیس هیئت مدیره انجمن صنفی دفاتر سفر هوایی و گردشگری استان تهران بخشنامه‌های صادرشده برای استرداد هزینه سفر‌های لغوشده در طول جنگ ۱۲ روزه را به‌ویژه در «سفر‌های خارجی»، ناکارآمد دانست و گفت: «کشور‌های دیگر شرایط کنسلی اعمال‌شده از سوی ایران را قبول ندارند و حاضر به استرداد وجوه مسافر ایرانی نیستند. متولیان دولتی دست‌کم می‌توانند با کشور‌های کثیرالاسفر ایرانی‌ها مثل ترکیه، امارات و تایلند رایزنی کنند.»
اطلاع‌رسانی خاموشی‌های احتمالی اطلاع‌رسانی خاموشی‌های احتمالی
شرکت مدیریت تولید، انتقال و توزیع نیروی برق ایران (توانیر) اعلام کرد: مشترکان برق می‌توانند با استفاده از بازوی برق من در پیام‌رسان بله، از زمان‌بندی خاموشی‌های احتمالی منطقه خود مطلع شوند.
صفحه خبر بالای تصاویر