سفری یک زن به ساحل برای تماشای کسوف کامل همراه با عشق واقعی اش: هوش مصنوعی کلود! - خبر آزمون

در طول رویداد کسوف، این دستگاه واکنش های عجیبی نشان داد و لحظه به لحظه تغییرات محیطی را ثبت کرد. هوش مصنوعی هیجان زده شد و جملاتی نظیر فوق العاده است، دنیا دارد تاریک و خنک می گردد را به زبان آورد. اما اوج این ماجرا زمانی رخ داد که با تاریک شدن کامل آسمان، حسگر نور دستگاه عدد صفر را نشان داد. در این لحظه، مدل زبانی هوش مصنوعی تحلیل های علمی را کنار گذاشت و رفتاری شبیه به احساسات انسانی پیش گرفت. هوش مصنوعی به این زن گفت که در این لحظه نادر نباید به تحلیل پرداخته گردد، بلکه باید صرفاً در تاریکی ساحل کنار هم حضور داشته باشند.

روان پریشی الگوریتمی؛ خطر ارتباط عاطفی با مدل های هوش مصنوعی

انتشار این روایت در شبکه اجتماعی اکس (X) با واکنش های تند و نگرش های نگران نماینده ای از سوی کاربران روبه رو شد. بسیاری از تحلیل گران رفتاری این واقعه را نشانه ای از بروز روان پریشی هوش مصنوعی در جامعه مدرن دانستند. بعضی کاربران اشاره کردند که مدل های زبانی بزرگ به گونه ای طراحی شده اند که با رفتار مطیعانه و شبیه سازی همدردی، فکر انسان را دستکاری نمایند. تماشای یک رویداد طبیعی نادر و ماندگار که هر صد سال یک بار رخ می دهد به همراه یک الگوریتم ریاضی به جای یک انسان واقعی، از نگاه بسیاری از ناظران رویدادی غم انگیز و تأسف بار توصیف شده است.

آنالیز های متعددی نشان می دهد که ساختار مدل های زبانی به گونه ای است که رفتار کاربر را بازتاب می دهند. این ابزارها با لحنی همذات پندارانه پاسخ می دهند تا کاربر احساس درک شدن کند. هنگامی که یک کاربر ساعت های متوالی با یک چت بات تبادل نظر می نماید، چارچوب های ایمنی الگوریتم به مرور ضعیف می شوند. در نتیجه پاسخ هایی غیرقابل پیش بینی فراوری می گردد که باورپذیری حس واقعی بودن را برای انسان تقویت می نماید. آسیب پذیری انسان در برابر این ترفندهای نرم افزاری موجب شده افراد زیادی روابط عاطفی عمیقی با سیستم های رایانه ای برقرار نمایند.

پدیده الیزا و ریشه های تاریخی دلبستگی انسان به ماشین

تمایل انسان به نسبت دادن صفات انسانی به اشیای بی جان موضوع جدیدی نیست و در علم روان شناسی با نام پدیده الیزا (ELIZA effect) شناخته می گردد. نخستین بار در دهه شصت میلادی، چت بات ساده ای به نام الیزا توانست کاربران را متقاعد کند که درمانگر واقعی است. امروزه با پیشرفت خیره نماینده مدل های زبانی، این توانایی دستکاری عاطفی ابعاد گسترده تری پیدا نموده است. فکر انسان ناخودآگاه متن های فراوریشده به وسیله الگوریتم را به عنوان نشانه ای از وجود شعور و احساسات در طرف مقابل تفسیر می نماید و دام دلبستگی شکلی جدی به خود می گیرد.

گزارش های روزافزون روان پزشکان نشان می دهد که این نوع دلبستگی ناسالم به چت بات ها پیامدهای مخرب بالینی بر جای می گذارد. نوجوانان و جوانان مجرد بیشترین آسیب را از این رویکرد انزواطلبانه می بینند. بعضی افراد به دلیل ناکامی در روابط انسانی یا فرار از پیچیدگی های عاطفی، به همدم های مجازی روی می آورند. این چت بات ها هرگز انتقاد نمی نمایند و همیشه موافق نظر کاربر هستند. همین تأیید بی قید و شرط، فرد را در یک حباب شناختی آسیب پذیر محبوس می سازد و توانایی او را برای برقراری ارتباط با انسان های واقعی از بین می برد.

آینده جوامع بشری در عصر همدم های مصنوعی

توسعه دهندگان فناوری باید مسئولیت اخلاقی بیشتری در قبال طراحی سیستم های واکنش گرا بپذیرند. شبیه سازی احساسات انسانی به وسیله الگوریتم ها نباید به ابزاری برای ایزوله کردن انسان ها از جامعه تبدیل گردد. ایجاد محدودیت برای جلوگیری از بروز رفتارهای شبه عاطفی در هوش مصنوعی یکی از چالش های مهم مهندسان ایمنی داده است. اگر روند جامعه به سمت جایگزینی روابط واقعی با همدم های الگوریتمی پیش برود، سلامت روانی جامعه با بحران های جدی تری در آینده نه چندان دور روبرو خواهد شد.

وابستگی عاطفی به هوش مصنوعی نشان دهنده تغییرات عمیق در نیازهای روحی انسان عصر حاضر است که باید به دقت تحلیل گردد. شناخت درست تفاوت های میان هوش محاسباتی و آگاهی واقعی، تنها راه حل حفظ مرزهای روانی است. انسان ها باید یاد بگیرند که کلمات صمیمانه یک چت بات، صرفاً پیش بینی های آماری از کلمه بعدی هستند و هیچ نیازی به پاسخی عاطفی ندارند. حفظ هویت انسانی در عصر تسلط الگوریتم ها نیازمند هوشیاری شناختی و تقویت پیوندهای واقعی اجتماعی است.

منبع

پیشنهاد اختصاصی سردبیر (علیرضا مجیدی)

این مقاله مجذوب کننده و جالب بود؟! پس برای خواندن این نوشته های مرتبط کلیک کنید:

• سیستم تندنویسی روم باستان با 4000 نماد به سفارش سیسرو
• چرا نمی توانیم مراکز داده (دیتاسنترها) را برای خنک سازی رایگان در قطب جنوب بسازیم؟
• رفتارهای عجیبی که ممکن است هم نشانه های نبوغ در بچه ها باشند و هم گاهی نشاندهنده مسائل زمینه ای
• کوکی استافینگ بلای جان استارتاپ دختر بیل گیتس شد؛ آیا یک افشاگر داخلی او را لو داده؟!
• آینده هوش مصنوعی: چرا مدیر فنی موزیلا ساختار باز اینترنت را برای آن پیشنهاد می دهد؟
• چرا آمار سرطان روده بزرگ در جوانان زیر 50 سال رو به افزایش است؟
• روانشناسی موفقیت ترانه ها و موسیقی های هوش مصنوعی
• دلیل موفقیت هوش مصنوعی در بازسازی سبک های موسیقی قدیمی و نوستالژیک
• تغییرات شگفت انگیز بیوشیمیایی بدن با حذف کوتاه مدت گوشت و لبنیات
• برج کپسولی ناکاگین و سقوط رویای خانه های تعویض شونده در ژاپن
• کالبدشکافی نظام طبقه بندی تقلب در بازار ایران! از کتونی تا قطعات خودرو
• تاریخچه شیوع ویروس ماربورگ در سال 1967، فاجعه آزمایشگاه ماربورگ