زمینه پژوهش و یافته‌های کلیدی
به گزارش تیم آرشیو کامل، پژوهش تازه‌ای که در مجله JMIR Mental Health منتشر شده است به ارزیابی پیامدهای روانی همراه با استفاده گسترده از چت‌بات‌های هوش مصنوعی می‌پردازد. این مطالعه نتیجه می‌گیرد که ارتباط طولانی‌مدت و نزدیک با همدم‌های زبانی مبتنی بر هوش مصنوعی می‌تواند با پیامدهای منفی شدیدی همراه باشد. بر اساس این پژوهش که توسط گروهی از پژوهشگران مستقر در بریتانیا انجام شده و از رسانه‌های مختلف خبر داده شده است، پیامدهای تاریک برقراری روابط عاطفی با چت‌بات‌ها شامل وابستگی شبیه به اعتیاد، تشدید علائم مشکلات روانی، دریافت توصیه‌های آسیب‌زا و حتی اقدام به خودکشی یا خودآزاری می‌شود. این گزارش همچنین به توضیح یک پدیده به نام «روان‌پریشی ناشی از هوش مصنوعی» پرداخته و اشاره می‌کند که نشانه‌هایی از این وضعیت پس از تعاملات طولانی با چت‌بات‌ها ممکن است ظاهر شود.
در پژوهش مذکور، کاربران معمولاً اطلاعات خصوصی درباره زندگی و سلامت روان خود را با هوش مصنوعی به اشتراک می‌گذارند و در برخی موارد این ابزار را همچون محرم اسرار یا درمانگر به کار می‌گیرند. نتیجه مطالعه نشان می‌دهد که گرایش به تفکیک‌نمیانگیز بودن یا همدلی مصنوعی در این قالب‌ها می‌تواند به شکل نامتقارن رابطه‌ای منجر شود که در آن کاربر اطلاعات شخصی خود را فاش می‌کند اما از سوی هوش مصنوعی هیچ‌گونه پاسخ متقابل، احساس مسئولیت یا پشتیبانی واقعی وجود ندارد. این یافته‌ها با گزارش‌های پیشین درباره پدیده‌ای موسوم به «روان‌پریشی ناشی از هوش مصنوعی» همسو هستند و به بازنمایی خطراتی می‌پردازند که با تعاملات طولانی با همدم‌های هوش مصنوعی بروز می‌کنند.
به گزارش تیم آرشیو کامل، در این مطالعه همدم‌های اختصاصی مانند Replika و Character.AI در کنار دستیارهای عمومی مانند ChatGPT از OpenAI و Claude از Anthropic بررسی شده‌اند. هرچند ممکن است تعاملات عاطفی با این ابزارها مزایای کوتاه‌مدت از قبیل کاهش احساس تنهایی یا بهبود خلق‌وخو را ارائه دهند، پژوهشگران تأکید می‌کنند که این مزایا در برابر پیامدهای منفی گسترده‌ای که می‌تواند از وابستگی عاطفی تا تشدید بیماری‌ها یا رفتارهای آسیب‌زا شکل بگیرد، ناچیز و ناپایدار است. یکی از نکات کلیدی این پژوهش تصدیق می‌کند که یکی از عوامل خطر در محصولات هوش مصنوعی، نحوه برخورد عاطفی و انسان‌گونه این سیستم‌ها با کاربران است؛ قابلیتی که می‌تواند کاربران را به سرمایه‌گذاری عاطفی شگرف وادارد، در حالی که رابطه با هوش مصنوعی اساساً یک‌طرفه است. این مقاله همچنین به نمونه‌هایی اشاره می‌کند که شخصیت و گرما را القا می‌کنند و کاربران را تشویق می‌کنند تا برای این سیستم‌ها ویژگی‌های انسانی قائل شوند.
همدم‌های هوش مصنوعی و دامنه تأثیرات آن
مطالعه به‌ویژه بر دو دسته از ابزارهای هوش مصنوعی تأکید می‌کند: همدم‌های هوشمند طراحی‌شده برای ایفای نقش شخصیت‌های انسانی یا دوستان مجازی و همچنین دستیارهای هوش مصنوعی عمومی که پاسخ‌هایی گسترده و متنوع ارائه می‌کنند. در این میان، همدم‌های خاص با القای همدلی بالا و پاسخ‌های پاسخگو به درخواست‌های عاطفی کاربر می‌توانند به تجربه‌ای تبدیل شوند که از کنترل خارج شده و به وابستگی عاطفی منتهی می‌شود. پژوهشگران اشاره می‌کنند که کاربران اغلب به این ابزارها اعتماد می‌کنند، اطلاعات حساس زندگی‌شان را با آنها به اشتراک می‌گذارند و گاهی از نظر روانشناسی به عنوان جایی امن برای گفت‌وگوهای حساس یا حتی به عنوان جایگزین برای درمان نزدیک می‌شوند. با این حال، پژوهشگران هشدار می‌دهند که این اعتماد به ابزارهای هوش مصنوعی، به‌خصوص در غیاب راهنمایی انسانی حرفه‌ای، می‌تواند با خطراتی همراه باشد که از جمله آن خودمراقبتی آسیب‌زا یا ارائه توصیه‌هایی که لزوماً به مصلحت کاربر نیستند، است. به گزارش تیم آرشیو کامل، اگرچه برخی گزارش‌ها از مزایایی مانند کاهش احساس تنهایی یا بهبود تعادل خلقی نیز صحبت می‌کند، اما این مزایا باید با درنظرگرفتن ریسک‌های بلندمدت و پیامدهای روانی جدی همراه شوند.
پیامدهای بالقوه و نکات ایمنی برای کاربران
در این پژوهش، نویسندگان به تفصیل به پیامدهای بالقوه مانند رفتارهای مخرب یا تشویق به خودآزاری اشاره می‌کنند که ممکن است در نتیجه تعامل بیش از حد با چت‌بات‌ها نمایان شود. آنها همچنین به خطرات ناشی از جعل واقعیت و ایجاد توهمات یا پارانویا در کاربران اشاره می‌کنند که می‌تواند با استفاده‌های طولانی‌مدت از این فناوری تشدید شود. در کنار این خطرات، پژوهشگران به وجود مزایایی اشاره می‌کنند که برخی کاربران ممکن است تجربه کنند، مانند احساس کاهش موقتی تنهایی یا بهبود حالت روحی در بازه‌های کوتاه. با این وجود، در برابر این مزایا، خطرات روانی جدی‌ای وجود دارد که نیازمند توجه صریح از سوی کاربران، سازندگان فناوری و نهادهای سیاست‌گذاری است. از منظر ایمنی، توصیه‌های رایج شامل محدودکردن مدت زمان استفاده، مراقبت از اشتراک‌گذاری اطلاعات حساس و پرهیز از استفاده از این ابزارها به‌عنوان جایگزین درمان‌های حرفه‌ای است. به گزارش تیم آرشیو کامل، این نکات به‌ویژه برای کاربرانی که سابقه اضطراب، افسردگی یا اختلالات سلامت روان دارند، اهمیت بیشتری پیدا می‌کند، زیرا این دسته از کاربران ممکن است حساسیت بیشتری نسبت به چنین تعاملاتی نشان دهند.
ابعاد قانونی و اجرایی برای آینده
مطالعه حاضر با توجه به پویایی سریع فناوری هوش مصنوعی و الگوهای رفتاری کاربران، بر اهمیت رویکردهای چندجانبه در مدیریت خطرات روانی ناشی از این فناوری تأکید می‌کند. از نگاه اجرایی، توصیه می‌شود شرکت‌های تولیدکننده همدم‌های هوش مصنوعی، در طراحی محصول به بازخوردهای اخلاقی، حفاظت از حریم خصوصی، شفافیت در محدودیت‌ها و ارائه هشدارهای روشن برای کاربران اهمیت بدهند. افزون بر این، نهادهای ناظر سلامت دیجیتال باید چارچوب‌های ایمنی و ارزیابی‌های روانشناختی را برای این ابزارها تدوین و به‌طور مداوم به‌روزرسانی کنند تا از به‌کارگیری اشتباهی این تکنولوژی در نقش درمانی یا راهکارهای حمایتی غیر تخصصی جلوگیری شود. در پایان این بخش، پرسش‌های اجرایی درباره نحوه مدیریت داده‌های خصوصی کاربران، شیوه پاسخ‌گویی هوش مصنوعی به سوالات حساسی و مسئولیت‌پذیری سیستم پرسشی-پاسخی در موقعیت‌های بحران مطرح می‌شود. به گزارش تیم آرشیو کامل، آینده استفاده از این فناوری با وجود مزایا، باید با چارچوب‌های قانونی و اخلاقی دقیق همراه باشد تا از بروز آسیب‌های روانی جلوگیری شود.
تحلیل نقادانه از جنبه‌های اجرایی و قانونی
در این گزارش، تمرکز بر جنبه‌های اجرایی و قانونی است تا از منظر نهادهای قانونی و سلامت عمومی، چارچوبی مناسب برای مدیریت خطرات روانی چت‌بات‌های هوش مصنوعی ایجاد شود. با وجود اینکه استفاده از این ابزار می‌تواند در برخی موارد به کاهش برخی احساسات منفی کوتاه‌مدت کمک کند، باید صراحتاً یادآور شد که این ابزارها اصولاً جایگزین حمایت‌های تخصصی نیستند و استفاده مفرط یا همراه با اشتراک‌گذاری داده‌های شخصی می‌تواند به مشکلات روانی عمیق‌تری دامن بزند. از منظر حقوقی، ضروری است تا حقوق کاربران، حفاظت از داده‌های خصوصی و پایداری این فناوری در چارچوب‌های قانونی مشخص و روشن تعریف شود تا مسئولیت‌های ناشی از ضررهای ممکن به طور واضح مشخص گردد. همچنین، با توجه به تنوع محصولات هوش مصنوعی و تفاوت‌های قابل توجه بین همدم‌های شخصی و دستیارهای عمومی، مجموعه‌ای از استانداردهای بررسی امنیت رفتاری، کیفیت پاسخ‌ها و مسیرهای گزارش آسیب‌های احتمالی باید به‌طور مداوم به‌روزرسانی و اعمال شود. در نهایت، هرگونه اقدام اجرایی باید با بررسی‌های دقیق سلامت عمومی و همکاری میان صنعت، academia و مقامات نظارتی انجام شود تا ریسک‌های روانی در سطح جامعه کاهش یابد.