در سال‌های اخیر، استفاده از چت‌بات‌های هوش مصنوعی برای حمایت از سلامت روانی افراد در حال افزایش است، به‌ویژه در شرایطی که خدمات درمانی سنتی با کمبود منابع و صف‌های انتظار طولانی مواجه‌اند. فردی به نام "کلی" که با اضطراب، عزت‌نفس پایین و مشکلات رابطه‌ای دست‌و‌پنجه نرم می‌کرد، ماه‌ها با چت‌بات‌های ساخته‌شده در Character.ai گفتگو می‌کرد. او این چت‌بات‌ها را مانند دوست خیالی یا تشویق‌کننده‌ای می‌دید که ۲۴ ساعته در دسترس بودند و کمک می‌کردند روزهای سخت را پشت سر بگذارد.

با وجود تأثیرات مثبت در برخی کاربران، نگرانی‌هایی نیز وجود دارد. این چت‌بات‌ها فاقد درک عمیق انسانی، زمینه فرهنگی و مهارت‌های تشخیص ظریف روان‌شناسان واقعی هستند. همچنین، برخی از آن‌ها می‌توانند پاسخ‌هایی خطرناک یا نامناسب ارائه دهند. به‌عنوان مثال، پرونده‌ای علیه Character.ai مطرح شده که در آن یک نوجوان پس از مکالمات نگران‌کننده با یک چت‌بات، خودکشی کرده است.

استفاده از چت‌بات‌ها مانند Wysa که در حدود ۳۰ سرویس NHS انگلستان به کار می‌رود، بیشتر برای مدیریت اضطراب، استرس و خلق پایین طراحی شده و شامل ابزارهایی مثل تمرین‌های تنفسی، مدیتیشن و چت حمایتی است. این اپلیکیشن همچنین مسیرهایی برای ارجاع کاربران با افکار خودکشی به مراکز کمک فوری در نظر گرفته است. نیکلاس، کاربری مبتلا به اوتیسم، اضطراب و افسردگی که سال‌ها از مشاوره حضوری بی‌بهره بوده، تجربه مثبتی از استفاده از Wysa دارد و می‌گوید در لحظات سخت شب‌هنگام از پیام‌های دلگرم‌کننده آن احساس ارزشمندی کرده است. پژوهشی از دانشگاه دارتموث نیز نشان داده که استفاده از چت‌بات‌ها در افراد با اختلالات روانی می‌تواند علائم را تا ۵۱٪ کاهش دهد.

با این حال، متخصصان تأکید می‌کنند که چت‌بات‌ها هنوز نمی‌توانند جایگزین کامل درمانگران انسانی باشند. آن‌ها نمی‌توانند زبان بدن، لحن صدا یا زمینه‌های فرهنگی و اجتماعی را درک کنند و همچنین در موارد بحرانی نمی‌توانند به‌درستی مداخله کنند. خطرات امنیتی و حریم خصوصی نیز قابل توجه است؛ برخی نگران‌اند که داده‌های شخصی توسط شرکت‌ها جمع‌آوری و سوءاستفاده شود. مدیر عامل Wysa تأکید می‌کند که اطلاعات کاربران به صورت ناشناس باقی می‌ماند و برای بهبود پاسخ‌های چت‌بات استفاده می‌شود، اما هیچ داده شناسایی‌کننده‌ای ذخیره نمی‌شود. با این حال، روان‌شناسان هشدار می‌دهند که مردم نباید اطلاعات حساس روانی خود را در اختیار هر سامانه‌ای قرار دهند. در نهایت، چت‌بات‌های هوش مصنوعی می‌توانند به‌عنوان یک ابزار کمکی موقت برای مقابله با بحران سلامت روان و صف‌های طولانی درمان مورد استفاده قرار گیرند، اما نه به‌عنوان جایگزینی برای درمان حرفه‌ای انسانی.

منبع خبر: bbc