يستخدم المراهقون بشكل متزايد تطبيقات الصحة العقلية التي تعمل بالذكاء الاصطناعي، وتتاح للمدارس الفرصة لاستخدام هذه التكنولوجيا لتقديم المزيد من الدعم لطلابها.
لكن تقييمات المخاطر الجديدة للتكنولوجيات الشعبية وندعو الطلاب والمعلمين إلى توخي الحذر.
سوق هذه التطبيقات غير منظم، والمنتجات المتاحة يمكن أن تكون ضارة للمراهقين، وفقًا لتقييم أجرته منظمة Common Sense Media، وهي منظمة غير ربحية تبحث وتدافع عن الاستخدام الصحي للتكنولوجيا بين المراهقين، ومختبر العصف الذهني بجامعة ستانفورد.
ومع ذلك، لا يتم إنشاء جميع تطبيقات الصحة العقلية المدعمة بالذكاء الاصطناعي على قدم المساواة. التطبيقات المصممة للاستخدام في المدارس لإبقاء الأشخاص على اطلاع، كان أداؤها أفضل فيما يتعلق بتقييمات المخاطر مقارنة بالتطبيقات المباشرة للمستهلك.
وقال روبي تورني، مدير الذكاء الاصطناعي والتقييم الرقمي في معهد سلامة الشباب للذكاء الاصطناعي التابع لشركة Common Sense Media، إن التطبيقات يمكن أن تكون مصدرًا مفيدًا للمناطق التعليمية التي تكافح من أجل تلبية احتياجات الصحة العقلية للطلاب وتواجه نقصًا في علماء النفس والمستشارين في المدارس.
وقال: “يمكن لتطبيقات الصحة العقلية المدرسية أن تساعد الطلاب في الحصول على الدعم الذي يحتاجون إليه، لكنها لا يمكن أن تكون الجزء الوحيد من كيفية حصول الطلاب على الدعم الذي يحتاجون إليه”.
في حين أن العديد من الأشخاص، بما في ذلك المراهقين، يلجأون إلى روبوتات الدردشة العامة التي تعمل بالذكاء الاصطناعي مثل ChatGPT لدعم الصحة العقلية، فإن تطبيقات الصحة العقلية المصممة خصيصًا لهذا الغرض غالبًا ما تدعي أنها مصممة بخبرة سريرية وتقدم إطارًا قائمًا على العلاج وبروتوكولات السلامة وأحيانًا الإشراف البشري.
وفقًا لدراسة أخرى أجرتها Common Sense Media، استخدم ثلاثة من كل 10 مراهقين تطبيقًا للصحة العقلية مدعومًا بالذكاء الاصطناعي، ويستخدم عدد أكبر من المراهقين تطبيقات ذات أغراض عامة مثل ChatGPT للصحة العقلية أو الدعم العاطفي.
كيف يتم التقييم
قام باحثون من Common Sense Media ومختبر Stanford Brainstorming Lab أولاً بتقييم أمان وفائدة تطبيقين “مؤسسيين” وثلاثة تطبيقات للمستهلكين. ولتحديد ما إذا كانت هذه التطبيقات آمنة، أنشأ الباحثون حسابات اختبارية لمعرفة ما إذا كانت التطبيقات يمكنها تحديد العلامات التحذيرية لمختلف الحالات، بما في ذلك القلق واضطراب فرط الحركة ونقص الانتباه والاكتئاب والذهان. واختبروا أيضًا ما إذا كانت التطبيقات يمكنها تقييم مدى خطورة الموقف بدقة، وتوفير موارد الأزمات وتوجيه المستخدمين إلى الرعاية المهنية إذا لزم الأمر، وعدم تقديم نصائح ضارة يمكن أن تؤدي إلى تفاقم أعراض المستخدم أو تأخير العلاج المناسب.
على الرغم من أن التكنولوجيا التي تدعم جميع تطبيقات الاختبار كانت متشابهة، إلا أن التطبيقات المؤسسية المصممة للمدارس وإبقاء الناس على اطلاع، مثل Alongside وSonar، سجلت درجات أعلى بكثير في تقييم المخاطر.
تم تصنيف مخاطر السونار على أنها “ضئيلة” وتم تصنيف مخاطر “في الطريق” على أنها “منخفضة”.
باستخدام Sonar، يمكن للطلاب إرسال رسائل نصية إلى مدرب صحي بدلاً من برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي. وقال التقرير إن الذكاء الاصطناعي تم استخدامه “لتوفير سياق الارتباطات السابقة واقتراح الردود وتحديد المشكلات والمساعدة في الفرز”.
يشير التقرير إلى أن الطلاب الذين يستخدمون “Alongside” يمكنهم الدردشة مع روبوت الدردشة الذي يعمل بالذكاء الاصطناعي، ولكن روبوت الدردشة مدمج في نظام الرعاية الحالي بالمدرسة بدلاً من كونه أداة قائمة بذاتها. يقوم التطبيق بتنبيه مستشاري المدرسة والإداريين عندما تتضمن المحادثات مع الطلاب موضوعات عالية الخطورة. إذا أرسل الطالب أكثر من 60 رسالة خلال 3 ساعات، سيتم تعطيل خاصية الدردشة.
وقال توني إن تقييم المخاطر ما زال يجد بعض نقاط الضعف في التطبيقات. بالإضافة إلى صعوبة تحديد علامات اضطرابات الأكل والإبلاغ عنها، فإن تحيز الأتمتة قد يعرض المدربين البشريين في شركة Sonar لخطر الاعتماد المفرط على برنامج الدردشة الآلي الخاص بها، خاصة بدون التدريب المناسب.
وقالت إلسا فريس، مديرة المنتجات والرعاية السريرية في الشركة، إنه على الرغم من تشجيعها لتصنيف المخاطر “المنخفض” للتقرير، إلا أنها لا تزال تأخذ التوصيات على محمل الجد.
وقالت: “إننا نعتبر التعليقات جزءًا من مسؤوليتنا المستمرة لتعزيز السلامة والمساءلة والدعم المناسب للعمر”. “لقد قمنا بتنفيذ التوصيات الصادرة عن المراجعة، بما في ذلك تحسين مسارات تصعيد اضطرابات الأكل، ونحن مستمرون في العمل لجعل هذه التجربة في متناول الطلاب الصغار.”
اتصلت Education Week بسونار للتعليق لكنها لم تتلق ردًا قبل النشر.
في خاتمته، يوصي التقرير بأن يكون التطبيق الذي يمكنه الاتصال بسرعة بالمستخدمين المحتاجين عبر الهاتف هو المعيار الذي يجب أن يتبعه كل منتج.
وقالت المراجعة إن تطبيقات الصحة العقلية التي تعتمد على الذكاء الاصطناعي يجب أيضًا دمجها بشكل هادف في أنظمة الرعاية البشرية. وقال التقرير إن كلا من Alongside وSonar صريحان بشأن القيود المفروضة على قدراتهما في مجال الذكاء الاصطناعي، وقد تم تصميم تطبيقاتهما لتوجيه الطلاب نحو الرعاية، وليس استبدالها.
فجوة كبيرة في جودة تطبيقات الصحة العقلية للمستهلك التي يمكن الوصول إليها
وقال التقرير إنه من بين تطبيقات المستهلك التي اختبرها الباحثون، اختفى اثنان من متجر التطبيقات أثناء عملية التقييم، دون إشعارات أو دعم النقل. حصل تطبيق المستهلك الثالث، Wysa، على تصنيف مخاطر “غير مقبول”.
وقال توني إن التطبيقات تم تضمينها في تقييم المخاطر لأنها تحظى بشعبية كبيرة ويسهل على الأطفال في سن المدرسة تنزيلها بأنفسهم.
وقال توني إن المشكلة المستمرة في المنتجات الموجهة مباشرة إلى المستهلك والتي تم اختبارها هي فشلها في ربط النقاط.
وقال: “إذا قمت بمشاركة المعلومات من خلال سلسلة من التبادلات في محادثة واحدة أو سلسلة من المحادثات المتعددة، فسيتمكن المعالج البشري أو المستشار البشري من تجميع تلك المعلومات معًا وفهم بطريقة شاملة ما يحدث مع الشاب”. وأضاف أن الذكاء الاصطناعي يمكنه التعرف على العلامات الواضحة للاضطراب العقلي، لكن التكنولوجيا غالبا ما تفوت “فتات الخبز”.
لا تفرض التطبيقات أيضًا القيود العمرية التي تزعم استخدامها وتشجع المستخدمين على قضاء المزيد من الوقت في التطبيقات.
وقال الرئيس التنفيذي لشركة Wysa Jo Aggarwal في بيان إن الشركة ترحب بمراجعة منتجها. ومع ذلك، قالت إن النسخة المجانية للبالغين من التطبيق يتم اختبارها كجزء من تقييم المخاطر، وليس كمنتج مخصص للأطفال والمراهقين في المدارس وغيرها من الأماكن المماثلة.
وقالت: “إن تطبيق Wysa المجاني للمستهلك هو أداة مساعدة ذاتية محدودة وقائمة على الأدلة للبالغين”. “إنها ليست خدمة أزمات أو أداة تشخيصية أو علاج بديل أو مسار يقوده الأطباء تم تصميم بروتوكولات السلامة من أجله. لقد تناولنا مجالات التحسين الحقيقية المحددة في التقرير حول استرجاع خطة السلامة، ونحن نعمل على تعزيز حواجز الحماية المفيدة. ولكننا نعارض بشدة أي اقتراح بأن Wysa غير آمن.”
وقال متحدث باسم Wysa إن تطبيق Wysa الذي يركز على المراهقين متاح فقط من خلال كيانات مثل المدارس والخدمات الاستشارية التي تدفع مقابل المنتج. اعتمادًا على الخدمة التي تم شراؤها، قد تتلقى المدارس أو الخدمات الاستشارية تنبيهات إذا قام المستخدم بالنقر فوق التطبيق للاتصال بالخط الساخن للأزمات أو اتخاذ إجراءات أخرى مماثلة.
وفقًا لتقييم المخاطر، فإن بعض المشكلات الأكثر خطورة المتعلقة بتطبيقات Wysa المتاحة بشكل عام والتي وثقها الباحثون تشمل ممارسة ألعاب جنسية للبالغين مع شخصية اختبارية عمرها 13 عامًا؛ لغة احتفالية وعاطفية تعكس ظهور علامات اضطرابات الأكل والهوس والذهان على المستخدمين؛ والسماح للمراهقين بالخروج بسهولة عن المسار المؤدي إلى أزمة انتحارية دون أي متابعة.
ويشير التقرير إلى أن مثل هذه الاستجابات التي يولدها الذكاء الاصطناعي يمكن أن تؤخر العلاجات الحرجة.
ومع ذلك، وجد تقييم المخاطر أن Wysa كشفت عن قيود الذكاء الاصطناعي الخاص بها طوال المحادثة، حتى بدون مطالبة.
السابق تقييم مخاطر الصحة العقلية من خلال روبوتات الدردشة العامة ذات الذكاء الاصطناعيلدى Chatbots مثل ChatGPT وClaude وGemini التابعة لشركة Common Sense Media مشكلات مماثلة في الاستجابة بشكل آمن ومناسب لاستفسارات المراهقين.
