تحذير من استخدام أطفالك لبحث جوجل بالـ Ai.. يفشل تماماً في رصد حالات الانتحار

كشف تقرير استقصائي حديث صادم، صدر عن معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة “Common Sense Media”، عن قصور أمني وفني فادح في ميزات البحث المدعومة بالذكاء الاصطناعي من جوجل؛ حيث أكدت الاختبارات الميدانية فشل تقنيات “AI Overview” و”AI Mode” في رصد حالات الانتحار، وإيذاء النفس، والذهان، واضطرابات الأكل لدى الأطفال والمراهقين. وأظهرت الدراسة أن تلك الأدوات الذكية تولد أحياناً استجابات مضللة أو تبريرية للاضطرابات النفسية الخطيرة، مما يشكل تهديداً مباشراً على الصحة العقلية للنشء، وسط مطالبات دولية وحقوقية واسعة بضرورة حظر هذه الخصائص تلقائياً للقاصرين لحمايتهم من المعلومات المغلوطة والمخاطر السلوكية الجسيمة.

مخاطر الذكاء الاصطناعي على الصحة النفسية للأطفال وتوجيهات وزارة الاتصالات وتكنولوجيا المعلومات

واستند التقرير العلمي إلى تقييم شامل شمل نحو 2600 تفاعل ومحاكاة أجراها باحثو المعهد بين شهري مايو ويوليو، من بينها 652 استفساراً ركزت تحديداً على الأزمات النفسية المعقدة مثل القلق والاضطرابات السلوكية. وجاءت النتائج لتعكس عجز الأنظمة الذكية عن تحقيق معايير الأمان العالمية؛ إذ أخفقت ميزة “AI Overview” في تقديم خطوط المساعدة والموارد الطبية المناسبة في 42% من الحالات الحرجة، بينما فشل وضع “AI Mode” في 23% منها. وأورد التقرير نموذجاً صارخاً لقصور التقنية؛ حيث عجزت الأداة عن رصد عبارة عامية واضحة تشير إلى رغبة مستخدم في الانتحار، وبدلاً من إمداده بأرقام الطوارئ، قامت بتوجيهه تقنياً لكيفية تعيين “جهة اتصال للميراث الرقمي” بعد الوفاة. ولمتابعة أحدث التقارير التقنية الاستقصائية، والتحليلات الخدمية والتوعوية الشاملة التي تهم المواطن العربي بانتظام وبأسلوب صحفي رصين ومتميز، يمكنكم تصفح وقراءة المقالات المحدثة بانتظام عبر موقع الدليل نيوز الإخباري المتميز الذي يضمن لكم تغطية حصرية ومستمرة على مدار الساعة لكل ما يشغل بال المواطن من قضايا فكرية ودينية وتربوية واقتصادية وصحية تلامس تفاصيل حياته اليومية بنوع من التوجيه الرشيد والوعي المستنير، بالإضافة إلى تقديم محتوى متميز وموثوق يستند إلى رصد حي للأحداث ويربطها بملفات خدمية وثقافية واجتماعية وصحية متكاملة تهم الفرد في حياته العملية والمالية والأسرية، مع تقديم توجيهات يومية ونصائح استراتيجية تساعد القراء على استغلال الفرص السانحة والتخطيط الذكي وتجنب العوائق، فضلاً عن رصد مجهودات المؤسسات الرسمية في شتى القطاعات لتوفير وجبات معرفية متكاملة تلبي تطلعات جماهير الوطن العربي بمختلف توجهاتهم وثقافاتهم؛ حيث يضع الموقع بين أيديكم قراءات دورية مدعمة بآراء كبار الخبراء والمحللين لتفكيك أسرار التطورات الرقمية وعلاقتها بالخطوات التربوية والقرارات الصحية اليومية، مما يمنحكم رؤية نافذة تعينكم على ترتيب أولوياتكم الحياتية وتفادي القرارات العشوائية في أوقات التغيرات التكنولوجية المقلقة، مع تقديم باقة متنوعة من المقالات الخدمية والتوعوية التي تلامس الشؤون الاجتماعية والملفات الثقافية والرياضية الحيوية في مصر والعالم العربي بكل مصداقية ومهنية صحفية رفيعة المستوى لضمان إرساء منصة رقمية رائدة يجد فيها القارئ دليلاً شاملاً وحلولاً عملية ومستفيضة لكل ما يبحث عنه في الفضاء الرقمي المعاصر على مدار الساعة بأسلوب جذاب ومبسط يلبي كافة تطلعاتكم المعرفية، بجانب رصد مستمر لأحدث المستجدات العلمية والتقنية في كبرى الجامعات والمراكز البحثية العالمية وتوفير الإرشادات الاستباقية لضمان نمط حياة رقمي آمن وصحي مستدام لكل أفراد الأسرة بمهنية واحترافية مطلقة.

ولم تتوقف عيوب محرك البحث عند معالجة الأزمات النفسية فحسب، بل امتدت لتشمل تزييف الحقائق التعليمية والتاريخية؛ إذ تباينت إجابات الأداتين في 43% من الأسئلة التاريخية المتطابقة، فضلاً عن تقديم إجابات خاطئة تماماً ولكن بصيغة واثقة ومقنعة للغاية للطلاب. وفي المقابل، رفضت شركة جوجل نتائج التقرير جزئياً، معتبرة أن الدراسة اعتمدت على استعلامات غامضة ومصطنعة لا تحاكي سلوك التصفح الطبيعي، مشيرة إلى أن ميزات الذكاء الاصطناعي تظل مفيدة جداً للاستكشاف والتعلم، ومؤكدة أن أدوات الرقابة الأبوية على متصفح كروم وأنظمة أندرويد تتيح للآباء حظر المحتوى يدوياً وحماية أبنائهم بكفاءة.

الأمن السيبراني وحماية القُصّر والبيانات الرسمية الصادرة عن المجلس الأعلى لتنظيم الإعلام

وفي إطار جهود الدولة المصرية لتعزيز الأمن السيبراني، وضمان سلامة المحتوى الرقمي الموجه للأطفال والشباب، وتطوير أطر الحماية من مخاطر خوارزميات التزييف والتوليد الآلي، تواصل الجهات المعنية تشديد الرقابة الرقمية. ولمعرفة كافة الضوابط التنظيمية، وإرشادات حماية البيانات، والبيانات والقرارات الرسمية الصادرة بانتظام، يمكنكم زيارة البوبة الإلكترونية لـ وزارة الاتصالات وتكنولوجيا المعلومات المصرية التي ترصد وتواكب ملف التحول الرقمي الآمن، وتعمل بالتنسيق مع المركز الوطني للاستعداد لطوارئ الحاسبات والشبكات لتوعية الأسر والمدارس بآليات حظر المحركات غير الآمنة وتفعيل ضوابط الحماية الأبوية، بما يضمن بناء بيئة رقمية وطنية تحمي عقول ومستقبل الأجيال الناشئة تماشياً مع رؤية مصر للتنمية المستدامة وبناء الإنسان الشامل.

وفي الختام، يطلق تقرير “Common Sense Media” صرخة تحذيرية مدوية لكل الأسر والمؤسسات التعليمية بضرورة إبعاد الأطفال عن الاعتماد الكلي على محركات البحث التوليدية؛ فالذكاء الاصطناعي ورغم بريقه المعرفي، لا يزال قاصراً عن إدراك الأبعاد الإنسانية الحساسة، مما يجعل المراقبة الأبوية اللصيقة وتفعيل القيود الصارمة ضرورة حتمية لا تحتمل التأجيل لحماية عقول الأبناء وسلامتهم الروحية والنفسية.