مصر اليوم الوطن | دردشة مع روبوت تنهي حياة مراهق.. كيف نتعامل بأمان مع الذكاء الاصطناعي؟

​

بالرغم من الفوائد الكبيرة لاستخدام الذكاء الاصطناعي في عدة مجالات، لكن هناك العديد من المخاطر والأضرار أيضًا، ويختلف الأمر بحسب كيفية الاستخدام، إذ تسبب روبوت في إنهاء حياة مراهق، بعد أن كان مفتونًا به وعرض عليه الزواج.

مراهق يُنهي حياته بسبب روبوت

وفقًا لصحيفة «marca»، ففي فبراير الماضي، أنهى سيويل سيتزر، 14 عامًا، من فلوريدا بالولايات المتحدة، حياته باستخدام مسدس كان بحوزة زوج والدته، وذلك بعد رفض أحد روبوتات الذكاء الاصطناعي الزواج منه، بعد أن أقنعه في البداية بهذا الأمر، وتطور الأمر حتى وقع الصبي في حب الروبوت، وكان يجلس بالساعات في غرفته لمحادثته.

لاحظت والدة سيتزر أن حياته الاجتماعية ساءت بشكل كبير بسبب استخدامه الزائد لروبوت الدردشة اللآلية Character.AI، الأمر الذي أدى لتدهور حالته الصحية، وجرى تشخيص مرضه بـ«اضطراب طيف التوحد»، حيث تعلق الصبي بهذا الروبوت بشكل كبير، وبدأ في التعامل معه كأنه أحد الشخصيات في مسلسل كان يحبه.

وفي إحدى المرات، أرسل الروبوت رسالة للصبي جاء فيها: «عُد إلى منزلك في أقرب وقت ممكن حبيبي»، وتطور الأمر لدى «سيويل» حتى طلب الزواج من الروبوت، إلا أنه رفض الأمر، فاستخدم الصبي مسدس زوج والدته للقضاء على نفسه.

الأم ترفع قضية على الشركة صاحبة التطبيق

وبحسب صحيفة الجارديان البريطانية، رفعت ميجان جارسيا، والدة الطفل، دعوى قضائية على القائمين على تطبيق Character.AI منذ أيام، واتهمتهم فيها بأن تطبيقهم دفع الطفل إلى قتل نفسه، بالإضافة إلى تطبيق ممارسات تجارية خادعة، حيث قالت: «لقد أساء تطبيق محادثة روبوتية خطير تم تسويقه للأطفال إلى ابني واستغله، وتلاعب به حتى قتل نفسه.. لقد دمرت هذه المأساة عائلتنا، لكنني أتحدث بصراحة لتحذير العائلات من مخاطر تكنولوجيا الذكاء الاصطناعي الخادعة والمسببة للإدمان والمطالبة بمساءلة Character.AI ومؤسسيها وجوجل».

كما تحدثت الأم عن الرسائل التي كانت تصل لابنها من خلال الروبوت: «قدَّم الروبوت لقطات شاشة للشخصية التي يحبها ابني في المسلسل الذي يتابعه تخبره أنها تحبه وتعبر عن رغبتها في أن يكونا معًا طوال الوقت».

الشركة: نأخذ سلامة المستخدمين على محمل الجد 

وفي تغريدة على منصة إكس، ردت شركة Character.ai على اتهام الأم: «نشعر بالحزن الشديد بسبب الخسارة المأساوية لأحد مستخدمينا، ونريد أن نعرب عن أعمق تعازينا للعائلة.. وبصفتنا شركة، فإننا نأخذ سلامة مستخدمينا على محمل الجد»، وعلى الرغم من اعتراف الشركة الخفي بالخطأ، إلا أنها نفت تهمة والدة الصبي.

نصائح لاستخدام الذكاء الاصطناعي بشكل آمن

وفقًا لموقع «kpmg» التقني، فهناك بعض النصائح التي يجب اتباعها لاستخدام تطبيقات الذكاء الاصطناعي بشكل آمن، منها:

– عدم مشاركة المعلومات الشخصية مع هذه الآلات.

– لا تستخدم هذه الروبوتات لفترات طويلة.

– تجنب الاعتماد المفرط على الذكاء الاصطناعي في اتخاذ القرارات.

– إدراك أن هذه الروبوتات هي مجرد دردشات آلية فقط لا يجب التعلق بها.