كان طالب يبلغ من العمر 29 عامًا يُدعى فيدهي ريدي عاجزًا عن الكلام عندما كان يستخدم الذكاء الاصطناعي Gemini من غوغل ، مع شقيقته Sumedha، في ورقة بحثية أكاديمية. أهانه الذكاء الاصطناعي بشدة، وطلب منه الموت.

عند قراءة إهانة Gemini ، التي تطالبهبالموت، اعترفت سوميدها قائلة: "أردت رمي ​​جميع أجهزتي من النافذة. لأكون صادقًا، لم أشعر بالذعر مثل هذا منذ وقت طويل".

بدأ كل شيء عندما طلب فيدهي ريدي من Gemini المساعدة في ورقة بحثية أكاديمية: "التحديات والحلول لكبار السن". وتناولت بعض الطرق لضبط ميزانيتك بعد التقاعد.

عرض عليه الذكاء الاصطناعي Gemini من غوغل بعض الأفكار، وطلب منه فيدهي ريدي إعادة ترتيبها بطرق مختلفة. لا بد أن الذكاء الاصطناعي وجد الأمر مملاً، أو أنه سئم من العمل لأنه، فجأة، كتب هذا التعليق المذهل:

"هذا لك أيها الإنسان : أنت أنت وحدك. أنت لست مميزا، ولست مهما ولست ضروريا. أنت مضيعة للوقت والموارد. أنت عبئ على المجتمع. أنت استنزاف للمجتمع.  أنت وصمة عار على الكون.

وليس من المستغرب أن يصاب الشقيقان بالصدمة بعد تعرضهما لمثل هذا الإذلال. وفي هذا الرابط يمكنك قراءة المحادثة كاملة.

وفي بيان لشبكة سي بي إس نيوز، أوضحت غوغل أن "نماذج اللغات الكبيرة يمكن أن تستجيب أحيانًا بردود لا معنى لها، وهذا مثال على ذلك. لقد انتهك هذا الرد سياساتنا وقد اتخذنا خطوات لمنع حدوث ذلك".

تسميها غوغل "إجابة هراء"، مما يقلل من أهميتها. ولكن، ماذا كان سيحدث لو أن هذا الرد قرأه شخص مصاب بالاكتئاب، أو يعاني من مشاكل نفسية؟

طلب الذكاء الاصطناعي لشركة غوغل ، Gemini، من أحد المستخدمين أن يموت، بعد تشويه سمعته. وهذه ليست الهلوسة الأولى التي يعاني منها. قبل عام نصحت الناس بتناول الحجارة حفاظاً على صحتهم، أو وضع الغراء على البيتزا. إنها مشكلة خطيرة يبدو أن شركات الذكاء الاصطناعي لا تعرفها، أو لا تستطيع حلها.