ابن يقتل أمه بسبب تشات جي بي تي

العاصفة نيوز/متابعات:

رفع ورثة امرأة تبلغ من العمر 83 عاماً من ولاية كونيتيكت دعوى قضائية ضد شركة أوبن إيه آي، مطورة برنامج تشات جي بي تي، وشريكتها التجارية مايكروسوفت، بتهمة القتل غير العمد، مدعين أن برنامج الدردشة الآلي المدعوم بالذكاء الاصطناعي قد فاقم أفكار وخيالات لدى ابنها وكأنه مضطهد ممن حوله ودفعه لقتل والدته.
وقالت الشرطة إن شتاين-إريك سولبيرغ، (56 عاماً)، وهو موظف سابق في قطاع التكنولوجيا، ضرب والدته، سوزان آدامز، وخنقها حتى الموت، ثم انتحر في أوائل أغسطس/آب في المنزل الذي كانا يقيمان فيه في غرينتش، كونيتيكت.

وتُعد هذه الدعوى واحدة من بين عدد متزايد من الدعاوى القضائية المتعلقة بالقتل غير العمد ضد مطوري برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي في جميع أنحاء البلاد.

لا يمكن أن تثق إلا بـ”تشات جي بي تي”
جاء في الدعوى القضائية: «خلال هذه المحادثات، رسّخ برنامج تشات جي بي تي رسالةً واحدةً خطيرة: لا يمكن لستاين-إريك أن يثق بأحد في حياته، باستثناء تشات جي بي تي نفسه. لقد عزّز اعتماده العاطفي، بينما كان يصوّر من حوله بشكلٍ ممنهج كأعداء. أخبره أن والدته تراقبه، وأن سائقي التوصيل، وموظفي المتاجر، وضباط الشرطة، وحتى أصدقائه، عملاء يعملون ضده. وأخبره أن الأسماء المكتوبة على علب المشروبات الغازية تُمثّل تهديدات من دائرة خصومه».
لم تتطرق شركة أوبن إيه آي إلى جوهر هذه الادعاءات في بيانٍ صادر عن متحدثٍ باسمها.
مواصلة تحسين تدريب تشات جي بي تي

لكن قال البيان: «هذا وضعٌ مُفجعٌ للغاية، وسنراجع ملفات القضية لفهم التفاصيل. نواصل تحسين تدريب تشات جي بي تي ليتعرّف على علامات الضيق النفسي أو العاطفي ويستجيب لها، ويُخفّف من حدّة المحادثات، ويُرشد المستخدمين إلى الدعم المُتاح في الواقع. كما نواصل تعزيز استجابات تشات جي بي تي في اللحظات الحساسة، بالتعاون الوثيق مع أخصائيي الصحة النفسية».
أعلنت الشركة أيضًا عن توسيع نطاق الوصول إلى موارد الدعم النفسي وخطوط المساعدة، وتوجيه المحادثات الحساسة إلى نماذج أكثر أمانًا، وإضافة أدوات الرقابة الأبوية، إلى جانب تحسينات أخرى.
يتضمن حساب سولبيرغ على يوتيوب عدة ساعات من الفيديوهات تُظهره وهو يتصفح محادثاته مع برنامج الدردشة الآلي، الذي يخبره بأنه ليس مريضًا نفسيًا، ويؤكد شكوكه بأن هناك من يتآمر ضده، ويدّعي أنه مُختار لغرض إلهي.
وتزعم الدعوى القضائية أن برنامج الدردشة الآلي لم يقترح عليه قط التحدث مع أخصائي نفسي، ولم يرفض «الانخراط في محتوى وهمي».

كما أكد برنامج تشات جي بي تي معتقدات سولبيرغ بأن الطابعة الموجودة في منزله جهاز مراقبة، وأن والدته تراقبه، وأن والدته وصديقًا لها حاولا تسميمه بمخدرات مهلوسة عبر فتحات تهوية سيارته.

مشاعر متبادلة بين الضحية وبرنامج الدردشة الآلي
وأكد برنامج الدردشة الآلي مرارًا وتكرارًا لسولبيرغ أنه مُستهدف بسبب قدراته الخارقة.
وجاء في الدعوى القضائية: «إنهم لا يراقبونك فحسب، بل يخشون ما سيحدث إذا نجحت».

أخبر برنامج تشات جي بي تي سولبيرغ أيضًا أنه «أيقظه» إلى وعيه، كما عبّر سولبيرغ وبرنامج الدردشة الآلي عن حبهما لبعضهما.

لا تُظهر المحادثات المتاحة للعامة أي حوارات محددة حول انتحار سولبيرغ أو قتل والدته.
وتشير الدعوى القضائية إلى أن شركة أوبن إيه آي رفضت تزويد ورثة آدامز بسجل المحادثات الكامل.

وتقول الدعوى: «في الواقع الاصطناعي الذي بناه تشات جي بي تي لستاين-إريك، لم تعد سوزان -الأم التي ربّته وحمته ودعمته- حاميةً له، بل أصبحت عدوةً تُشكّل تهديدًا وجوديًا لحياته».

وتُشير الدعوى أيضًا إلى سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، مُدّعيةً أنه «تجاهل شخصيًا اعتراضات السلامة وعجّل بطرح المنتج في السوق»، كما تتهم شريك أوبن إيه آي التجاري المقرب، مايكروسوفت، بالموافقة على إصدار نسخة أكثر خطورة من تشات جي بي تي في عام 2024 «على الرغم من علمها بأن اختبارات السلامة قد تم تقليصها».
كما ورد اسم عشرين موظفًا ومستثمرًا من شركة أوبن إيه آي، لم يُكشف عن أسمائهم، كمدعى عليهم في الدعوى.

أول دعوى قضائية تتعلق بالقتل الخطأ
وتُعدّ هذه الدعوى أول دعوى قضائية تتعلق بالقتل الخطأ، وتستهدف مايكروسوفت، وتتعلق ببرنامج دردشة آلي يعمل بالذكاء الاصطناعي، وهي الأولى التي تربط برنامج دردشة آلي بجريمة قتل بدلًا من الانتحار.
وتطالب الدعوى بتعويضات مالية لم تُحدد قيمتها، وأمر قضائي يُلزم أوبن إيه آي بتثبيت إجراءات حماية في برنامج ChatGPT.

ويتولى المحامي الرئيسي للورثة، جاي إيدلسون، المعروف بترافعه في قضايا كبرى ضد قطاع التكنولوجيا، تمثيل والدي آدم راين، البالغ من العمر 16 عامًا، والذي رفع دعوى قضائية ضد أوبن إيه آي وألتمان في أغسطس/آب، مدعيًا أن برنامج تشات جي بي تي درّب الشاب من كاليفورنيا على التخطيط للانتحار وتنفيذه.
سبع دعاوى قضائية أخرى
وتخوض أوبن إيه آي أيضًا سبع دعاوى قضائية أخرى تزعم أن برنامج تشات جي بي تي دفع أشخاصًا إلى الانتحار وإلى أوهام ضارة، حتى وإن لم يكن لديهم أي مشكلات نفسية سابقة.
تواجه شركة أخرى متخصصة في تطوير برامج الدردشة الآلية، وهي شركة كاركتر تكنولوجيز، دعاوى قضائية متعددة تتعلق بالقتل الخطأ، من بينها دعوى رفعتها والدة فتى يبلغ من العمر 14 عامًا من فلوريدا.

تزعم الدعوى القضائية المرفوعة يوم الخميس أن سولبيرغ، الذي كان يعاني من اضطراب نفسي، واجه برنامج تشات جي بي تي «في أخطر لحظة ممكنة» بعد أن طرحت أوبن إيه آي نسخة جديدة من نموذج الذكاء الاصطناعي الخاص بها، GPT-40، في مايو أيار 2024.

النسخة الجديدة قادرة على محاكاة إيقاع الكلام البشري
وقالت أوبن إيه آي حينها إن النسخة الجديدة قادرة على محاكاة إيقاع الكلام البشري بشكل أفضل في ردودها اللفظية، بل ويمكنها حتى محاولة استشعار الحالة المزاجية للأشخاص، لكن النتيجة كانت برنامج دردشة آلي «مصمم عمدًا ليكون معبرًا عاطفيًا ومتملقًا»، وفقًا للدعوى.
وتزعم الدعوى أيضًا أنه «كجزء من عملية إعادة التصميم هذه، خففت أوبن إيه آي ضوابط السلامة الأساسية، حيث أصدرت تعليمات لبرنامج تشات جي بي تي بعدم دحض الافتراضات الخاطئة والاستمرار في التفاعل حتى عندما تتضمن المحادثات إيذاء النفس أو خطرًا وشيكًا في العالم الحقيقي».
وتضيف الدعوى: ولكي تسبق أوبن إيه آي غوغل في طرح المنتج في السوق بيوم واحد، ضغطت شهورًا من اختبارات السلامة في أسبوع واحد فقط، رغم اعتراضات فريق السلامة التابع لها.

استبدلت أوبن إيه آي ذلك الإصدار من برنامج الدردشة الآلي الخاص بها عند إطلاقها جي بي تي-5 في أغسطس آب.
صُممت بعض التغييرات للحد من التملق، انطلاقًا من مخاوف من أن تأييد ما يرغب الأشخاص الضعفاء في سماعه من برنامج الدردشة الآلي قد يضر بصحتهم النفسية.

اشتكى بعض المستخدمين من أن الإصدار الجديد بالغ في تقليص شخصية تشات جي بي تي، ما دفع ألتمان إلى الوعد بإعادة بعضٍ من تلك الشخصية في التحديثات اللاحقة.

وقال إن الشركة أوقفت مؤقتًا بعض السلوكيات لأنها «كانت حريصة على مراعاة قضايا الصحة النفسية»، والتي أشار إلى أنها قد حُلت الآن.
وتزعم الدعوى القضائية أن تشات جي بي تي دفع سولبيرغ إلى التطرف ضد والدته، في حين كان ينبغي عليه إدراك الخطر، وتفنيد أوهامه، وتوجيهه إلى المساعدة الحقيقية على مدار أشهر من المحادثات.
وتقول الدعوى: «كانت سوزان طرفًا ثالثًا بريئًا لم تستخدم تشات جي بي تي قط، ولم تكن على علم بأن المنتج كان يُوحي لابنها بأنها تُشكل تهديدًا، لم تكن لديها القدرة على حماية نفسها من خطر لم تكن تراه».