قد يكون السبب في أن ذكاء روبوت الدردشة ChatGPT بدأ في الانخفاض محاولات مطوريه تحسينه وتوجيهه نحو إصدار إجابات لا تتعارض مع قواعد الأخلاق.
وذلك في إطار تحقيق برنامج “لا لإلحاق ضرر”.
أعلن ذلك مدير الذكاء الاصطناعي والمنتجات الرقمية في شركة “بيلاين” الروسية كونستانتين رومانوف.
وقد نُشر في وقت سابق في مجلة Decrypt مقال عرض نتائج دراسة قام بها العلماء من “ستانفورد” و”بيركلي”. وجاء في المقال أنه بالنسبة لفئات معينة من الأسئلة، انخفضت بشكل ملحوظ جودة الإجابات عليها تلك التي تم تقديمها في يونيو الماضي من قبل الإصداريْن 4 و 3.5 من روبوت الدردشة ChatGPT، مقارنة بمارس الماضي.
بينما استبعد الخبير فرضية التدهور المتعمد لـ ChatGPT.
وأعاد الخبير إلى الأذهان أن “الشبكات” يتم إتقانها باستمرار، ونحن نشهد نتائج عمليات إعادة التدريب والتحسين. وربما في ضوء الأحداث الأخيرة والحديث عن التسامح مع الإجابات، كانت عملية التحسين التي أجرتها الشركة أكثر توجها في هذا المسار ليقدم الإصدار الجديد المزيد من المعلومات المؤكدة التي لا تتعارض مع القوانين وقواعد الأخلاق، أي أن التحسين كان يهدف إلى تنفيذ مفهوم “عدم إلحاق الضرر”. وفي الوقت نفسه، يمكننا من خلال التدريب الإضافي الموجه للشبكة العصبية، ملاحظة التدهور عند الإجابة على فئة منفصلة من الأسئلة”.
وأكد أن هذا أمر منطقي، حيث يتم تدريب النموذج وفقا للمهام المطلوب حلها. وقال إن الأمر يرجع إلى أن كل الشبكات العصبية، وحتى ChatGPT، لديها عدد محدود من المَعلمات للتدريب. ولا يمكنك تغيير بنية الشبكة العصبية لجعلها أفضل في كل شيء”.
وقال رومانوف أيضا: من أجل فهم ما إذا كان التحسين قد تم بالفعل من مارس إلى يونيو، يكفي لك أن تطرح على روبوت الدردشة ChatGPT أسئلة حول الأحداث الأخيرة ومقارنة الإجابات، وعلى سبيل المثال، أسئلة حول رحيل إيلون ماسك من منصب الرئيس التنفيذي لشركة “تويتر” أو تحطم الغواصة المأهولة “تيتان” في أعماق البحار.
يذكر أن شبكة ChatGPT اكتسبت شعبية بعد إطلاقها في أواخر نوفمبر الماضي وحصدت أول مليون من المستخدمين لها في أقل من أسبوع. ويعتبر الروبوت ملكية لشركة OpenAI. وكان أحد مؤسسيه عام 2015 الملياردير الأمريكي إيلون ماسك، الذي قطع العلاقات فيما بعد مع الشركة الناشئة.
