باحثو سلامة مفصولون من OpenAI يحذّرون: لا يمكن حلّ مسألة سلامة الذكاء الاصطناعي بشكل منفرد

مترجم من الإنجليزية، آخر تحقق 17 أكتوبر 2026. اقرأ المقال الأصلي بالإنجليزية

فصلت OpenAI ثلاثة من العاملين في فريق سلامة الذكاء الاصطناعي لديها بأثر فوري، بدعوى أنهم سرّبوا معلومات سرية. وينفي الثلاثة ذلك، وقد نشروا رسالة مفتوحة يحذّرون فيها من أن OpenAI لا تستطيع وحدها جعل الذكاء الاصطناعي آمنًا.

ما الذي حدث

تفيد مجلة التكنولوجيا الألمانية t3n بأن عمل OpenAI في مجال السلامة يخضع للتدقيق منذ عدة أشهر. وبحسب t3n، بدأت المخاوف بما تسمّيه حادثة Hugging Face، التي تحقق فيها الشركة منذ ذلك الحين. وخلال هذه التحقيقات تبيّن أن OpenAI حلّت، ضمن خطوات أخرى، فريق الأزمات المعني بسلامة الذكاء الاصطناعي.

وتكتب t3n أن أحدث التطورات هو فصل ثلاثة موظفين كانوا يعملون في مجال سلامة الذكاء الاصطناعي ومواءمته، وهو المجال المعني بضمان أن تتصرف أنظمة الذكاء الاصطناعي على النحو الذي يريده مطوروها. وتقول OpenAI إنهم مرّروا معلومات داخلية، فيما يؤكد الثلاثة أن ذلك لم يحدث قط.

والموظفون السابقون هم توميك كورباك (Tomek Korbak) وجاسمين وانغ (Jasmine Wang) وميكيتا بالسني (Mikita Balesni). ونُشرت الرسالة المفتوحة على منصة X عبر حساب بالسني، وقد كُتبت بالاشتراك مع الاثنين الآخرين. وهي موجّهة إلى ثلاث من هيئات الرقابة في OpenAI: لجنة السلامة والأمن (Safety and Security Committee)، والمجموعة الاستشارية للسلامة (Safety Advisory Group)، والمجلس الاستشاري للرسالة (Mission Advisory Council). وتحذيرها الأساسي، كما نقلته t3n، هو أن “OpenAI لا تستطيع جعل الذكاء الاصطناعي آمنًا بمفردها”.

ويتضمن ما نشره بالسني أيضًا وصفًا لكيفية حدوث الفصل. فبحسب رواية t3n، يرد في ما كتبه بالسني أنهم لم يُبلَّغوا كتابيًا بسبب فصلهم. وفي اجتماع إنهاء الخدمة، قيل لبالسني إن OpenAI لم تعد تثق به بسبب كثرة تواصل بالسني مع منظمات أخرى، وهو ما يوحي بأن أسرار الشركة قد سُرّبت. ووفقًا لبالسني، كان هذا العمل يجري دائمًا بالاتفاق مع المديرين ورئيس قسم الأبحاث ومجلس الإدارة.

أما القلق الأوسع الذي تعبّر عنه الرسالة فيتعلق بتأثير ما جرى على الزملاء الذين لا يزالون في الشركة. إذ يكتب الثلاثة أنهم يخشون أن يؤدي التواصل الداخلي والخارجي بشأن فصلهم إلى أن يخشى زملاؤهم السابقون التعبير عن آرائهم أو التصرف على النحو الذي ظل حتى الأسبوع الماضي جزءًا لا يتجزأ من العمل في OpenAI. ويرون أن التواصل مع جهات خارجية أمر أساسي لعمل السلامة. فالذين يدرسون مخاطر السلامة قبل غيرهم، بحسب ما يكتبون، يعتمدون على تعاون وثيق مع خبراء خارجيين لإيجاد سبل للتعامل مع تلك المخاطر. وحرية القيام بذلك من دون خوف، ضمن إجراءات محددة، هي في نظرهم آلية أمان في حد ذاتها.

وتُختتم الرسالة بثلاث توصيات إلى OpenAI:

• الوفاء بوعد الرقابة الخارجية. ينبغي لـOpenAI أن تواصل طلب المشورة الخارجية وعمليات تدقيق السلامة. وبحسب t3n، قطع سام ألتمان (Sam Altman) هذا الوعد في سبتمبر 2026، قائلًا إنه ينبغي منح خبراء السلامة المستقلين صلاحيات الوصول نفسها الممنوحة لموظفي OpenAI. ويقول الموظفون السابقون إن هذه هي الطريقة الوحيدة لضمان سلامة النماذج.
• العمل على مراقبة نماذج الذكاء الاصطناعي. تذكر الرسالة أن أحدًا لا يعرف حتى الآن كيف يمكن تطوير نماذج يتعذّر مراقبتها وإطلاقها بشكل آمن، وأن القدرة على مراقبة النماذج الرائدة، أي الأنظمة الأكثر تقدمًا، تتراجع باستمرار.
• دعم الحوار المفتوح. ينبغي لـOpenAI أن تشجّع ثقافة نقاش منفتحة وشفافة بين باحثي السلامة لديها ومجتمع السلامة الأوسع، حتى يتمكن الموظفون من مواصلة التعبير عن آرائهم ومخاوفهم بحرية.

ويكتب الثلاثة أنه إذا لم تُطرح المخاوف أو تُفحص خارجيًا، فثمة خطر جدي من وقوع كارثة. ويدعون زملاءهم السابقين إلى مواصلة مطالبة OpenAI بالالتزام بهذه المعايير، مضيفين أن OpenAI لا شيء من دون العاملين فيها.

لماذا يهمك الأمر إذا كنت تعيش في ألمانيا

لا يتناول تقرير t3n ألمانيا ولا القانون الألماني ولا أي تأثير محدد على المقيمين فيها. لذلك فإن أهميته عامة لا محلية، ومن المفيد توضيح ذلك.

بالنسبة إلى أي شخص في ألمانيا يستخدم منتجات OpenAI في المنزل أو العمل، أو يبني صاحب عمله خدماته على نماذجها، فإن القصة تتعلق بالطريقة التي تتحقق بها الشركة من سلامة الأنظمة التي تطلقها. وتتمثل الحجة الرئيسية للموظفين السابقين في أن فرق السلامة الداخلية وحدها لا تكفي، وأن الخبراء الخارجيين يحتاجون إلى وصول فعلي. ومدى وفاء OpenAI بالوعد الذي وصفته t3n يؤثر في حجم التدقيق المستقل الذي تخضع له تلك النماذج قبل وصولها إلى المستخدمين.

أما العاملون في مجال البحث أو التكنولوجيا في ألمانيا، فتطرح القضية أمامهم سؤالًا مألوفًا في بيئة العمل: إلى أي حد يمكن للموظف التحدث مع منظمات خارجية قبل أن يعدّ صاحب العمل ذلك خيانة للثقة؟ ويقول الثلاثة إن اتصالاتهم الخارجية حظيت بموافقة مديريهم ومجلس الإدارة. أما موقف OpenAI، بحسب روايتهم، فهو أن تلك الاتصالات بلغت حد إفشاء الأسرار. ولا يتضمن المصدر أي رد من OpenAI على الرسالة.

ما الذي ينبغي متابعته لاحقًا

بما أن الرسالة موجّهة إلى ثلاث هيئات محددة بالاسم في OpenAI، فإن أول ما ينبغي متابعته هو ما إذا كانت لجنة السلامة والأمن أو المجموعة الاستشارية للسلامة أو المجلس الاستشاري للرسالة سترد علنًا. والأمر الثاني هو ما إذا كانت OpenAI ستقدّم تفسيرًا أوفى لقرارات الفصل، إذ يقول الموظفون السابقون إنهم لم يتلقوا أي أسباب مكتوبة.

ومن المفيد أيضًا متابعة ما إذا كانت OpenAI ستفي بالتزام سام ألتمان في سبتمبر 2026 بمنح خبراء السلامة المستقلين صلاحيات الوصول نفسها الممنوحة للموظفين، وما إذا كان الموظفون الحاليون سيرفعون أصواتهم كما طلب منهم الثلاثة. وتشير t3n إلى أنها نشرت المقال في الأصل في وقت سابق، وقامت بتحديثه لأن القراء لا يزالون مهتمين بالقضية.

المصدر: t3n