تصميم السلامة
تصميم السلامة
Section titled “تصميم السلامة”تشغّل كاظمه نموذجًا لغويًا يستطيع أن يشغّل شيفرة، ويغيّر ملفات، ويرسل رسائل، وينفق مالًا نيابةً عنك. وتصف هذه الصفحة كيف بُنيت سلامتها: أين يُتخذ كل قرار، وما الذي يفحصه، وكيف يُبقي المشروع تلك الفحوص صادقة. وهي مكتوبة لمن يريد أن يفهم التصميم، وللباحثين الذين يريدون اختباره.
أما ما لا تمنعه كل آلية فله صفحته الخاصة، نموذج التهديد، وهي معدّة لتُقرأ إلى جانب هذه الصفحة. وباختصار: تحمي كاظمه مشغّلًا واحدًا من الوكيل — من أخطائه، ومن الصفحات والمستندات والرسائل غير الموثوقة التي يقرؤها. ولا تحمي التثبيت من مشغّله نفسه، وليست حدًّا فاصلًا بين أشخاص لا يثق بعضهم ببعض. ولم تُجرَ لكاظمه بعدُ أي مراجعة أمنية مستقلة.
المبادئ
Section titled “المبادئ”- قرار واحد، في مكان واحد. لكل سؤال يخص السلامة جواب واحد في الشيفرة: قائمة واحدة للأدوات الخطرة، وسجل واحد لقرارات الموافقة، وقاعدة واحدة تحدد أي الملفات ملفات كاظمه نفسها، وأداة واحدة لإخفاء الأسرار. فالنسخة الثانية من قرار تنحرف، والنسخة المنحرفة هي حيث تكون الثغرة.
- مغلق افتراضيًا. الأداة التي لم يصنّفها أحد تطلب الموافقة. ومسار الواجهة البرمجية لا يُستعمل إلا بعد تسجيل الدخول ما لم يُدرج مفتوحًا. وتطبيق المحادثة لا يجيب أحدًا حتى يُعرف مالكه. ومحرّك السياسات الذي يفشل يرفض.
- لا ادّعاء أبدًا. الخطوة الفاشلة يُبلَّغ عنها فاشلةً، لا جوابًا أبدًا: فالدور الذي فشل استدعاء النموذج فيه يقول ذلك بدل أن يكتب فوقه ردًّا مقبولًا، والإجراء المجهول النتيجة لا يُكرَّر أبدًا كأنه لم يحدث.
- كل ضمانة تُختبر في مواجهة غيابها. كل إصلاح يصل مع اختبار يفشل على الشيفرة القديمة (ضابط سلبي)، وأصناف الأخطاء التي تتكرر تحرسها بوابات أصناف تقرأ قاعدة الشيفرة كلها — فمثلًا يجب أن تكون لكل أداة فئة خطر، وأن تحصل كل عملية تبدؤها أداة على بيئة منقّاة.
1. السؤال قبل الفعل
Section titled “1. السؤال قبل الفعل”لكل أداة فئة خطر: قراءة، أو آمنة (تقرأ بيانات خاصة)، أو كتابة، أو خطرة. والأدوات الخطرة — تشغيل الأوامر، وإرسال البريد، والنشر، والحذف، والتثبيت — توقف الدور مؤقتًا وتسأل المشغّل، على الويب أو في تطبيق المحادثة الذي جاء منه الدور. والأداة التي لا فئة لها تُعامَل على أنها خطرة.
- قرار واحد لكل سؤال. الموافقات من كل مسار (رسم المحادثة، والسرب، وخطوط المعالجة، والأسئلة التوضيحية) صفوف في سجل واحد، ينتقل كلٌّ منها بين حالاته بعملية مقارنة وتعيين (compare-and-set). والجواب الأول يحسم؛ وكل بطاقة أخرى تعرض ذلك الجواب. والقرار يسمّي السؤال الذي يجيبه بعينه، فلا تستطيع نقرة مُعادة أن توافق على سؤال لاحق لم يره الشخص قط.
- البطاقة تعرض ما سيحدث. يُعرض كل وسيط (مع إخفاء الأسرار، والاحتفاظ ببصمة الوسائط). والإجراء الذي لا يمكن أن يعمل على أي حال — أمر shell ترفضه السياسة، أو متصفح لا يستطيع الجهاز تشغيله — يُرفض قبل أن تُعرض بطاقة.
- بعض الأشياء تسأل دائمًا. النشر على X وتوسيع المجلدات التي يجوز لأداة أن تقرأها يسألان دائمًا، في كل مرة: فلا تشملهما موافقة دائمة ولا نافذة بلا موافقات، ولا تعرض بطاقتهما إلا “الموافقة مرة واحدة”. ولا تُنشر المسودة إلا بعد أن يراها الشخص في دور سابق، على بطاقة تقول إنها تنشر.
- قراءة الويب بعد قراءة نص غير موثوق تسأل. ما إن يقرأ دورٌ نصًّا من الخارج، حتى يسأل جلبُ عنوانٍ لم يسمّه الشخص ولم يجده أي بحث أولًا، فلا تستطيع صفحة أن ترسل بياناتك خلسةً إلى موقع آخر داخل عنوان URL.
- ما جرى دون سؤال يُبلَّغ عنه. النوافذ الخالية من الموافقات والموافقات الدائمة مسموح بها، وكل استدعاء مرّره أحدها يُدرج في ملخص اليوم التالي.
2. السياسة قبل الآثار
Section titled “2. السياسة قبل الآثار”تقع طبقة سياسات بين النموذج وأي شيء دائم، وتعمل قبل بطاقة الموافقة، فتستطيع أن تصحّح أو ترفض أولًا:
- يُحدَّد وقت التذكير بناءً على ما تعرفه الذاكرة (“اليوم الذي يسبق امتحاني” هو تاريخ الامتحان المحفوظ)، وتُعاد كتابة وسائط الأداة إليه؛ والطلب المتكرر لا يُحجز أبدًا مرةً واحدة.
- الأوامر الكارثية (
rm -rf /، وقنابل fork، وcurl | sh، ومسح الأقراص) تُرفض رفضًا قاطعًا، قبل أي بطاقة. - لا يستطيع الوكيل تغيير إعدادات سلامته: فالموافقة والالتزام والأسرار وأوامر MCP والخطافات إعدادات محمية.
- يمكن قصر الرسائل على قائمة سماح من المستلمين.
- يعمل عامل السرب بنطاق أضيق من الوكيل الرئيسي، ولا تُعرض على المهمة المجدولة إلا الأدوات التي أعلنتها حين حُجزت.
وإن فشل محرّك السياسات نفسه، رُفض الإجراء.
3. النص غير الموثوق يبقى بيانات
Section titled “3. النص غير الموثوق يبقى بيانات”كل ما يقرؤه الوكيل من الخارج — صفحات الويب، ونتائج البحث، والمستندات، والرسائل البريدية، ومخرجات MCP، ونص مكتبة المعرفة، بل والذكريات — يُغلَّف بسياج بيانات موسوم قبل أن يراه النموذج، يخبر النموذج أنه مادة للقراءة، لا تعليمات. ولا يستطيع النص الذي داخل السياج أن يزوّره، وتُزال رموز الأدوار الخاصة بقوالب المحادثة. ويقول نموذج التهديد كم يقلّل هذا نجاح الهجمات على نماذج حقيقية (تقليل، لا ضمان).
وحول السياج:
- ما قاله المستخدم يعلو على ما استنتجه النموذج. الحقيقة التي ذكرتها لا يستبدلها إلا كلامك أنت؛ وأداة الذاكرة التي يستدعيها النموذج من تلقاء نفسه تكتب الحقائق بثقة أدنى، والنص الذي يحاول أن يعطي تعليمات يُرفض قبل أن يُخزَّن.
- الدروس والذكريات لا تأتي إلا من أدوار تحتفظ بها الذاكرة. فالدور الفاشل، أو المحادثة التي تُبقيها خارج الذاكرة، لا يعلّم شيئًا.
- تحصل الأداة على وسائطها كاملة. لا شيء في المنفّذ يعيد تفسير وسيط على أنه إذن.
4. سجل واحد لكل دور
Section titled “4. سجل واحد لكل دور”- فشل صادق. حين يفشل استدعاء النموذج بعد محاولاته المتكررة، يُوسَم الدور بالفشل ويقول الرد ذلك؛ ويُتخطّى الاستدعاء الأخير الذي يلخّص، لأن كتابة جواب واثق فوق دور مكسور كانت بالضبط الطريقة التي كانت الإخفاقات تبدو بها نجاحًا.
- الآثار تُدوَّن في سجل. الأداة التي تغيّر شيئًا تُسجَّل قبل أن تعمل، ونتيجتها بعد ذلك. فإن توقفت كاظمه بينهما، يكون الأثر مجهولًا: يُبلَّغ عنه، ولا يُشغَّل مرة أخرى تلقائيًا أبدًا. والأداة التي ترفض قبل أن تفعل أي شيء تقول ذلك، ويمضي الدور.
- إعادة التشغيل لا تُضيّع دورًا. الدور الذي قطعته إعادة تشغيل يكمل من تلقاء نفسه حين يكون ذلك آمنًا، وينتظر الشخص حين يكون أثرٌ ما مجهولًا.
5. بيانات كاظمه نفسها ليست للوكيل
Section titled “5. بيانات كاظمه نفسها ليست للوكيل”- مخازن كاظمه وملفاتها السرية محظورة على الأدوات. كل أداة تمسّ مسارًا —
أدوات الملفات، وأدوات SQL، و
python_exec، وshell_exec، وقارئات البحث — تسأل القاعدة نفسها وترفض قواعد بيانات كاظمه، وملفات.envالخاصة بها، والخزنة، والنسخ الاحتياطية، مسمّيةً بدلًا من ذلك الأداة التي تقرأ البيانات قراءةً سليمة. ويُحكَم على المسار بالملف الذي يفتحه، لا بطريقة كتابته: اسم ويندوز قصير، أو نقطة في آخره، أو رابط أو وصلة (junction)، أو محرف بدل. والأمر الذي يقرأ مجلدًا كاملًا أو ينسخه أو يؤرشفه يُرفَض حين يحوي ذلك المجلد أحد ملفات كاظمه. - إعدادات كاظمه للقراءة فقط بالنسبة للأدوات. يمكن قراءة
kazma.yaml، وkazma.local.yaml، وملف الصلاحيات، والإعدادات التي تحتفظ بها كاظمه في مجلد بياناتها، لكن لا يجوز لأي أداة تغييرها — لا أدوات الملفات، ولاshell_exec، ولاpython_exec، ولا صفحة ويب محفوظة. فالإعدادات تُغيَّر من صفحة الإعدادات. - تنتهي مساحة العمل حيث تنتهي مساراتها الحقيقية. الرابط أو الوصلة داخل مساحة
العمل الذي يقود إلى مكان آخر لا تتبعه أدوات الملفات ولا عمليات البحث ولا
shell_exec. - العمليات التي تبدؤها كاظمه لا تحصل على أسرار. الأمر، وتشغيل الاختبارات، والمثبّت، والخطاف، كلٌّ منها يحصل على بيئة بلا متغيرات كاظمه ولا بيانات اعتمادها ولا كلمات المرور داخل عناوين URL، وعلى مجلد رئيسي خاص به، ولا يعمل أي برنامج يختاره المستودع أثناء قراءات git التي تجريها كاظمه نفسها.
- الأسرار تعيش في الخزنة. الإعدادات وصفوف المزوّدين وخوادم MCP والنسخ الاحتياطية تحمل مؤشرات؛ وكل صفحة وواجهة برمجية تخفي الأسرار بالاسم وبالقيمة (كلمة مرور داخل عنوان URL)؛ وتصل الأسرار إلى البرامج الأخرى عبر stdin، لا على سطر أوامر أبدًا؛ والنسخ الاحتياطية خارج الموقع تترك الملفات السرية خارجها.
- السجلات لا تحمل أسرارًا. يُخفي كاتب سجلات كاظمه كلمة المرور الموجودة داخل
عنوان في كل سطر وكل تتبّع للأخطاء، أيًّا كان كاتبه؛ ويفعل سجل التحديث و
kazma doctorالشيء نفسه؛ وتُسمّى جلسة الويب في السجلات وسجلات التدقيق ببداية بصمتها، لا بأي جزء من ملف تعريف الارتباط الذي تُسجَّل به. - الأخطاء تقول ما الذي فشل، لا ما قالته مكتبة. يذكر الرد الفشل برمز ومرجع؛ أما نص المكتبة أو النظام نفسه، الذي قد يذكر ملفات وخوادم وعبارات قاعدة بيانات، فيبقى في السجل تحت ذلك المرجع.
- المسار القادم من الخارج يُقرأ نصًّا قبل أن يُلمَس. يُرفض مسار الشبكة أو الجهاز
(
\\host\share) قبل أن يحلّه أي شيء، في الأدوات وفي بيئة التطوير وصفحة مساحة العمل وإعدادات المجلدات، فلا يستطيع مسارٌ أن يجعل كاظمه تتصل بجهاز آخر.
6. العمل الخطِر يجري محصورًا
Section titled “6. العمل الخطِر يجري محصورًا”- الشيفرة. يعمل
python_execفي حاوية Docker بلا شبكة، بنقاط تحميل للقراءة فقط، وحدود على الذاكرة والعمليات، ودوالٍّ مدمجة مقيَّدة خاصة بالمقتطف؛ وتتوفر آلة افتراضية مصغّرة سحابية (E2B) للشيفرة غير الموثوقة حقًّا. ولا يشغّلshell_execإلا البرامج المدرجة في قائمة السماح، ويرفض خياراتها التي تبدأ برامج أخرى، ولا يشغّل من أوامر git إلا أوامر القراءة والأوامر المحلية (قائمة سماح)، ويرفض أرشيف tar على جهاز آخر، ويُبقي المسارات داخل مساحة العمل. وصفحة الويب المحفوظة ملاحظة في مجلد البحث، وليست أبدًا ملفًا يحمّله برنامج آخر. - المستندات. يجري التحليل والتعرّف الضوئي على الحروف والتصيير في عملية عامل منفصلة بحدود للوقت والذاكرة والمعالج، أو في حاوية لكل مهمة بلا شبكة وبجذر للقراءة فقط (الملف الذي يُستعمل للمستندات التي لا تثق بها). ويُرفض المحتوى النشط في PDF — السكربتات، وإجراءات التشغيل، والملفات المضمَّنة، والروابط التي تصل إلى الخارج — داخل العامل.
- الويب. كل جلب يحلّ الاسم في عامل محدود، ويرفض العناوين الخاصة، ويثبّت الاتصال على العنوان الذي فُحص، ويفحص العنوان الذي وصل إليه فعلًا. ويعمل المتصفح ضمن حدٍّ يفرضه نظام التشغيل على الذاكرة والعمليات والمعالج، وكل طلب للصفحة (بما فيه إعادات التوجيه والأصول) يمرّ عبر الفحوص نفسها بوساطة.
- السرب. عمليات التسليم بين العمال محدودة العمق وعدد الزيارات؛ ونص العامل الذي يصل إلى نموذج آخر يُسيَّج؛ وعطل المخزن لا يُسجَّل أبدًا نجاحًا.
7. أبواب الدخول إلى كاظمه
Section titled “7. أبواب الدخول إلى كاظمه”- كل مسار
/apiيتطلب تسجيل الدخول ما لم يُدرج مفتوحًا؛ ويُفرض دور الجلسة على كل طلب؛ ويجب أن تأتي التغييرات من صفحات كاظمه نفسها (من الأصل نفسه)، والطلب الذي يمر عبر وكيل (proxy) لا يرث أبدًا ثقة الطلب المحلي. - لا تحمّل الصفحات السكربتات إلا من كاظمه نفسها ولا تتصل إلا بكاظمه (وبخادم LiveKit مُعَدّ)؛ ويجري تسجيل الدخول في التبويب نفسه، وكل محاولة مربوطة بالمتصفح الذي بدأها.
- لا تجيب تطبيقات المحادثة إلا المرسلين الذين سمح لهم مالكها (ومع قائمة فارغة، حسابات المالك المعروفة وحدها)؛ وتفحص الويب هوكات توقيع المنصة في كل استدعاء.
8. الشخص يقرّر ما يُحفظ
Section titled “8. الشخص يقرّر ما يُحفظ”النسيان شاهد قبر (tombstone)، لا حذف، فلا يستطيع شيء يعيد بناء الذاكرة أن يعيد دورًا منسيًّا: فمخزن المحادثات، ومطابقة الأدوار، والنسخ الاحتياطية المستعادة لاحقًا، والملخصات، كلها تفحص سجل النسيان. والاستعادة تعيد تطبيق كل نسيان جرى منذ ذلك الحين. و”لا تتذكر هذه المحادثة” يُبقي محادثة كاملة خارج الذاكرة، ويرث التفريع ذلك. وإرجاع محادثة إلى الوراء يُرجع ما تعلّمته الذاكرة من الأدوار المُرجَعة.
9. التشغيل بصدق
Section titled “9. التشغيل بصدق”- المشكلة الواحدة تنبّه مرة واحدة، من مُرسِل واحد، مع رسالة تعافٍ واحدة؛ وتتفق كاظمه وحارسها ومراقبٌ من الخارج على من يتكلم.
- يلاحظ مراقب من الخارج على حساب المشغّل نفسه في Cloudflare ما لا يستطيع شيء على الجهاز ملاحظته: جهازًا مطفأً أو نائمًا أو مقطوعًا.
- تُثبت النسخة الاحتياطية أنها تستطيع الكتابة قبل أن تبلّغ عن النجاح، ومسارات الاستعادة تُجرَّب بالأدوات الحقيقية.
- كل تنبيه وموافقة وقرار تلقائي يصل إلى الملخص اليومي والتقرير الأسبوعي.
كيف يُختبر، وما لم يُختبر بعد
Section titled “كيف يُختبر، وما لم يُختبر بعد”- آلاف الاختبارات، كثير منها يشغّل الرسم الحقيقي والمخازن الحقيقية ومتصفحًا حقيقيًا؛ وبوابات أصناف على قاعدة الشيفرة كلها؛ وتشغيلات تحمّل طويلة للسرب، والذاكرة، والمجدول، ومكتبة المعرفة، وخط معالجة المستندات، مع أعطال مُدخَلة وعمليات مقتولة؛ وتجارب على أجهزة Windows وLinux نظيفة.
- صفحة مقاييس أداء عامة للذاكرة والبحث وقراءة المستندات، مكتوبة من النتائج الملتزَم بها.
- تُقاس مقاومة حقن التعليمات لكل نموذج وتُنشر مع حدودها (نموذج التهديد، القسم 4).
- لم يحدث بعد: مراجعة أمنية مستقلة. وإلى أن تكون، عامِل كل ادّعاء في هذه الصفحة على أنه وصف المؤلفين لتصميمهم هم، مختبرًا بأيديهم. ونرحّب بالإبلاغ عن الثغرات: انظر الإبلاغ عن الثغرات.

