- لماذا يحتاج وكلاء المتصفح واستخدام الكمبيوتر إلى صندوق رمل
- ما يجب عزله في جلسة المتصفح
- كيفية التعامل مع ملفات تعريف الارتباط والحسابات وبيانات الاعتماد
- كيفية احتواء التنزيلات والملفات وبيانات الحافظة
- كيفية تسجيل إجراءات DOM ولقطات الشاشة ومسارات إعادة التشغيل
- كيفية تعيين حدود الشبكة والموافقة وإعادة الضبط
- كيف يتوافق صندوق رمل Novita Agent مع هذا التقييم
- قائمة التحقق لصندوق رمل المتصفح واستخدام الكمبيوتر
- الأسئلة الشائعة
- مقالات مقترحة
يجب أن تعزل صناديق الرمل للمتصفح واستخدام الكمبيوتر الجلسات ونظام الملفات والتنزيلات وبيانات الاعتماد وملفات تعريف الارتباط والوصول إلى الشبكة وإجراءات الأدوات ولقطات الشاشة والتسجيلات والسجلات وحالة إعادة الضبط بحيث لا يستطيع وكلاء الذكاء الاصطناعي توسيع حدود الثقة الخاصة بهم بصمت أثناء تشغيل مواقع الويب والتطبيقات والملفات.
لماذا يحتاج وكلاء المتصفح واستخدام الكمبيوتر إلى صندوق رمل
يختلف وكلاء استخدام المتصفح واستخدام الكمبيوتر عن روبوتات المحادثة العادية. فهم لا يقتصرون على الإجابة على سؤال؛ بل ينقرون، ويكتبون، ويحملون الملفات، ويقرؤون صفحات الويب، ويملؤون النماذج، وأحيانًا يشغلون بيئة كاملة تشبه سطح المكتب. وهذا يجعل وقت التشغيل جزءًا من النموذج الأمني.
يمكن للمساعد النصي فقط أن ينتج إجابة سيئة. أما وكيل المتصفح أو استخدام الكمبيوتر فيمكنه اتخاذ إجراء سيئ. قد يرسل نموذجًا، أو يسرب ملف تعريف ارتباط جلسة إلى سجل، أو يحمل ملفًا غير آمن، أو يكتب فوق مساحة عمل، أو يتبع حقنًا فوريًا مخفيًا في صفحة ويب، أو يستخدم بيانات اعتماد في سياق لا ينبغي أن تكون متاحة فيه.
صندوق الرمل هو المكان الذي تُقيَّد فيه تلك الإجراءات. يجب أن يجيب عن أسئلة عملية مثل:
- ما الحساب الذي سجل المتصفح الدخول إليه؟
- ما الملفات التي يمكن للوكيل قراءتها أو كتابتها؟
- أي النطاقات يمكن للوكيل الاتصال بها؟
- أي ملفات تعريف الارتباط والرموز المميزة تستمر بعد المهمة؟
- أي النقرات والأوامر ولقطات الشاشة وتغييرات الملفات يمكن مراجعتها لاحقًا؟
- ما الذي يُدمر عندما تنتهي المهمة؟
الهدف ليس التظاهر بأن صندوق الرمل يزيل كل المخاطر. الهدف هو جعل بيئة تشغيل الوكيل ضيقة، قابلة للمراقبة، وقابلة لإعادة الضبط. عندما يتخذ النموذج أو الأداة القرار الخاطئ، يجب أن يقتصر نطاق الانفجار على الجلسة والموارد التي تعرض لها عمدًا.
ما يجب عزله في جلسة المتصفح
ابدأ بملف تعريف المتصفح. لا ينبغي لوكيل المتصفح استخدام ملف التعريف اليومي للمطور، أو الإضافات الشخصية، أو كلمات المرور المحفوظة، أو ملفات تعريف الارتباط الثابتة، أو دليل التنزيلات غير المُدار. امنح كل مهمة أو مستخدم أو سير عمل حدود ملف تعريف خاص به ما لم يكن هناك سبب متعمد لمشاركة الحالة.
على الأقل، قم بتقييم ما إذا كان صندوق الرمل يفصل بين:
| الحدود | ما قد يحدث خطأ بدونها | ما يجب التحقق منه |
|---|---|---|
| ملف تعريف المتصفح | يرث الوكيل عمليات تسجيل دخول وإضافات وملفات تعريف ارتباط وملء تلقائي وسجل تصفح غير مرتبط به. | ملفات تعريف لكل مهمة أو مستخدم، قواعد صريحة للاستمرارية، ضوابط للإضافات. |
| دورة حياة الجلسة | تغير حالة مهمة سابقة نتيجة المهمة التالية. | إنشاء جلسة جديدة، استعادة لقطة، تنظيف، وسلوك انتهاء الصلاحية. |
| علامات التبويب والنوافذ | يقرأ الوكيل أو ينقر على محتوى من السياق الخاطئ. | نطاق علامات التبويب، تتبع النافذة النشطة، وسجلات الأحداث. |
| تخزين المتصفح | يستمر LocalStorage و IndexedDB وذاكرة التخزين المؤقت وعمال الخدمة بحالة حساسة. | إعادة تعيين التخزين، قواعد التصدير، تنظيف محدد النطاق. |
| التنزيلات | تصل الملفات من الويب إلى دليل مشترك. | مجلد تنزيل معزول، سياسة نوع الملف، سير عمل فحص البرامج الضارة عند الحاجة. |
تعامل مع المتصفح كمساحة عمل، وليس كغلاف واجهة مستخدم يمكن التخلص منه. تحافظ تطبيقات الويب الحديثة على حالة مهمة في ملفات تعريف الارتباط، والتخزين المحلي، وذاكرة التخزين المؤقت، وعمال الخدمة، والطلبات الخلفية، والملفات التي تم تنزيلها. إذا كان صندوق الرمل يفتح نافذة متصفح فقط دون تحديد ما يحدث لتلك الحالة، فإن حدود العزل غير مكتملة.
بالنسبة لبيئات استخدام الكمبيوتر، يمتد نفس المبدأ إلى ما وراء المتصفح. قد يتفاعل الوكيل مع محطة طرفية، أو مدير ملفات، أو محرر مستندات، أو خادم معاينة محلي، أو تطبيق واجهة مستخدم رسومية. تحتاج تلك البيئة إلى دليل رئيسي محدد النطاق، ونقاط تحميل واضحة، وطريقة لفصل مخرجات المهمة عن داخلية وقت التشغيل.
كيفية التعامل مع ملفات تعريف الارتباط والحسابات وبيانات الاعتماد
غالبًا ما تكون ملفات تعريف الارتباط والحسابات المسجلة الدخول هي الجزء الأكثر حساسية في أتمتة المتصفح. يمكن لوكيل المتصفح الذي لديه جلسة صالحة تنفيذ أي شيء يسمح به الحساب، حتى لو لم ير النموذج كلمة المرور الأولية.
استخدم حسابًا منفصلاً لعمل الوكيل حيثما أمكن. يجب أن يكون للحساب الحد الأدنى من الأذونات اللازمة لسير العمل، ويجب أن يوضح صندوق الرمل ما إذا تم حقن ملفات تعريف الارتباط، أو إنشاؤها أثناء تسجيل الدخول، أو استمرارها بين مرات التشغيل، أو إتلافها بعد الإكمال.
يتطلب التعامل مع بيانات الاعتماد قاعدة أكثر صرامة: لا تعطِ الوكيل أبدًا أسرارًا واسعة النطاق لمجرد أن موقع ويب قد يطلبها. يُفضل الرموز المميزة المحددة النطاق والمحددة زمنيًا؛ وبيانات الاعتماد الخاصة بسير العمل؛ والوصول الوسيط حيث يستدعي الوكيل أداة ضيقة بدلاً من قراءة سر خام. إذا كان يجب أن يكون السر متاحًا داخل صندوق الرمل، فقرر ما إذا كان يظهر كمتغير بيئة، أو ملف مركب، أو بيانات اعتماد متصفح، أو قدرة أداة فقط.
انتبه لهذه الأنماط المعاكسة:
- ملف تعريف متصفح مشترك مع ملفات تعريف ارتباط شخصية أو إدارية.
- أسرار تُلصق في صفحة بواسطة النموذج دون موافقة.
- مفاتيح API متاحة لجميع الأدوات في صندوق الرمل.
- ملفات تعريف ارتباط الجلسة الملتقطة في لقطات شاشة كاملة الصفحة أو سجلات التصحيح.
- الملء التلقائي للنماذج مفعل لحسابات الإنتاج.
- بيانات اعتماد طويلة العمر تُترك في الملفات التي تم تنزيلها، أو تاريخ الصدفة، أو تخزين المتصفح.
تسلط إرشادات OWASP لتطبيقات LLM الضوء على حقن الفوري والوكالة المفرطة كمخاطر متكررة في الأنظمة الوكيلة. بالنسبة لوكلاء المتصفح، تلتقي تلك المخاطر بالويب مباشرة: يمكن أن تحتوي الصفحة على تعليمات تحاول التأثير على النموذج، وقد يكون للنموذج أدوات تنفذ إجراءات حقيقية. يمنحك العزل خط دفاع ثانٍ عندما لا يكفي اتباع التعليمات.
كيفية احتواء التنزيلات والملفات وبيانات الحافظة
التنزيلات هي حدود ثقة. قد يحفظ وكيل المتصفح ملفات PDF، وجداول بيانات، وأرشيفات، ولقطات شاشة، وفواتير، وقطع بناء، وملفات قابلة للتنفيذ. يجب أن تصل تلك الملفات إلى دليل مملوك لصندوق الرمل، وليس إلى مجلد سطح مكتب مشترك أو مساحة عمل إنتاجية.
يجب أن تغطي سياسة التنزيل العملية ما يلي:
- أنواع الملفات المسموح بها والحد الأقصى لحجم الملف.
- ما إذا كان يمكن فتح الملفات التي تم تنزيلها تلقائيًا.
- ما إذا كان يمكن تحميل الملفات إلى موقع آخر.
- كيفية فحص الملفات أو تجزئتها أو تسجيلها.
- ما الملفات التي يتم تصديرها من صندوق الرمل في نهاية التشغيل.
- كيفية حذف الملفات المؤقتة.
بالنسبة لوكلاء استخدام الكمبيوتر، تكون حدود الملفات أكثر أهمية لأن الوكيل قد ينشئ أو يعدل ملفات محلية كجزء من المهمة. قد يقوم وكيل البرمجة بتحرير مستودع. قد يقوم وكيل البيانات بإنشاء رسوم بيانية. قد يقوم وكيل المتصفح بتنزيل CSV، وتحويله، وتحميل النتيجة. يجب أن يكون كل مسار صريحًا: أين تصل المدخلات، وأين تعيش ملفات العمل، وأين يتم تصدير المخرجات المعتمدة، وما الذي يتم مسحه.
يستحق الوصول إلى الحافظة قراره الخاص. إنه مناسب لأتمتة واجهة المستخدم الرسومية، لكنه يمكن أيضًا نقل نص حساس بين تطبيقات غير مرتبطة. إذا كان الوكيل يستطيع قراءة الحافظة، فقد يرى رمزًا مميزًا نسخه إنسان قبل ثوانٍ. إذا كان يستطيع الكتابة على الحافظة، فقد يؤثر على إجراء اللصق التالي للإنسان. في سير العمل الحساس، اجعل الوصول إلى الحافظة محليًا للجلسة أو يتطلب موافقة صريحة قبل عبور حدود الإنسان-صندوق الرمل.
تفاعل الشاشة له مشكلة مماثلة. يعمل وكلاء استخدام الكمبيوتر من لقطات الشاشة، وأشجار إمكانية الوصول، أو حالة واجهة المستخدم المقدمة. يمكن أن تتضمن لقطات الشاشة بيانات خاصة، وأسماء حسابات، ورموزًا مميزة، ونص مستند، أو سجلات العملاء. قرر ما إذا كانت لقطات الشاشة محفوظة، أو محررة، أو مرسلة إلى مزود النموذج، أو مخزنة لإعادة التشغيل. لا تعاملها كصور تصحيح غير ضارة.
كيفية تسجيل إجراءات DOM ولقطات الشاشة ومسارات إعادة التشغيل
يجب أن يجعل صندوق رمل المتصفح الإجراءات قابلة للمراجعة. عندما ينقر الوكيل على زر أو يرسل نموذجًا، يجب أن يتمكن فريق الأمان أو المطور من إعادة بناء ما حدث دون تخمين بناءً على النتيجة النهائية.
لأتمتة المتصفح، تتضمن السجلات المفيدة ما يلي:
- عنوان URL والأصل الذي تمت زيارته.
- محدد DOM أو هدف إمكانية الوصول المستخدم لكل إجراء.
- النص المكتوب، مع تحرير الأسرار.
- أحداث إرسال النموذج.
- التنزيلات التي بدأت واكتملت.
- طلبات الشبكة على مستوى النطاق أو نقطة النهاية.
- أخطاء وحدة التحكم وأخطاء الصفحة.
- نقاط تفتيش لقطة الشاشة قبل أو بعد الخطوات الحساسة.
لأتمتة استخدام الكمبيوتر، أضف استدعاءات الأدوات، وبدء العمليات، وأوامر الصدفة، وقراءة وكتابة الملفات، وتغييرات تركيز النافذة، والمخرجات المصدرة. يجب أن يميز السجل بين ما طلبه النموذج، وما نفذته طبقة الأتمتة، وما أعادته البيئة. يهم هذا التمييز عند تصحيح حقن الفوري، أو سلوك واجهة المستخدم المتقلب، أو خطأ في غلاف الأداة.
إعادة التشغيل مفيدة، لكنها تغير سؤال الاحتفاظ بالبيانات. قد يتضمن مسار إعادة التشغيل الكامل لقطات شاشة، ونص صفحة، ومحتوى نموذج، وأسماء ملفات، ومخرجات طرفية، وبيانات اعتماد ما لم يتم تضمين التحرير. قرر مسبقًا من يمكنه الوصول إلى عمليات إعادة التشغيل، ومدة الاحتفاظ بها، وما إذا كانت القيم الحساسة مقنعة قبل التخزين.
يعتمد المستوى المناسب من التفاصيل على سير العمل. قد يحتاج وكيل مراقبة الأسعار العام إلى سجلات خفيفة. يحتاج الوكيل الذي يلمس حسابات العملاء، أو صفحات الفواتير، أو وحدات تحكم البنية التحتية، أو الأدوات الداخلية إلى مسارات تدقيق أقوى وضوابط احتفاظ أكثر صرامة.
كيفية تعيين حدود الشبكة والموافقة وإعادة الضبط
الوصول إلى الشبكة هو المكان الذي يمكن أن يتوسع فيه صندوق رمل المتصفح بهدوء. قد تبدأ المهمة بموقع ويب واحد، ثم تحمل نصوصًا من جهات خارجية، وتتبع عمليات إعادة التوجيه، وتستدعي واجهات برمجة التطبيقات، وتنزل حزمًا، أو تصل إلى النطاقات الداخلية. إذا كان صندوق الرمل لديه وصول واسع النطاق للخارج، يمكن للوكيل نقل البيانات إلى أماكن لم يتوقعها مالك التطبيق.
بالنسبة لوكلاء المتصفح واستخدام الكمبيوتر، ضع في اعتبارك:
- قوائم السماح بالنطاقات للوجهات المتوقعة على الويب.
- حظر خدمات البيانات الوصفية الداخلية ونطاقات الشبكة الخاصة.
- سياسة منفصلة لسجلات الحزم، وتخزين الكائنات، والبحث على الويب.
- تسجيل DNS حيث تتطلب مراجعة الأمان ذلك.
- سجلات الخروج التي يمكن ربطها بجلسة ومهمة.
يجب أن تأتي الموافقة البشرية أمام الإجراءات التي يصعب التراجع عنها أو ذات مغزى قانوني. تتضمن الأمثلة شراء المشتريات، وإرسال الرسائل، وتغيير إعدادات الحساب، وحذف الملفات، وتدوير بيانات الاعتماد، ودعوة المستخدمين، وفتح تذاكر الدعم، أو تحميل بيانات العملاء. يجب أن يلتقط حدث الموافقة ما ينوي الوكيل فعله، والصفحة أو الملف المعني، والإجراء المحدد الذي تمت الموافقة عليه.
سلوك إعادة الضبط هو الحدود النهائية. يجب أن يجعل صندوق الرمل الجيد من الواضح ما يحدث عندما تنتهي المهمة:
| الحالة | سؤال إعادة الضبط |
|---|---|
| ملفات تعريف ارتباط المتصفح | هل يتم إتلافها، أو استمرارها، أو عمل نقطة تفتيش لها؟ |
| تخزين المتصفح | هل يتم مسح ذاكرة التخزين المؤقت، والتخزين المحلي، و IndexedDB، وحالة عامل الخدمة؟ |
| التنزيلات | هل يتم حذف الملفات، أو الاحتفاظ بها للمراجعة، أو تصديرها إلى موقع خاضع للتحكم؟ |
| بيانات الاعتماد | هل يتم إبطال الرموز، أو تدويرها، أو إزالتها من البيئة؟ |
| السجلات وإعادة التشغيل | ما الذي يتم الاحتفاظ به، وتحريره، ولمدة؟ |
| الوصول إلى الشبكة | هل تتم إزالة قوائم السماح المؤقتة أو بيانات اعتماد الوكيل؟ |
| نظام الملفات | هل يتم مسح مساحة العمل، أو عمل لقطة لها، أو إعادة استخدامها؟ |
الجلسات المستمرة مفيدة للوكلاء طويلي الأمد، لكن الاستمرارية يجب أن تكون متعمدة. إذا بقي ملف تعريف متصفح، أو نظام ملفات، أو حالة عملية عبر عمليات التشغيل، فوثق سبب استمرارها ومن يمكنه إعادة تعيينها.
كيف يتوافق صندوق رمل Novita Agent مع هذا التقييم
صندوق رمل Novita Agent مصمم لتشغيل أعباء عمل وكلاء الذكاء الاصطناعي في بيئات سحابية معزولة. تصف صفحة المنتج دعم تنفيذ التعليمات البرمجية، واستخدام المتصفح، واستخدام الكمبيوتر، والجلسات المستمرة، وعرض الجلسة المباشرة، والقوالب القابلة لإعادة الاستخدام. توضح وثائق البدء السريع لصندوق رمل Novita Agent كيف يمكن للمطورين إنشاء صندوق رمل، وتشغيل الأوامر، والعمل مع الملفات، وإدارة صندوق رمل عبر SDKs.
تلك الإمكانيات تجعل Novita ذات صلة عندما تقوم بتقييم سير عمل وكلاء المتصفح، وكلاء البرمجة، تحليل البيانات، والوكلاء طويلي الأمد. لا يزال التقييم بحاجة إلى أن يكون محددًا لنموذج التهديد الخاص بك. قبل استخدام أي مزود صندوق رمل لأتمتة المتصفح أو استخدام الكمبيوتر الحساسة، تأكد من السلوك الدقيق الذي تحتاجه فيما يتعلق بملفات تعريف المتصفح، وملفات تعريف الارتباط، وحقن بيانات الاعتماد، وخروج الشبكة، والاحتفاظ بلقطات الشاشة، وتصدير الملفات، والسجلات، ودلالات إعادة الضبط.
بالنسبة للفرق التي تستخدم بالفعل نماذج Novita AI، فإن الميزة العملية هي الملاءمة التشغيلية: يمكن تخطيط الاستدلال وتنفيذ الوكيل داخل نفس منصة البناء بدلاً من معاملتها كقرارات بنية تحتية منفصلة. ومع ذلك، احتفظ بادعاءات المنتج منفصلة عن افتراضات الأمان. يمكن لصندوق الرمل توفير عزل مفيد وضوابط دورة حياة، لكن تطبيقك لا يزال بحاجة إلى حسابات ذات امتيازات أقل، وبيانات اعتماد محددة النطاق، وبوابات موافقة، وقواعد تدقيق للإجراءات التي ينفذها وكيلك.
قائمة التحقق لصندوق رمل المتصفح واستخدام الكمبيوتر
استخدم قائمة التحقق هذه قبل منح الوكيل حق الوصول إلى موقع ويب حقيقي أو حساب أو مساحة عمل تشبه سطح المكتب.
| المجال | سؤال التقييم |
|---|---|
| الجلسة | هل تحصل كل مهمة على ملف تعريف متصفح أو مساحة عمل معزولة؟ |
| الحسابات | هل يستخدم الوكيل حسابًا بأقل امتياز بدلاً من الحساب الرئيسي للإنسان؟ |
| ملفات تعريف الارتباط | هل ملفات تعريف الارتباط محددة النطاق، ومستمرة عن قصد، وممسوحة عند إعادة الضبط؟ |
| بيانات الاعتماد | هل الأسرار محددة النطاق، ومحددة زمنيًا، ومحررة في السجلات، وغير متاحة للأدوات غير المرتبطة؟ |
| التنزيلات | هل تبقى الملفات داخل دليل مملوك لصندوق الرمل حتى يتم تصديرها صراحة؟ |
| الحافظة | هل يمكن للوكيل قراءة أو كتابة حافظة الإنسان، أم فقط حافظة محلية للجلسة؟ |
| لقطات الشاشة | هل لقطات الشاشة محفوظة، ومحررة، وخاضعة للتحكم في الوصول؟ |
| إجراءات DOM | هل يتم تسجيل النقرات، والنص المكتوب، والنماذج، والمحددات، وأصول الصفحة؟ |
| استدعاءات الأدوات | هل يمكنك الفصل بين نية النموذج وإجراء الأداة المنفذ؟ |
| الشبكة | هل النطاقات، والنطاقات الخاصة، وسجلات الحزم، وسلوك DNS خاضعة للتحكم؟ |
| الموافقة | ما الإجراءات التي تتطلب خطوة تأكيد بشري؟ |
| إعادة الضبط | ما الذي يتم مسحه بالضبط، أو الاحتفاظ به، أو إبطاله، أو عمل لقطة له بعد التشغيل؟ |
| مراجعة الحوادث | هل يمكنك إعادة بناء ما حدث من السجلات والملفات وأحداث الشبكة وإعادة التشغيل؟ |
الأسئلة الشائعة
ما الفرق بين صندوق رمل المتصفح وصندوق رمل استخدام الكمبيوتر؟
يقيد صندوق رمل المتصفح ما يمكن لمتصفح الويب فعله: ما هي ملفات التعريف وملفات تعريف الارتباط والتخزين المتاحة، وما هي النطاقات التي يمكن للمتصفح الاتصال بها، وما هي التنزيلات المسموح بها. صندوق رمل استخدام الكمبيوتر أوسع ويغطي بيئة كاملة تشبه سطح المكتب — الوصول إلى المحطة الطرفية، ومديري الملفات، وتطبيقات واجهة المستخدم الرسومية، والعمليات المحلية بالإضافة إلى المتصفح. يشترك كلاهما في نفس الاهتمامات الأساسية حول إعادة الضبط والتسجيل ونطاق بيانات الاعتماد والحسابات ذات الامتيازات الأقل، لكن بيئات استخدام الكمبيوتر تتطلب قرارات إضافية حول الأدلة المركبة، والوصول إلى الحافظة، وبيانات الشاشة، وعزل العمليات.
هل أحتاج إلى ملف تعريف متصفح منفصل لكل مهمة وكيل؟
في معظم الحالات، نعم. مشاركة ملف تعريف عبر المهام يعني أن مهمة واحدة يمكنها رؤية ملفات تعريف الارتباط وعمليات تسجيل الدخول وكلمات المرور المحفوظة وتخزين المتصفح التي تركتها أخرى. ملفات التعريف لكل مهمة هي أبسط طريقة لمنع نقل الحالة غير المقصود. إذا كان سير عملك يتطلب استمرارية الجلسة — على سبيل المثال، وكيل طويل الأمد يستأنف من حيث توقف — اجعل الاستمرارية صريحة ووثق بالضبط ما هي الحالة التي تنتقل ولماذا.
هل يمكن لوكلاء الذكاء الاصطناعي التعامل بأمان مع بيانات الاعتماد داخل صندوق رمل؟
بيانات الاعتماد أكثر أمانًا داخل صندوق رمل منها في بيئة غير خاضعة للرقابة، لكن صندوق الرمل وحده لا يجعل التعامل مع بيانات الاعتماد آمنًا. المخاطر الرئيسية هي التعرض المفرط (إعطاء الوكيل وصولاً أكثر مما تتطلبه المهمة)، والتسرب (ظهور بيانات الاعتماد في السجلات أو لقطات الشاشة أو مخرجات التصحيح)، والاستمرارية (بقاء الرموز أو ملفات تعريف الارتباط متاحة بعد انتهاء المهمة). يُفضل بيانات الاعتماد المحددة النطاق والمحددة زمنيًا؛ والوصول الوسيط عبر استدعاءات أدوات ضيقة بدلاً من الأسرار الخام؛ وتأكد من أن السجلات ولقطات الشاشة تحرر القيم الحساسة قبل التخزين.
ماذا يحدث إذا قام وكيل ذكاء اصطناعي بتنزيل ملف ضار؟
تحدد سياسة تنزيل صندوق الرمل نطاق الانفجار. إذا كانت التنزيلات معزولة في دليل مملوك لصندوق الرمل، وتم تعطيل الفتح التلقائي، ووُضعت قيود على أنواع الملفات، فلا يمكن للملف الذي تم تنزيله التشغيل تلقائيًا أو الوصول إلى نظام الملفات الأوسع. بدون تلك الضوابط، يمكن لملف ضار التنفيذ، أو الوصول إلى الدلائل المشتركة، أو التحميل إلى مكان آخر قبل أن يراجعه إنسان. تعامل مع التنزيلات كمدخلات غير موثوقة محتملة وحدد سياسات صريحة لأنواع الملفات المسموح بها، وما إذا كان يمكن فتحها داخل صندوق الرمل، وكيفية فحصها أو تسجيلها.
كيف يمكنني اكتشاف حقن الفوري في وكيل متصفح؟
من الصعب اكتشاف حقن الفوري من صفحة ويب بشكل موثوق على مستوى النموذج. صندوق الرمل هو أحد الضوابط الدفاعية الرئيسية لأنه يحد من ما يمكن للوكيل فعله حتى لو تم اتباع تعليمات خبيثة. الإشارات العملية تشمل استدعاءات أو تنقلات غير متوقعة للأدوات، وإجراءات خارج النطاق المقصود، وإرسالات نموذج غير عادية، ومحاولات استرداد أو نقل بيانات الاعتماد أو بيانات الجلسة. سجلات إجراءات DOM الجيدة — التي تسجل الصفحة التي تمت زيارتها، والمحددات التي تم استهدافها، والنص الذي تم كتابته — تجعل من السهل إعادة بناء ما إذا كانت الصفحة قد أثرت على سلوك الوكيل.
هل يعني استخدام صندوق رمل أن وكيلي آمن؟
صندوق الرمل يضيق نطاق الانفجار لكنه لا يزيل المخاطر. إنه يقيد ما يمكن للوكيل الوصول إليه وما يبقى على قيد الحياة بعد إعادة الضبط، لكنه لا يمنع قرارات النموذج السيئة، أو بيانات الاعتماد المهيأة بشكل خاطئ، أو الثغرات على مستوى التطبيق. يعتمد الأمان على ضوابط متعددة الطبقات: حسابات ذات امتيازات أقل، وبيانات اعتماد محددة النطاق، وبوابات موافقة للإجراءات غير القابلة للعكس، وسجلات تدقيق تلتقط نية النموذج والإجراءات المنفذة، والمراجعة البشرية قبل وصول سير العمل الحساس إلى الإنتاج. صندوق الرمل هو طبقة واحدة، وليس الإجابة الكاملة.
كم من الوقت يجب الاحتفاظ بلقطات الشاشة وبيانات إعادة التشغيل؟
يعتمد الاحتفاظ على حساسية سير العمل ومتطلبات التدقيق الخاصة بك. بالنسبة للوكلاء الذين يلمسون البيانات الشخصية، أو أنظمة الفوترة، أو حسابات العملاء، أو الأدوات الداخلية، فإن نافذة احتفاظ محددة مع ضوابط الوصول وتحرير القيم الحساسة (الرموز، ومحتوى النموذج، وبيانات الاعتماد المرئية) هي خط أساس معقول. بالنسبة لسير العمل منخفض الحساسية، قد يكون الاحتفاظ الأقصر أو التسجيل الملخص فقط مناسبًا. قرر قبل النشر من يمكنه الوصول إلى عمليات إعادة التشغيل، ومدة الاحتفاظ بها، وكيفية حذفها. تجنب معاملة لقطات الشاشة كقطع أثرية تصحيح غير ضارة — فهي غالبًا تحتوي على بيانات أكثر حساسية من السجلات المنظمة.
ما إجراءات الوكيل التي يجب أن تتطلب دائمًا موافقة بشرية؟
الإجراءات التي يصعب عكسها أو ذات مغزى قانوني هي أوضح المرشحين: المشتريات، وتغييرات إعدادات الحساب، وحذف الملفات، وتدوير بيانات الاعتماد، ودعوات المستخدمين، وإرسالات تذاكر الدعم، وتحميل بيانات العملاء أو البيانات المنظمة. بالإضافة إلى ذلك، فكر في طلب الموافقة لأي إجراء خارج نطاق المهمة الأصلي للوكيل، وأي إجراء على نطاق أو حساب غير متوقع في بداية التشغيل، وأي تنزيل أو تنفيذ للملفات التي لم تتطلبها المهمة صراحة. يجب أن يسجل حدث الموافقة ما كان الوكيل ينوي فعله وما أكده الإنسان صراحة.
