NVIDIA تطلق أدوات جديدة لحماية وكلاء الذكاء الاصطناعي

يتطور الذكاء الاصطناعي بسرعة، ولم يعد دوره يقتصر على الإجابة عن الأسئلة وكتابة النصوص. فهناك أنظمة جديدة تُعرف باسم وكلاء الذكاء الاصطناعي يمكنها تنفيذ مجموعة من المهام باستخدام البرامج والملفات وخدمات الإنترنت.

ومع زيادة هذه القدرات، أصبح من المهم معرفة ما الذي يستطيع الذكاء الاصطناعي الوصول إليه، وما الذي يجب منعه من الوصول إليه.

وفي هذا السياق، أعلنت شركة NVIDIA في 28 سبتمبر 2026 عن مجموعة جديدة من الأدوات تهدف إلى مساعدة المؤسسات على مراقبة وكلاء الذكاء الاصطناعي ووضع حدود واضحة لما يمكنهم القيام به.

ما هو وكيل الذكاء الاصطناعي؟

يمكن تبسيط الفكرة كالتالي:

روبوت المحادثة التقليدي ينتظر منك سؤالًا ثم يعطيك إجابة.

أما وكيل الذكاء الاصطناعي فيمكن أن تعطيه هدفًا، ثم يقوم بتنفيذ عدة خطوات للوصول إلى النتيجة.

فمثلًا، بدل أن تطلب من الذكاء الاصطناعي كتابة برنامج فقط، يمكن لوكيل ذكي أن يساعد في كتابة البرنامج، واختباره، واكتشاف بعض الأخطاء، ثم إجراء تعديلات عليه.

وهذا يجعل الوكلاء أكثر قدرة على تنفيذ المهام، لكنه يجعل تنظيم صلاحياتهم أمرًا مهمًا أيضًا.

ما الذي قدمته NVIDIA؟

أعلنت NVIDIA عن منصة باسم Open Agent Safety Platform، أي منصة مفتوحة تهدف إلى إضافة طبقات من الحماية والتحكم حول وكلاء الذكاء الاصطناعي.

وتتضمن المنصة أدوات من بينها OpenShell وSentry.

ولا يحتاج القارئ إلى معرفة هذه الأسماء لفهم الفكرة الأساسية؛ فالمقصود ببساطة هو إنشاء حاجز أمني حول وكيل الذكاء الاصطناعي يحدد له ما يستطيع فعله وما لا يستطيع فعله. الإعلان الرسمي من NVIDIA

كيف يمكن حماية وكيل الذكاء الاصطناعي؟

تخيل أنك أعطيت شخصًا مهمة داخل مكتب، لكنك لا تريد أن تسمح له بفتح جميع الخزائن أو الوصول إلى كل الوثائق.

يمكنك منحه مفتاح الغرفة التي يحتاج إليها فقط.

الفكرة مشابهة في OpenShell.

يمكن تحديد الملفات التي يستطيع الوكيل استخدامها، والخدمات التي يمكنه الاتصال بها، والعمليات التي يُسمح له بتنفيذها.

وبذلك لا يحصل الوكيل تلقائيًا على صلاحية الوصول إلى كل شيء موجود في جهاز الكمبيوتر أو النظام الذي يعمل داخله. شرح NVIDIA لأداة OpenShell

ماذا يحدث إذا حاول تجاوز الحدود؟

بحسب NVIDIA، يمكن للمنصة مراقبة تصرفات الوكيل وتطبيق القواعد المحددة له.

فإذا حاول الوصول إلى مورد غير مسموح به، يمكن للنظام منع العملية أو تقييد وصوله.

وهذا يشبه وجود حارس إلكتروني يراقب ما يحدث ويمنع بعض العمليات المخالفة للقواعد.

لكن من المهم الإشارة إلى أن هذه الآليات تمثل طبقة من الحماية، وليست ضمانًا بأن جميع مشكلات أمن الذكاء الاصطناعي قد اختفت.

وما هو Sentry؟

قدمت NVIDIA أيضًا نظامًا يسمى Sentry.

وبعيدًا عن التفاصيل التقنية المعقدة، يمكن فهمه على أنه طبقة إضافية تساعد في مراقبة نشاط وكلاء الذكاء الاصطناعي من مستوى أعمق في الجهاز الذي يشغلهم.

وتقول NVIDIA إن هذه الطبقة يمكن أن تساعد في عزل الوكيل إذا حاول تجاوز الحدود الموضوعة له. وهذه قدرات أعلنت عنها الشركة نفسها، لذلك تحتاج إلى تقييمات واختبارات مستقلة لمعرفة أدائها في ظروف مختلفة. NVIDIA – معلومات حول Sentry

لماذا أصبحت هذه الحماية مهمة؟

كلما زادت قدرة الذكاء الاصطناعي على تنفيذ المهام، زادت أهمية تحديد الصلاحيات الممنوحة له.

فإذا كان الوكيل يستطيع التعامل مع ملفات شخصية أو بيانات شركة أو برامج مهمة، فمن الأفضل ألا تكون لديه حرية غير محدودة.

لذلك تتجه بعض شركات التكنولوجيا إلى تطوير أنظمة تسمح للذكاء الاصطناعي بالعمل بشكل أكثر استقلالية، ولكن داخل حدود يمكن للإنسان تحديدها ومراقبتها.

هل يعني هذا أن الذكاء الاصطناعي أصبح خطرًا؟

ليس بالضرورة.

وجود أنظمة للحماية لا يعني أن وكلاء الذكاء الاصطناعي خطرون بطبيعتهم. فالأمر يشبه حماية أي برنامج لديه صلاحية الوصول إلى معلومات أو تنفيذ عمليات مهمة.

لكن طبيعة وكلاء الذكاء الاصطناعي تجعل الموضوع أكثر أهمية، لأن بعضهم يستطيع تنفيذ عدة خطوات متتالية بدل الاكتفاء بإعطاء إجابة واحدة.

ولهذا أصبح السؤال لا يتعلق فقط بما يستطيع الذكاء الاصطناعي فعله، بل أيضًا بـ:

ما الصلاحيات التي ينبغي أن نعطيها له؟ وكيف يمكننا مراقبة ما يقوم به؟

من يمكن أن يستفيد من هذه الأدوات؟

يمكن أن تكون مثل هذه التقنيات مفيدة للشركات والمؤسسات التي تستخدم الذكاء الاصطناعي في مجالات مثل تطوير البرامج، وأتمتة بعض الأعمال، والبحث العلمي وغيرها.

وتشير NVIDIA إلى استخدام أو تطوير OpenShell في عدد من المؤسسات والمشروعات، مع استمرار العمل على توسيع المنصة. NVIDIA – OpenShell

الخلاصة

تعمل شركات التكنولوجيا على تطوير جيل جديد من الذكاء الاصطناعي يستطيع تنفيذ مهام متعددة بدل الاكتفاء بالإجابة عن الأسئلة.

ومع هذه القدرات، تظهر حاجة متزايدة إلى وضع حدود واضحة أمام هذه الأنظمة.

وتحاول NVIDIA معالجة هذا الجانب من خلال أدوات مثل OpenShell وSentry، التي تهدف إلى مراقبة وكلاء الذكاء الاصطناعي وتحديد ما يمكنهم الوصول إليه.

ولا تمثل هذه الأدوات حلًا نهائيًا لجميع مشكلات أمن الذكاء الاصطناعي، لكنها تعكس اتجاهًا مهمًا: كلما أصبح الذكاء الاصطناعي أكثر قدرة على التصرف، أصبحت الحاجة إلى مراقبته وتنظيم صلاحياته أكثر أهمية.

المصادر

• NVIDIA – الإعلان الرسمي
• NVIDIA – شرح OpenShell
• NVIDIA – معلومات حول Sentry

✍️ الصديق حدور

مدون متخصص في كتابة مقالات تتعلق بمواضيع صحية، علمية، وتقنية. يسعى إلى تبسيط المعلومات ونقل المعرفة بأسلوب واضح وسلس يناسب القارئ العربي.

📧 للتواصل: contacte@maaref.it.com