معظم المتخصصين رأوا هلوسات AI في عمليات IT
يرجى تفعيل JavaScript لتعمل هذه الصفحة بشكل طبيعي.
Anamarija Pogorelec، كاتبة أولى، Help Net Security
5 يونيو 2026
Autonomous AI يتخذ إجراءات داخل بيئات تكنولوجيا المعلومات المؤسسية. يقوم البرنامج بإعادة تشغيل الخدمات، وعزل الأجهزة الخطرة، وتطبيق التصحيحات دون انتظار موافقة إنسانية. تنتشر هذه القدرة في الوقت نفسه الذي يبلّغ فيه محترفو تكنولوجيا المعلومات عن مواجهات متكررة مع أخطاء مخرجات الذكاء الاصطناعي التي قد تحمل تأثيرًا تشغيليًا.
يظهر تقرير 2026 AI Maturity Report الصادر عن Ivanti، المستند إلى ردود 1,500 محترف تكنولوجيا معلومات في ست دول، أن 68 % منهم شهدوا شخصيًا أن الذكاء الاصطناعي ينتج “هلاوس” ذات تأثير تشغيلي محتمل. حوالي 52 % من هؤلاء المستجيبين يقولون إن فريقهم أمسك بالأخطاء قبل أن تتسبب في مشكلات. بينما يذكر الـ16 % المتبقون حالات تسرب الأخطاء ووصولها إلى بيئات الإنتاج.
يزداد الثقة مع التعرض
السكان الذين شهدوا هذه الإخفاقات يواصلون منح ثقة كبيرة للمخرجات التي يولدها الذكاء الاصطناعي. بين أكثر مستخدمي الذكاء الاصطناعي تقدمًا في تكنولوجيا المعلومات، يقول 49 % إنهم يثقون تمامًا بالمخرجات التي يولدها الذكاء الاصطناعي والتي تؤثر على قرارات تكنولوجيا المعلومات. ترتفع الثقة مع الخبرة الفردية في الذكاء الاصطناعي، وتزداد التعرض لإخفاقات الذكاء الاصطناعي بالتوازي معها.
الإجراء المستقل يتوسع أيضًا عبر عمليات تكنولوجيا المعلومات. بين المتخصصين في تكنولوجيا المعلومات الذين شُملوا في الاستطلاع، أبلغ 52 % عن أن الذكاء الاصطناعي يقوم بضبط إعدادات الأداء بشكل مستقل، و50 % عن أن الذكاء الاصطناعي يعزل الأجهزة الخطرة، و47 % عن أن الذكاء الاصطناعي يعيد تشغيل الخدمات أو العمليات، و46 % عن أن الذكاء الاصطناعي يطبق التصحيحات أو الإصلاحات. بالنسبة للمنظمات المتقدمة في مجال الذكاء الاصطناعي، تُجرى هذه التطبيقات المستقلة بمعدل يزيد عن ضعف معدل الزملاء الأقل نضجًا. عبر جميع المنظمات، من المتوقع أن يتم أتمتة 46 % من عمليات تكنولوجيا المعلومات بواسطة الذكاء الاصطناعي خلال 18 شهرًا.
المجالات التي تتطلب مراجعة بشرية
يضع المتخصصون في تكنولوجيا المعلومات حدودًا أوضح حول الأعمال ذات الخطورة العالية. 55 % يقولون إنهم لن يعتمدوا على الذكاء الاصطناعي دون مراجعة بشرية للحوادث ذات الخطورة العالية، و52 % يقولون نفس الشيء بالنسبة لتواصل الحوادث إلى التنفيذيين أو أصحاب المصلحة. تُرسم هذه الحدود على نموذج من مستويين: remediation الروتيني يُنفّذ بشكل مستقل، والقرارات ذات العواقب تتطلب تصديقًا بشريًا.
فجوة الحوكمة
Governance أصبحت العائق الأكثر ذكرًا لنشر الذكاء الاصطناعي. 27 % من المتخصصين في تكنولوجيا المعلومات يحددون القلق بشأن الحوكمة أو الأمن أو الامتثال كأكبر عقبة أمام نشره في مؤسستهم، متفوقًا على نقص المهارات (20 %)، والقيود التقنية (17 %)، وتحديات البيانات (14 %).
معظم المؤسسات تُقرّ بوجود هياكل حوكمة أساسية. 65 % لديها عمليات مراجعة مخاطر الذكاء الاصطناعي، 59 % لديها سياسات لتقييم واعتماد حلول الذكاء الاصطناعي الجديدة، 58 % لديها سياسات استخدام مقبول للذكاء الاصطناعي، و49 % لديها هيئات إشراف على الذكاء الاصطناعي. الالتزام غير متساوٍ. بين الشركات التي لديها سياسات للذكاء الاصطناعي، 24 % من الموظفين يقولون إن السياسات تُتبع بشكل ثابت جداً في العمل اليومي.
المسؤولية تُظهر فجوة أكبر. 85 % من محترفي تكنولوجيا المعلومات يدّعون وجود مالك مُسمّى ومسؤول عن كل وكيل ذكاء اصطناعي وتدفق عمل داخل مؤسستهم لتكنولوجيا المعلومات. فقط 42 % يبلّغون أن المسؤولية تُطبق عملياً. الفجوة التي تبلغ 43 نقطة توجد إلى جانب السرعة التي انتقلت بها قدرات الذكاء الاصطناعي إلى عمليات تكنولوجيا المعلومات والتأخر في مطابقة هياكل الملكية والتصعيد.
الذكاء الاصطناعي الظلّي يضيف طبقة أخرى. الموظفون الذين يستخدمون أدوات ذكاء اصطناعي غير مصرح بها لتجاوز عمليات الموافقة البطيئة يتجاوزون هياكل الحوكمة القائمة. الصناعات المنظمة بما فيها الحكومة والرعاية الصحية والتعليم تُظهر أعلى معدلات استخدام أدوات ذكاء اصطناعي غير مصرح بها وأدنى معدلات الأدوات التي توفرها الجهات الموظفة. القادة التنظيميون يخفون استخدامهم للذكاء الاصطناعي بمعدل 42 %. بين باقي الموظفين، هذا المعدل هو 23 %. 52 % من القادة الذين يخفون استخدامهم للذكاء الاصطناعي يذكرون رغبتهم في “ميزة سرية”.
عتبات الثقة المرمَّزة
نضج الحوكمة يرتفع جنباً إلى جنب مع نضج الذكاء الاصطناعي. 69 % من المؤسسات التي تستخدم الذكاء الاصطناعي على نطاق واسع وتعتبره حيوياً للأعمال تُبلغ عن وجود حوكمة شاملة. في المؤسسات التي لا تزال في مرحلة التجربة الأولية، النسبة هي 15 %.
Ivanti توصي بترميز حدود الثقة حسب سير العمل. السماح للذكاء الاصطناعي بإعادة تشغيل الخدمات الفاشلة أو تطبيق التصحيحات الروتينية بشكل مستقل. طلب التحقق البشري من التغييرات الشاملة في تكوين النظام أو استجابات الحوادث الطارئة. يتيح هذا النهج للمنظمات الاستفادة من مكاسب الإصلاح الذاتي واحتواء نطاق التأثير التشغيلي الناتج عن الهلاوس أو الإشارات الخاطئة.
Download: The IT and security field guide to AI adoption
More about
Featured news
- Reachability makes AI threat modeling worth the trust
- EU Cybersecurity Act 2.0: When good regulation goes bad
- The rise of machine identities and agentic AI: Securing trust in the next era of digital autonomy
Resources
- Download: Secure Foundations for AI Workloads on AWS
- Download: Automating Pentest Delivery Guide
- CIS Benchmarks March 2026 Update
لا تفوت
- Reachability makes AI threat modeling worth the trust
- EU Cybersecurity Act 2.0: When good regulation goes bad
- The rise of machine identities and agentic AI: Securing trust in the next era of digital autonomy
- China-linked spies backdoored authentication stack to stay hidden for years
- AI vulnerability discovery is pushing 2026 CVEs toward 66,000
فريق التحرير
مساهم في اختيار المواد وترجمتها وتحريرها للقارئ العربي.