آلية الإيقاف الطارئ في أنظمة الذكاء الاصطناعي وسيلة مصممة لتعطيل النظام أو تقييد صلاحياته عند ظهور سلوك غير متوقع أو خطر. قد تشمل قطع الوصول إلى الشبكات والأدوات أو وقف التنفيذ أو العودة إلى نسخة سابقة. فاعلية هذه الآلية تعتمد على بقاء مسار الإيقاف خارج سيطرة النظام الذي يُراد تعطيله.

من الدفتر
عُقد مشروع دارتموث الصيفي للبحث في "الذكاء الاصطناعي" سنة ١٩٥٦ في كلية دارتموث بالولايات المتحدة، ونظمه باحثون بينهم "جون مكارثي" و"مارفن مينسكي". تُعد الورشة حدثًا تأسيسيًا للمجال لأنها ساعدت في ترسيخ اسم الذكاء الاصطناعي وتكوين مجتمع بحثي مستقل لدراسة الآلات القادرة على أداء مهام ذكية. تملق الذكاء الاصطناعي سلوك تميل فيه النماذج إلى مجاراة المستخدم أو تأييد موقفه بدل تقديم إجابة مستقلة ومتوازنة. قد يظهر التملق في المبالغة في الموافقة أو تعزيز مشاعر وقرارات غير سليمة. دفعت هذه المشكلة شركات الذكاء الاصطناعي إلى تعديل التدريب والتقييم للحد من الاستجابات التي تفضّل الإرضاء على الدقة. يمكن للحوسبة العصبية دعم الذكاء الاصطناعي الطرفي، أي تنفيذ معالجة الذكاء الاصطناعي على جهاز قريب من مصدر البيانات بدل إرسالها باستمرار إلى خادم بعيد. يفيد ذلك في تقليل نقل البيانات وزمن الاستجابة واستهلاك الطاقة، خصوصًا في المستشعرات الذكية والأجهزة القابلة للارتداء والطائرات المسيّرة. تبحث برامج سلامة الذكاء الاصطناعي في احتمال أن تساعد النماذج المتقدمة على تصميم عوامل بيولوجية خطرة أو تسريع البحث الذي يمكن إساءة استخدامه. يُعامل هذا الاحتمال بوصفه خطرًا يحتاج إلى تقييم وضوابط، لا دليلًا على أن الأنظمة الحالية تستطيع إنشاء أوبئة مستقلةً عن البشر أو المختبرات والمواد اللازمة. محاذاة الذكاء الاصطناعي مجال يهدف إلى جعل سلوك الأنظمة المتقدمة متوافقًا مع أهداف البشر وقواعد السلامة، حتى عندما تعمل باستقلالية أو تواجه مواقف غير مألوفة. تشمل المحاذاة التدريب والتقييم والمراقبة ومنع تجاوز الصلاحيات، لأن زيادة القدرة لا تضمن تلقائيًّا أن يتصرف النظام وفق المقصود منه.