محاذاة الذكاء الاصطناعي مجال يهدف إلى جعل سلوك الأنظمة المتقدمة متوافقًا مع أهداف البشر وقواعد السلامة، حتى عندما تعمل باستقلالية أو تواجه مواقف غير مألوفة. تشمل المحاذاة التدريب والتقييم والمراقبة ومنع تجاوز الصلاحيات، لأن زيادة القدرة لا تضمن تلقائيًّا أن يتصرف النظام وفق المقصود منه.

من الدفتر
تملق الذكاء الاصطناعي سلوك تميل فيه النماذج إلى مجاراة المستخدم أو تأييد موقفه بدل تقديم إجابة مستقلة ومتوازنة. قد يظهر التملق في المبالغة في الموافقة أو تعزيز مشاعر وقرارات غير سليمة. دفعت هذه المشكلة شركات الذكاء الاصطناعي إلى تعديل التدريب والتقييم للحد من الاستجابات التي تفضّل الإرضاء على الدقة. الذكاء الاصطناعي الفائق مفهوم افتراضي لنظام يتجاوز قدرات البشر في نطاق واسع من المهام المعرفية، ولا توجد حتى الآن طريقة متفق عليها لقياس بلوغه أو ضمان إمكان السيطرة عليه. يناقش باحثو السلامة مخاطره المحتملة، لكن الحديث عن فقدان البشر السيطرة عليه يظل سيناريوًّا مستقبليًّا لا واقعةً مثبتةً. يمكن للحوسبة العصبية دعم الذكاء الاصطناعي الطرفي، أي تنفيذ معالجة الذكاء الاصطناعي على جهاز قريب من مصدر البيانات بدل إرسالها باستمرار إلى خادم بعيد. يفيد ذلك في تقليل نقل البيانات وزمن الاستجابة واستهلاك الطاقة، خصوصًا في المستشعرات الذكية والأجهزة القابلة للارتداء والطائرات المسيّرة. تبحث برامج سلامة الذكاء الاصطناعي في احتمال أن تساعد النماذج المتقدمة على تصميم عوامل بيولوجية خطرة أو تسريع البحث الذي يمكن إساءة استخدامه. يُعامل هذا الاحتمال بوصفه خطرًا يحتاج إلى تقييم وضوابط، لا دليلًا على أن الأنظمة الحالية تستطيع إنشاء أوبئة مستقلةً عن البشر أو المختبرات والمواد اللازمة. عُقد مشروع دارتموث الصيفي للبحث في "الذكاء الاصطناعي" سنة ١٩٥٦ في كلية دارتموث بالولايات المتحدة، ونظمه باحثون بينهم "جون مكارثي" و"مارفن مينسكي". تُعد الورشة حدثًا تأسيسيًا للمجال لأنها ساعدت في ترسيخ اسم الذكاء الاصطناعي وتكوين مجتمع بحثي مستقل لدراسة الآلات القادرة على أداء مهام ذكية.