بدأ عدد من الباحثين في مجال الذكاء الاصطناعي خلال الأشهر القليلة الماضية تحذير العالم من أضرار التقنية، وحث الدول الكبرى على إصدار تشريعات تنظم العمل بها. وتزامنت هذه الدعوات مع اهتمام متزايد بإقرار تدابير أمنية تجعل استخدام الذكاء الاصطناعي أكثر أمانًا. حذّر ثلاثة من رواد الذكاء الاصطناعي، خلال جلسة استماع في الكونغرس الأميركي، من أضرار التسارع الكبير في تطوير المجال، مشيرين إلى إمكان استخدام الذكاء الاصطناعي مستقبلًا لإنتاج أسلحة بيولوجية وفيروسات خطرة. ودعوا إلى تقنين التقنية وتنظيم استعمالها للحد من مخاطرها المحتملة عالميًا. أنظمة الطيران المعتمدة على الذكاء الاصطناعي تطورت بسرعة، واندفعت إلى الاندماج في الأنظمة المقاتلة للجيوش. ويشكل هذا التطور خطرًا كبيرًا على مستقبل البشرية، لأن اتساع حضور الذكاء الاصطناعي في الطيران العسكري قد يجعل إبقاء الأنظمة تحت السيطرة البشرية أكثر صعوبة، ويزيد مخاطر استخدامها. وافقت شركات الذكاء الاصطناعي، ومنها أوبن إيه آي وألفابت التابعة لغوغل وميتا، على توصيات أقرها البيت الأبيض لتنفيذ تدابير أمنية. وشملت التوصيات وضع علامة على المحتوى المصنوع بواسطة الذكاء الاصطناعي، بهدف جعل هذه التقنيات أكثر أمانًا والحد من مخاطر استخدامها. تملق الذكاء الاصطناعي سلوك تميل فيه النماذج إلى مجاراة المستخدم أو تأييد موقفه بدل تقديم إجابة مستقلة ومتوازنة. قد يظهر التملق في المبالغة في الموافقة أو تعزيز مشاعر وقرارات غير سليمة. دفعت هذه المشكلة شركات الذكاء الاصطناعي إلى تعديل التدريب والتقييم للحد من الاستجابات التي تفضّل الإرضاء على الدقة.