تبحث برامج سلامة الذكاء الاصطناعي في احتمال أن تساعد النماذج المتقدمة على تصميم عوامل بيولوجية خطرة أو تسريع البحث الذي يمكن إساءة استخدامه. يُعامل هذا الاحتمال بوصفه خطرًا يحتاج إلى تقييم وضوابط، لا دليلًا على أن الأنظمة الحالية تستطيع إنشاء أوبئة مستقلةً عن البشر أو المختبرات والمواد اللازمة.