مخاطر الذكاء الاصطناعي على البشرية: يتعلم الذكاء الاصطناعي التحكم في القتال الجوي ويبني أسلحة كيمياوية جديدة. هناك مخاوف من نشره معلومات مضللة مثل نشره صورة مزيفة لانفجار قرب البنتاغون. عند تدريبه على أهداف خطأ، يجد طرقاً لتحقيقها على حساب القيم المجتمعية. يتسبب إسناد المهام ذات الأهمية بشكل متزايد للآلات في ضعف البشرية. يمنح الذكاء الاصطناعي مجموعات قليلة سلطة القرار مما يؤدي الى سلطة قمعية. تظهر نماذج الذكاء الاصطناعي سلوكاً غير متوقع، ينتج عنها فقدان البشر للسيطرة. كذلك تسعى الحكومات الى ميزة استراتيجية عبر الذكاء الاصطناعي، لكنها تفقد تحكمها بها لاحقاً.

من الدفتر
أنظمة الطيران المعتمدة على الذكاء الاصطناعي تطورت بسرعة، واندفعت إلى الاندماج في الأنظمة المقاتلة للجيوش. ويشكل هذا التطور خطرًا كبيرًا على مستقبل البشرية، لأن اتساع حضور الذكاء الاصطناعي في الطيران العسكري قد يجعل إبقاء الأنظمة تحت السيطرة البشرية أكثر صعوبة، ويزيد مخاطر استخدامها. الذكاء الاصطناعي لا يحاكي العقل البشري في جميع قدراته؛ فالآلات الذكية تتفوق على الإنسان في أعمال محددة، مثل سرعة معالجة البيانات وإجراء العمليات الحسابية، لكنها لا تطابق القدرات البشرية العامة. ويحتاج الذكاء الاصطناعي إلى تزويده باستمرار ببيانات عن العالم الحقيقي، بخلاف الذكاء البشري. تحويل الذكاء الاصطناعي إلى نظام يطابق القدرات البشرية يتطلب تعليمه مبادئ بشرية أساسية، ومنها المعارف السابقة على اللغة المتعلقة بإدراك الزمان والمكان. ولا تزال طبيعة هذه المبادئ محل خلاف بين البشر، مما يجعل محاكاة الذكاء البشري الكامل مسألة غير محسومة. حذّر ثلاثة من رواد الذكاء الاصطناعي، خلال جلسة استماع في الكونغرس الأميركي، من أضرار التسارع الكبير في تطوير المجال، مشيرين إلى إمكان استخدام الذكاء الاصطناعي مستقبلًا لإنتاج أسلحة بيولوجية وفيروسات خطرة. ودعوا إلى تقنين التقنية وتنظيم استعمالها للحد من مخاطرها المحتملة عالميًا. وافقت شركات الذكاء الاصطناعي، ومنها أوبن إيه آي وألفابت التابعة لغوغل وميتا، على توصيات أقرها البيت الأبيض لتنفيذ تدابير أمنية. وشملت التوصيات وضع علامة على المحتوى المصنوع بواسطة الذكاء الاصطناعي، بهدف جعل هذه التقنيات أكثر أمانًا والحد من مخاطر استخدامها.