الشفافية والقابلية للتفسير
العديد من النماذج تعمل كصناديق سوداء يصعب فهم قراراتها. عندما يرفض نظام التوظيف طلبًا ما، للمتقدم الحق في معرفة السبب. لذلك يتطور مجال الذكاء الاصطناعي القابل للتفسير لتوضيح المنطق وراء كل قرار آلي.
التحيز والعدالة
النماذج تتعلم من بيانات تاريخية قد تحمل تحيزات ضد فئات معينة، فتكررها بل تعمقها. قضية شهيرة: أنظمة التوظيف التي ميزت ضد النساء لأن بيانات التدريب جاءت من مرشحين ذكور. معالجة التحيز تبدأ من فحص البيانات ومراقبة المخرجات باستمرار.
المساءلة والتنظيم
من يتحمل المسؤولية عندما تخطئ سيارة ذاتية القيادة أو يخطئ نظام تشخيص طبي؟ تتجه الاتحادات والحكومات لسن قوانين تحدد المسؤوليات وتصنف المخاطر، مثل قانون الذكاء الاصطناعي الأوروبي الذي يفرض متطلبات صارمة على التطبيقات عالية الخطورة.