शासन और लोक प्रशासन में कमियों के मूल में स्थित एक प्रमुख कारक, आमतौर से शासन में, और मुख्य रूप से सिविल सेवाओं में, जवाबदेही का होना या न होना है। जवाबदेही का एक प्रभावी ढांचा रूपांकित करना सुधार कार्यसूची का एक मुख्य तत्व रहा है। मूलभूत मुद्दा यह है कि क्या सिविल सेवाओं को तत्कालीन राजनीतिक कार्यपालिका के प्रति जवाबदेह होना चाहिए, अथवा व्यापक रूप में समाज के प्रति। दूसरे शब्दों में, आंतरिक और बाह्य जवाबदेही के बीच सामंजस्य कैसे स्थापित किया जाए? आंतरिक जवाबदेही को आंतरिक निष्पादन के परिवीक्षण, केन्द्रीय सतर्कता आयोग एवं नियंत्रक-महालेखापरीक्षक जैसे निकायों के अधिकारिक निरीक्षण तथा अधिशासी निर्णयों के न्यायिक पुनर्विलोकन के द्वारा प्राप्त करने का प्रयास किया जाता है। भारत के संविधान के अनुच्छेद 311 और 312 सिविल सेवाओं, खास कर अखिल भारतीय सेवाओं, में नौकरी की सुरक्षा एवं रखोपाय का उपबंध करते हैं। संविधान निर्माताओं ने यह ध्यान में रखा था कि इन संरक्षण उपबंधों के परिणामस्वरूप ऐसी सिविल सेवा बनेगी जो राजनीतिक कार्यपालिका की पूर्णतः अनुसेवी नहीं होगी वरन् उसमें वृहत्तर लोकहित में कार्य करने की शक्ति होगी। इस प्रकार संविधान में आंतरिक और बाह्य जवाबदेही के बीच संतुलन रखने की आवश्यकता सन्निहित है। प्रश्न यह है कि दोनों के बीच रेखा कहाँ खींची जाए। वर्षों बाद, सिविल सेवाओं की अधिकतर आंतरिक जवाबदेही का जोर तत्कालीन राजनीतिक नेताओं के पक्ष में अधिक झुका दिखाई देता है, जिनसे, बदले में, निर्वाचन प्रक्रिया के माध्यम से व्यापक समाज के प्रति बाह्य रूप से जवाबदेह होने की अपेक्षा की जाती है। समाज के प्रति जवाबदेही लाने के प्रयास करने की इस प्रणाली से कोई समाधान प्राप्त नहीं हुआ है, और इससे शासन के लिए अनेक प्रतिकूल परिणाम सामने आए हैं।

सिविल सेवाओं में जवाबदेही के सुधार के लिए कुछ विशेष उपायों पर विचार किया जा सकता है। अनुच्छेद 311 और 312 के उपबंधों का पुनरीक्षण किया जाना चाहिए और सिविल सेवाओं की बाह्य जवाबदेही के लिए विधि एवं विनियम बनाए जाने चाहिए। प्रस्तावित सिविल सेवा विधेयक इनमें से कुछ आवश्यकताओं को पूरा करने का प्रयास करता है। वृत्तिक (प्रोफेशनल) सिविल सेवाओं और राजनीतिक कार्यपालिका की अपनी-अपनी भूमिकाएं परिभाषित की जानी चाहिए ताकि वृत्तिक प्रबंधकीय कार्य और सिविल सेवाओं के प्रबंधन का अराजनीतिकरण हो सके। इस प्रयोजन के लिए, केंद्र और राज्यों में प्रभावी सांविधिक सिविल सेवा बोर्ड बनाए जाने चाहिए। शासन और निर्णयन को लोगों के अधिक समीप लाने हेतु सत्ता का विकेंद्रीकरण और अवक्रमण (डीवोल्यूशन) भी जवाबदेही के संवर्धन में सहायक होता है।