行政责任作为人类社会制度一定发展阶段的产物，有其生成和发展的必然性和条件。在现代社会中，行政责任愈来愈成为国家政治生活的一个重要方面，从而使确立和确保行政责任产生了不同于以往的重要意义，主要表现在以下两个方面：
第一，行政责任能够限制行政机关及其公务人员滥用行政权力。
19世纪末20世纪初，西方出现了行政国家现象。行政活动不再从属于政治，开始在国家政治生活中占据主导地位。行政国家现象的主要表现是，政府通过法律授权，从立法机关和司法机关那里接受了越来越多的委任立法权和委任司法权；政府利用宪法对政府职权的抽象规定，不断扩大自身的行政自由裁量权；政府通过对国家经济生活及社会生活干预的不断加强，自身的权力不断扩充。总之，政府在立法、行政、司法三权分立的国家权力格局中，地位明显加强，政府权力、职能和活动范围明显扩展，在国家和社会生活中发挥越来越大的作用。
然而，政府行政权力的扩张也造成了一些问题，在理论上，政府行使立法权与司法权，与三权分立的制度设计产生了矛盾，在实践上，政府职权的扩张，增加了政府谋取自身利益以及侵犯社会公众合法权益的可能性。因此，从制度设计上看，一方面需要强化政府的职能以满足社会发展的需要，另一方面又需要对政府的权力进行必要的限制，以维护社会公众和组织的合法权益。这就产生了如何在变化的社会条件下，既能充分发挥富有灵活性和机动性的行政权的作用，又能维持基本的三权互相制约的国家权力结构以及民主精神和法制精神，充分保障社会公众和组织的合法权益不受侵害。解决这一矛盾的重要途径之一，就是加强政府及其公务人员的行政责任。
第二，行政责任能够提高减少政府工作失误，提高政府工作效率。
20世纪以来，特别是两次世界大战以来，科学技术的发展使得人类社会的生产水平不断提高，生产规模和能力不断扩大。经济与科技的发展使得人们的社会生活日益丰富和多样化，人们的需求也日益增多和复杂化。社会发展的深刻变化对国家行政管理的方式、内容和范围都提出了新的要求，使得政府权力和职能明显扩张，政府组织结构更为复杂，政府公务人员的数量和种类大为增加。由于现代政府组织规模庞大而职能复杂，人员众多而分工细致，为提高行政效率，就要求在行政组织内部建立起职权与职责相一致的工作责任制度，使行政组织内部各个层级、各个部门以及各个公务人员都必须责任明确，从而保证行政行为的规范化，克服官僚主义，减少行政失误，提高行政工作的效率。
