如何追究行政违法责任

解析：
倘若有任何行政部门所作出的行政处罚裁定违反了法律法规，那么这项责任便应当由其所属的上一级行政机关或相关的行政机构来承担，对先前作出裁定的行政部门进行追究。
在这种情况下，上级行政机关或相关的行政机构有权要求该部门进行纠正，并对其中直接负责的主管官员以及其他直接责任人依法进行相应的处分。
法律依据：
《中华人民共和国行政处罚法》第七十六条
行政机关实施行政处罚，有下列情形之一，由上级行政机关或者有关机关责令改正，对直接负责的主管人员和其他直接责任人员依法给予处分：
（一）没有法定的行政处罚依据的；
（二）擅自改变行政处罚种类、幅度的；
（三）违反法定的行政处罚程序的；
（四）违反本法第二十条
关于委托处罚的规定的；
（五）执法人员未取得执法证件的。
行政机关对符合立案标准的案件不及时立案的，依照前款规定予以处理。
《中华人民共和国行政处罚法》第七十八条
行政机关违反本法第六十七条的规定自行收缴罚款的，财政部门违反本法第七十四条的规定向行政机关返还罚款、没收的违法所得或者拍卖款项的，由上级行政机关或者有关机关责令改正，对直接负责的主管人员和其他直接责任人员依法给予处分。