行政机关发现行政处罚错误如何处理

解析：
对于因行政处罚而导致的过失，应由上级行政机构或相关部门施以纠正措施并责令改正，同时可依法追究本次行政处罚失误中直接承担责任的主管官员及其他责任人的行政责任。
如各行政机关在行使行政处罚权时出现以下任一情况，均需由其上级行政机构或相关部门进行纠正，并可依法对直接负责的主管官员以及其他直接责任人进行行政处分：
首先，未遵循法定的行政处罚依据；
其次，未经授权擅自变更行政处罚的种类与幅度；
再次，违反了法定的行政处罚程序；
最后，违反了《中华人民共和国行政处罚法》第十八条关于委托处罚的相关规定。
法律依据：
《中华人民共和国行政处罚法》第五十五条
行政机关实施行政处罚，有下列情形之一的，由上级行政机关或者有关部门责令改正，可以对直接负责的主管人员和其他直接责任人员依法给予行政处分：
（一）没有法定的行政处罚依据的；
（二）擅自改变行政处罚种类、幅度的；
（三）违反法定的行政处罚程序的；
（四）违反本法第十八条关于委托处罚的规定的。