不拘留处罚是怎么处罚这还叫行政拘留处罚吗？

如果拘留决定最终被认定为是错误的，而人都已经经过拘留了，那么被错误拘留的这段时间的自由找谁去还正是为了避免这一局面，所以在某些符合《治安管理处罚法》的情况下，可以暂缓执行行政拘留。
但是罚款又完全是另外一回事了：如果罚款的决定被认定为是错误的，把钱要回来就行了，反正政府及其职能部门一直在那又跑不掉，还怕没钱还
所以，暂缓执行行政拘留的，仍旧得缴纳罚款。
行政复议期间不停止执行，这是行政法上的原则，暂缓执行是例外。