1、当事人在复议机关正在进行行政复议的阶段,是不可以起诉的,仅在完成行政复议之后才可以起诉。根据我国《行政复议法》的相关规定,公民、法人或者其他组织认为具体行政行为侵犯其合法权益的,可以自知道该具体行政行为之日起六十日内提出行政复议申请;但是法律规定的申请期限超过六十日的除外。
2、法律依据;《中华人民共和国行政复议法》
第九条公民、法人或者其他组织认为具体行政行为侵犯其合法权益的,可以自知道该具体行政行为之日起六十日内提出行政复议申请;但是法律规定的申请期限超过六十日的除外。因不可抗力或者其他正当理由耽误法定申请期限的,申请期限自障碍消除之日起继续计算。