离婚时孩子判给了男方，现在想要回孩子的抚养权，应该怎么办呢

离婚后，抚养关系仍然可以变更，因为子女的成长是一个长期的动态的过程，随着时间的推移；
父母双方的抚养条件及子女自身的条件都可能发生变化，出于对子女健康成长的考虑，法律允许离婚夫妇变更子女的抚养权。
具体包括两种方式：
(1)父母双方协议变更子女抚养关系：
(2)双方达不成协议或者只有一方要求变更子女抚养关系的，应另行起诉。
有下列情形之一的，法院对一方要求变更子女抚养关系的请求应予支持：
①与子女共同生活的一方因患严重疾病或因伤残无力继续抚养子女的；
②与子女共同生活的一方不尽抚养义务或有虐待子女行为，或其与子女共同生活对子女身心健康确有不利影响的；
③8周岁以上未成年子女，愿随另一方生活，该方又有抚养能力的；
④有其他正当理由需要变更的。
【法律依据】《民法典》第一千零八十四条，父母与子女间的关系，不因父母离婚而消除。离婚后，子女无论由父或者母直接抚养，仍是父母双方的子女。
离婚后，父母对于子女仍有抚养、教育、保护的权利和义务。离婚后，不满两周岁的子女，以由母亲直接抚养为原则。
已满两周岁的子女，父母双方对抚养问题协议不成的，由人民法院根据双方的具体情况，按照最有利于未成年子女的原则判决。子女已满八周岁的，应当尊重其真实意愿。