这取决于您租赁合同中的具体条款约定。
通常而言,倘若装修是您于租赁期间自行出资进行,并且合同中未对装修归属作出明确界定,那么未经房东许可私自拆除装修的行为可能会构成违约。如果合同约定您有拆除的权利,并且拆除操作不会对房屋结构与质量造成损害,一般来说是能够拆走的。
不过,要是装修已经与房屋形成附合状态,无法进行分离或者分离操作会导致房屋受损,那么原则上是不可以拆除的。例如固定的门窗、墙面装饰等就属于这种情况。建议您先行仔细查阅租赁合同,若合同当中没有相关的规定,就与房东进行友好协商,依据公平合理的原则来处理。