你这种尚未结婚就生育子女的行为,已违反了相关生育政策,会被当地计生部门依法征收社会抚养费(也就是你所说的罚款)。
比如《浙江省人口与计划生育条例》第四十一条第一款第四项规定,违反本条例规定生育的,对男女双方分别按照统计部门公布的当地县(市、区)上一年城镇居民人均可支配收入或者农村居民人均可支配收入的下列倍数征收社会抚养费:
(四)已满法定婚龄未办理结婚登记而生育第一胎,满六个月后仍未办理结婚登记的,按照零点五倍征收生育第二胎的,按照一倍征收。
你可以在网上查阅你省的这个《条例》。
希望我的回答能对你了解相关政策有所帮助。