案例分析题

红星税务所2006年5月15日接到群众举报，辖区内新颖服装厂（系个体工商户）开业两个月没有纳税。2006年5月16日，税务所对新颖服装厂依法进行了税务检查。经查，该服装厂2006年3月８日办理了营业执照，没有办理税务登记，没有申报纳税。根据检查情况，税务所于5月18日作出如下处理决定：
⑴、责令服装厂5月25日前办理税务登记，并处以500元罚款；
⑵、按规定补缴税款、加收滞纳金，并对未缴税款在《税收征管法》规定的处罚范围内，处以3000元罚款。2006年5月19日送达《税务处罚事项告知书》，5月21日税务所按上述处理意见作出了《税务处理决定书》和《税务行政处罚决定书》，同时下发《限期缴纳税款通知书》，限该服装厂于2005年5月28日前缴纳税款和罚款，并于当天将相关文书送达给了服装厂。
5月28日该服装厂缴纳了部分税款。5月29日税务所又下达了《催缴税款通知书》，催缴欠缴的税款、滞纳金和罚款。在两次催缴无效的情况下，6月２日税务所对服装厂采取了强制执行扣押了服装厂23套服装，以变卖收入抵缴部分税款和罚款。该服装厂6月15日书面向税务所的上级税务机关提出行政复议申请：要求撤销税务所对其作出的处理决定，并要求税务所赔偿因扣押服装给其造成的经济损失。
问：

税务所在执法方面存在了哪些问题？