4岁孩子持续低烧不退，建议先采取物理降温法进行降温。首先，可以给孩子采用温毛巾或酒精擦拭孩子的额头、腋窝、手心、脚心、腹股沟等部位。如果孩子的体温不高，这种方法一般可以起到退热作用，需要家长有耐心持续擦拭。

其次，如果家中有退热贴的，也可以使用退热贴进行退热。当孩子精神状态尚可的情况下，可以给孩子适当多喂一些温开水，加快代谢。条件允许的情况下，可以给孩子洗个温水澡，需要注意保温，避免着凉。

如果孩子的低烧仍不消退的情况，建议携孩子至医院查血常规、C-反应蛋白等检查后，在医生指导下对症治疗。