用人单位如果是国家机关或参公管理的，对于缓刑人员应当是开除公职；其他单位根据《劳动合同法》也是可以解除劳动合同的，但已经决定不解除的，按照一事不再罚原则，以后不得以同样的理由再决定解除。　　
一、如果是国家机关或参公管理的单位，被判刑的，必须开除。而三年前不开除，其做法本身是错误的，应当予以纠正。　　
二、如果是其他单位的，当初用人单位选择继承留用的，现在则不能再开除。
三、法律依据：
《劳动合同法》第三十九条劳动者有下列情形之一的，用人单位可以解除劳动合同：(六)被依法追究刑事责任的。
《行政机关公务员处分条例》第十七条　行政机关公务员依法被判处刑罚的，给予开除处分。