Es una manera más suave de decir "me voy". Cuando estás con un grupo de gente y dices "me voy", puede sonar brusco y repentino. Si dices algo como "bueno, me voy a ir yendo..." significa que enseguida o dentro de poco te vas a ir, pero que no tienes ninguna prisa (¿y que no te importaría quedarte más?).