이 경우 재떨이로 쓰는 것이 맞습니다.
털다’와 ‘떨다’가 동사로 사용되는 경우는 둘 다 맞게 처리되지만 파생 명사의 경우는 ‘떨이’만 맞습니다. 따라서 재떨이 이외에도 먼지떨이 역시 먼지털이는 틀립니다.