회색짧은꼬리주머니쥐는 비교적 작은 동물로 겉모습이 물밭쥐류와 유사하다. 야생에서 회색짧은꼬리주머니쥐의 몸길이는 12~18cm, 몸무게는 58~95g이며 수컷이 암컷보다 크다.그러나 포획된 상태에서는 수컷이 아주 많이 커서, 수컷 몸무게는 최대 150g에 이른다. 이름이 함축하고 있는 바와 같이, 다른 주머니쥐류보다 꼬리가 짧으며 5~9cm 정도이다.
거의 몸 전체가 회색빛 갈색을 띠고, 하체로 갈수록 점차 희미하고 연한 색을 보이며 발 쪽은 거의 흰색에 가깝다. 꼬리의 몸 쪽 부분만 털이 있고, 꼬리 전체는 거의 털이 없다. 발톱이 잘 발달되어 있고, 휘어져 있다. 대다수의 다른 유대류와 달리 암컷에게 육아낭이 없다. 일반적으로 13개의 젖꼭지를 갖고 있으며, 표면 안 쪽에 힘줄이 있어서 몸 쪽으로 끌어 들일 수도 있다.