Rostbandad myrpitta är till formen typisk för familjen, med knubbig kropp, kort stjärt och långa ben, men är förhållandevis liten. Fjäderdräkten är varmt gulbrun eller rostbrun under, med mindre bjärt brun ovansida. På huvudet syns en tydlig vit ögonring som är mycket bredare bakom ögat. Arten liknar skifferkronad myrpitta, men saknar denna artens kontrasterande grå hjässa. Ögonringen är också vit, ej beigefärgad. Sången består av en snabb serie pipiga visslingar som faller av på slutet.
Rostbandad myrpitta förekommer i Colombia och Venezuela. Den delas in i två underarter med följande utbredning:
Tidigare behandlades leymebambamyrpittan (Grallaricula leymebambae) som en underart till rostbandad myrpitta och vissa gör det fortfarande.
Rostbandad myrpitta hittas i bergsskogar på mellan 250 till 2200 meters höjd. Den uppträder enstaka eller i par i undervegetationen och kan då vara svår att få syn på, vanligtvis sittande en meter eller två ovan mark.