Pikkuvarpunen on laitakaupungin lintu, joka pitää aukeista rikkaruohokentistä ja niityistä. Se ei varpusen tapaan viihdy aivan kivikaupungin keskellä tai rakennusten sisällä. Pikkuvarpunen on levittäytynyt ja runsastunut ilmiömäisesti koko Suomessa, myös Helsingissä.
Pikkuvarpusella on valkoisessa poskessa tumma täplä, sukupuolet ovat samannäköiset. Se lentää pitkiä matkoja mielellään, toisin kuin varpunen.
Pesä on usein pöntössä tai puunkolossa. Sen tunnistaa valkoisesta poskesta, jossa on musta täplä.