Mierzwin Mały powstał na przełomie XV i XVI wieku. W 1528 roku notowano wioskę Mierzwin Bartoszewięta (Mirwinskich Bartoszowiat ziemiane). Właśnie pod taką nazwą wioska występowała przez kolejne stulecia. Podobnie jak w Mierzwinie Dużym mieszkała tu uboga i średniozamożna szlachta. Zapewne wielu rycerzy wymienionych przy Mierzwinie Dużym mieszkało lub miało działy ziemi w tej wsi. Był to zaścianek szlachecki, co poświadczają dokumenty podziałów gruntowych z XVIII wieku gdzie zapisano między innymi (1727 od granicy ziemian mierzwińskich zaścianek).

Na mapach z końca XVIII wieku nazwę wsi zapisywano jeszcze jako Mierzwin Bartosienta, dopiero w XIX wieku zaczęto ją zapisywać tak, jak współcześnie. W 1921 roku w tej wsi notowano 23 domy i 116 mieszkańców, w tym 1 prawosławnego. Wioska należała do gminy Topczewo.