Pierwotnie istniała tylko jedna wioska Mierzwin. Powstała jeszcze w XV wieku, gdy zamieszkali tu rycerze herbu Ogończyk. Na przełomie XV i XVI wieku wieś rozpadła się na dwie części. W jednej mieszkali potomkowie Bartosza w drugiej potomkowie Jaksy. Współczesny Mierzwin Duży to dawna wieś Mierzwin Jaksy. Jest ona notowana w 1528 roku jako Seło Mirwino Jakszowiata.
Większość okolicznych rodów szlacheckich nie odegrała większej roli w historii ziemi bielskiej, byli tylko jednym z ponad 200 rodów, jakie tu notowano, inaczej było z Mierzwińskimi. Już w 1530 roku notuje się Macieja z tej wsi ziemianina bielskiego. W połowie XVI wieku żył Bartłomiej, który miał synów: Jakuba i Tomasza – dziedzica w Pierzchałach. Do końca XVI wieku kroniki wymieniają jeszcze kilkunastu innych Mierzwińskich, być może niektórzy z nich pochodzili z drugiego Mierzwina, lecz sam fakt pojawiania się ich w różnych urzędach i sądach świadczy o większej roli tego rodu w ziemi bielskiej.
W XVII stuleciu wielu z nich uczestniczyło w elekcjach królewskich. W 1670 roku Jakub Mierzwiński z Mierzwina został burgrabią bielskim. Mierzwińscy w tym czasie byli już licznym rodem i notowano ich również z poszczególnych częściach okolicy Niewina. W końcu XVII wieku jeden z Mierzwińskich (Nikodem) został kolejnym burgrabią bielskim, a jego syn Jan, geometrą ziemi bielskiej. Tenże procesował się o działy ziemi w Falkach-Flipach i uczestniczył w elekcji królewskiej z 1697 roku. W 1702 roku Konstanty z Mierzwina został łowczym bielskim, w 1740 Antoni Mierzwiński był skarbnikiem ziemskim bielskim. W XVIII wieku stuleciu kilku z nich uczestniczyło w elekcjach królewskich. Część z nich wyjechało stąd i byli notowani na Ukrainie i ziemi krakowskiej.
Jak przystało na utytułowany ród Mierzwińscy udowodnili swoje prawa szlacheckie. W 1866 roku do ksiąg szlachty okręgu białostockiego zostali wpisani: Fabian, syn Michała-Adama wraz z synami Aleksandrem i Franciszkiem. Wpisano też Jana syna Józefa i Piotra syna Michała.
Dawna nazwa wsi Mierzwin Jaksy jeszcze w XVI wieku zmieniała się w Mierzwin Wielki. Ta ostatnia nazwa była używana w XVIII, XIX i na początku XX wieku. Według Słownika Geograficznego Mierzwin Wielkie stanowił okolicę szlachecką w guberni grodzieńskiej.
W 1921 roku Mierzwin Wielki liczył 32 domy i 176 mieszkańców, w tym 2 prawosławnych. W północnej części wsi przed wojną istniał wiatrak.
W latach 1923-1928 nastąpiło scalenie gruntów w tej wsi oraz w sąsiednim Mierzwinie Małym.
W latach 1983-1985 zbudowano tutaj kaplicę dojazdową pw. Wniebowstąpienia Pana Jezusa. Jej poświęcenia dokonał 22 września 1985 roku ks. Władysław Jędruszuk, administrator apostolski.
