Reentering a Virginia törvényhozás 1784-ben, Madison legyőzte Patrick Henry törvényjavaslatot, hogy pénzügyi támogatást “tanárok a keresztény vallás.”Hogy elkerülje a politikai hatása a szélsőséges nacionalizmus, meggyőzte a tagállamok-jogok szószólója John Tyler, hogy egyedül a hívó az Annapolis-i Egyezmény 1786, amely segíti Madison befolyása, előállított, az Alkotmányos Egyezmény 1787.,

ott az ő Virginia, vagy nagy állam, terv, előadott kormányzó Edmund Randolph, bútorozott alapvető kereteit és irányadó elveit az Alkotmány, megszerezte neki a címet apja az Alkotmány. Madison hevesen hitt egy erős kormány értékében, amelyben a hatalmat jól irányították, mert jól kiegyensúlyozott volt az ágak között. Küldött William Pierce grúziai írta, hogy, a menedzsment minden nagy kérdés, Madison ” mindig jön elő a legjobban tájékozott ember bármely pontján vita.,”Pierce nagy szerénységű úriembernek nevezte-figyelemre méltó édes temperamentummal. Ismerősei között könnyű és fenntarthatatlan, és nagyon kellemes beszélgetési stílusa van.”

az alkotmányjogi Egyezmény vitáiról napi jegyzeteket készített, amelyek az eljárás egyetlen átfogó történetét szolgáltatják. A ratifikáció előmozdítása érdekében együttműködött Alexander Hamiltonnal és John Jay-vel a Federalist papers újságkiadásában (Madison 85-ből 29-et írt), amely az Alkotmány szokásos kommentárjává vált., A befolyását Virginia hozta létre, és John Marshall azt mondta, hogy ha az ékesszólás magában foglalja a ” meggyőzést meggyőzéssel, Mr. Madison volt a legékesszólóbb ember, akit valaha hallottam.”

megválasztották az új Képviselőházba, Madison támogatta az Alkotmány első 10 módosítását—a jogokról szóló törvényjavaslatot—hangsúlyt helyezve a vallásszabadságról, a beszédről és a sajtóról folytatott vitában. Vezetése a házban, ami miatt a massachusettsi képviselő Fisher Ames “első emberünknek” nevezte, véget ért, amikor Hamilton pénzügyminiszterrel szétvált a háborús adósságok finanszírozásának módszerei miatt., Hamilton célja az volt, hogy erősítse a nemzeti kormány által cementáló férfiak vagyon rá; Madison igyekezett érdekeinek védelme forradalmi veteránok.

Hamilton győzelme a kongresszusi hatalom szigorú konstruktőrévé tette Madisont, hogy megfeleljen az Általános jólétnek. Tagadta, hogy a kincstár megsegítésére létrehozna egy nemzeti bankot. Később elnökként “szinte szükségszerűnek” nevezte a bankot, de azt állította, hogy ez csak azért alkotmányos, mert Hamilton bankja alkotmányos kihívás nélkül ment el., A hiba beismerésére való hajlandóság egész életen át tartó jellemző volt. A finanszírozás megszakítása a Kongresszust Madisoni és Hamiltoni frakciókra osztotta, Fisher Ames most Madisont “kétségbeesett pártvezetőnek” nevezte, aki olyan szigorú fegyelmet hajtott végre, mint a porosz.”(A madisoniak Jeffersoniakká váltak, miután Jefferson visszatért Franciaországból, államtitkár lett.)

1794-ben feleségül vett egy özvegyet, Dolley Payne Toddot (Dolley Madison), egy jóképű, Bögyös, élénk Quakert, aki 17 évvel fiatalabb volt, aki elutasította az egyházi fegyelmet és szerette a társadalmi tevékenységeket., Első férje az előző évben a sárgaláz-járványban halt meg. Rendszeresen hivatalos háziasszonyként szolgált Jefferson elnök számára, aki özvegy volt. Madison feleségeként a soirées-en lett díszlettervező, általában színes tollas turbánt és elegáns, ékszerekkel és szőrmékkel díszített ruhát viselt. Azt lehet mondani, hogy létrehozta a first lady szerepét az elnök politikai partnereként, bár ez a címke csak sokkal később került felhasználásra. Egy szerény nő, aki szívből evett, szerencsejátékozott, gazdagon dörzsölte az arcát, és snuff-ot vett., A” szerdai szalon”, amelyet a nyilvánosság számára indított, növelte népszerűségét. Kiérdemelte a nemzet halhatatlan háláját, amiért 1814-ben megmentette George Washington Gilbert Stuart portréját, közvetlenül a brit csapatok előtt, akik az 1812-es háborúban a fáklyát a Fehér Házba helyezték.

Madison bal Kongresszus 1797-ben, undorodik John Jay szerződés Angliában, amely frusztrált a program a kereskedelmi megtorlás ellen a háborús elnyomás AMERIKAI tengeri kereskedelem. Az Idegen pedig Lázadás jogi Aktusok, 1798 inspirálta, hogy a tervezet a Virginia állásfoglalásait, abban az évben, lerántja azok a jogszabályok, mint megsértése az Első Alkotmány, valamint megerősíti a feladata, hogy a tagállamok “, hogy eredményeként a letartóztató a haladás, a gonosz.,”Gondosan megfogalmazva, hogy kevésbé jogilag jelent, mint amilyennek látszott fenyegetni, arra kényszerítették, hogy nyolcéves éveit a dél-karolinai értelmezéssel szemben az állami hatalom szankciójaként Töltse, hogy semmisítse meg a szövetségi törvényt.