A honfoglalás után a magyarok a Gyöngyös és a Rába összefolyásánál sárból, agyagból, cölöpökből építettek maguknak várat, melyről Ernecz Ignác, Sárvár első történetírója: "A belső vár téglalap alakú, északnyugati részén erős beugrással, míg a nyugati csúcsra megnyúlt, és magassága egyenlő volt a külső föld szintjével. A belső várat mély árok vette körül, amelybe szükség esetén a közeli Gyöngyösből gyorsan vizet ereszthettek. A várat sánc vette körül. A várnak régi neve "fekete vár" (Castrum nigrum vagy Vignitia) volt.

A honfoglalás során e vidéket Lél és Vérbulcsú törzse szállta meg, akik annak védelmére a mai óvér-dűlő tájékán földvárat építettek. Első okleveles említése 1192-ben történik "castrum Sarvar" alakban, ez időben királyi vár volt. 1273-ban IV. László király a Ják nemzetségnek adományozta. Károly Róbert király 1327-ben kelt oklevelével a régebbi jogokat felújította, ebből az derült ki, hogy Sárvár uralkodásának első két évtizedében királyi vár volt, Köcski Sándor foglalta vissza a Németújvári családtól.

Amikor Kanizsaiak kezére került a vár, nagyobb átalakításokat, új építkezéseket végeztek. E család nevéhez fűződik a lakórész, a palota bővítése, és a ma is látható kaputorony építkezéseinek megkezdése. A lakóépület első emeletén mindkét irányban nagyméretű ablakokat nyitottak, melyeknek késő gótikus kőkeretei időközben elpusztultak. A XVI. század elején a palotán kisebb jelentőségű átalakításokat végeztek a Kanizsaiak.

Zsigmond király 1390-ben Sárvárt tartozékaival együtt az Osl nemzetségből származó Kanizsai János esztergomi érseknek és testvérének adományozta Léka várával, Csepreg és Szigeth nevű mezővárosokkal és ezek tartozékaival együtt. A Kanizsaiak itteni várkapitánya az 1400-as évek elején Egervári Mihály volt. A Kanizsaiak hűtlensége miatt a király Sárvárt tőlük elvette, és előbb a Garaiaknak, majd 1411-ben a firenzei származású Philippo Scolarinak adományozta. Zsigmond király 1424. június 24-én kelt oklevelével megerősítette azt a csereszerződést, amely szerint Ozorai Pipó temesi főispán Sárvár várát összes uradalmával együtt Simontornya váráért és tartozékaiért Kanizsai Istvánnak és Jánosnak elcserélte. Kanizsai László Vas vármegyei főispán halála után leánya, Orsolya örökli a hatalmas birtokot, és ide költözött nagynénjével, Dorottyával. Itt jegyezte el a még csak 14 éves Orsolyát Nádasdy Tamás 1432-ben, és e házasság révén Sárvár is a kezére került.

A birtok kezelését, apja Nádasdy Ferenc vette át, aki reneszánsz stílusban folytatta az építkezéseket. Az északi főbejárat és a felette emelkedő kaputorony építését befejezték. A várárkon híd vezetett a bejárathoz, amely 1552-re készült el. Nádasdy Tamás nevéhez fűződik a keleti palotaszárny gótikus épülete elé épített reneszánsz nyitott folyosó, a földszinti pilléres árkádsorral. A vár építkezései feltehetően 1559-ben fejeződtek be.

A vár további megerősítése, a belső udvarban elhelyezett tábla szerint 1588-ban kezdődtek meg, amikor Nádsdy Ferenc a régi fa- és földvárat kőből kezdte átépíteni, munkálatait fia Pál fejezte be 1615-ben. A régi falak, bástyák elé alig 1-2 méterre helyezték el a ma látható tégla-és terméskő falakat, illetve bástyákat; ezek a régiekhez hasonlóan ó-olasz rendszerűek.

Szulejmán szultán fővezére, Ibrahim Kőszeg várával egyidőben Sárvárt is el akarta foglalni. A vár őrsége azonban a több napos ostromot sikeresen verte vissza.