Otkupom bogate paleontološke i arheološke zbirke učitelja Stjepana Vukovića 1938. godine nastaje jezgra posebnog Prethistorijskog odjela, a 1949. godine Stjepan Vuković postaje i prvim kustosom tog odjela koji će naknadno prerasti u Arheološki odjel. Danas građa koju je Stjepan Vuković prikupio čini značajan dio fundusa ovog odjela.
Arheološki odjel sustavno prikuplja, dokumentira i obrađuje arheološku građu svih razdoblja prapovijesti i povijesti, sve do razdoblja novoga vijeka. Terenska djelatnost Odjela odvija se na području cijele Varaždinske županije te se njima prikuplja i najveći dio muzejske građe dok otkupi i darovi arheoloških predmeta čine manji dio fundusa. Sustavnim se rekognosciranjima prikupljaju terenski podatci i nadopunjuje se dokumentaciju o lokalitetima.
Stalni postav Prethistorijskog odjela nekada se nalazio u palači Sermage, a Arheološkog odjela u Starome gradu, no od 1983. godine do danas Odjel nema stalnog postava. Zbog toga se muzejska djelatnost Odjela usmjerava na javno izlaganje s ciljem prikaza vrijedne građe iz fundusa muzejskoj publici. Stalni postav planiran je u suradnji s Povijesnim odjelom kako bi se prikazala bogata građa gradske arheologije i povijesti grada Varaždina te povijest Varaždinske županije kroz duži vremenski raspon od prapovijesnih razdoblja pa sve do 20 stoljeća.
Osim javnog izlaganja, Odjel sudjeluje na stručnim i znanstvenim skupovima, objavljivanjem radova, predavanjima i organiziranjem muzejskih radionica u suradnji s muzejskom pedagoginjom.