Bil je član znamenite mariborske peterice, skupaj s Francetom Forstneričem, Dragom Jančarjem, Andrejem Brvarjem in Tonetom Partljičem. Pisal je poezijo, prozo, literarne in družbenopolitične eseje ter literarnozgodovinske razprave. Med pomembnejšimi deli sta Visoška kronika. Literarnozgodovinska interpretacija in Pazljivejša branja.
Njegovo posebno in najbolj nenavadno delo je Lovec na homokumulate, Kramberger je v njem skušal z interdisciplinarnim pristopom razložiti človekovo vedenje, motivacijo, težnjo po kopičenju in druge značilnosti človeške narave. Delo je nastajalo več kot desetletje in je povezovalo elemente filozofije, psihologije, antropologije in drugih področij.
Kramberger je bil tudi izumitelj družabnih iger; nekatere je pod psevdonimom Mark Berger prodal v Nemčijo, ZDA in na Japonsko.
