Rodil se je v družini znanega slovenskega literarnega zgodovinarja in etnografa Ivana Grafenauerja, ki je izviral s Koroške, kar je vplivalo tudi na kasnejše Grafenauerjevo zgodovinopisno delo. Po klasični gimnaziji je na ljubljanski filozofski fakulteti študiral zgodovino in geografijo. Po diplomi je bil vpoklican v vojsko, bil je nemški in italijanski vojni ujetnik, po kapitulaciji Italije se je vrnil v Ljubljano, kjer je 1944. doktoriral z nalogo o kmečkih uporih. V tem času se je v povezavi s Franom Zwittrom tudi že posvečal vprašanju slovenskih meja in kot strokovnjak (zlasti za Koroško) 1946. sodeloval v jugoslovanski delegaciji na mirovni konferenci v Parizu. Tega leta je postal tudi docent na novo ustanovljeni katedri za zgodovino Slovencev na Filozofski fakulteti v Ljubljani, kjer je delal do upokojitve 1982 in kjer je predaval tudi uvod v študij zgodovine.
Ves čas svojega znanstvenega in univerzitetnega delovanja je bil zelo aktiven tudi v okviru stanovske organizacije slovenskih zgodovinarjev: med drugim je bil prvi glavni in odgovorni urednik Zgodovinskega časopisa ter predsednik Zgodovinskega društva za Slovenijo. Nič manj tesno je bil povezan s Slovensko matico, kjer je bil med letoma 1978 in 1988, v času, ko so je Matica angažirano in odmevno vključevala v širše družbeno dogajanje, njen predsednik. Ves čas je ostal povezan tudi s Koroško, kjer je redno sodeloval na Koroških kulturnih dnevih in bil od 1977 naprej tudi predsednik Kluba koroških študentov v Ljubljani.
Grafenauerjeva znanstvena bibliografija sodi med najobsežnejše med slovenskimi zgodovinarji. V svojem raziskovalnem opusu je obravnaval vsa obdobja slovenske zgodovine, čeprav je svoja najpomembnejše raziskave opravil na področju srednjeveške zgodovine, kjer je velikokrat presegal okvirje slovenskega prostora. Tu je največ pozornosti posvetil vprašanjem slovanske naselitve, razmerju med Slovani in Avari, še prav posebej pa karantanski zgodovini in problematiki ustoličevanja koroških vojvod. Drugo veliko področje njegovega dela je bila agrarno-socialna zgodovina, znotraj nje pa še prav posebej kmečki upori. Pomembne so tudi njegove raziskave slovenske zgodovine 19. in 20. stoletja, med katerimi izstopajo dela, posvečena slovenskim mejam in boju zanje ter dela, v katerih je obravnaval narodnostne razmere na Koroškem. Ne moremo tudi spregledati njegovih del o slovenski historiografiji, kateri se je načrtno posvečal. Napisal je tudi več pregledov slovenske (srednjeveške) zgodovine.
Med številnimi deli, ki jih je napisal, je potrebno izpostaviti monumentalno monografijo Ustoličevanje koroških vojvod in država karantanskih Slovencev (Dela I. razreda SAZU 7, Ljubljana 1952). V več redakcijah in izdajah je izšla njegova (nedokončana) Zgodovina slovenskega naroda 1 (1978), 2 (1965), 3 (1956), 4 (1961), 5 (1974). Pomembna je njegova monografija Kmečki upori na Slovenskem (1962), prav tako Boj za staro pravdo v 15. in 16. stoletju na Slovenskem (1974). Kot uvod v študij zgodovine je še vedno dragocena Struktura in tehnika zgodovinske vede (1960), medtem ko so njegovi mladostni publicistični članki zbrani v Slovensko narodno vprašanje in slovenski zgodovinski položaj (1987), izbrane razprave iz zgodnjesrednjeveške zgodovine pa v monografiji Karantanija : izbrane razprave in članki (2000).
