Ólafur pá átti Hjarðarholt og þar fæddist Kjartan Ólafsson. Þar ólust þeir frændur Kjartan og Bolli upp saman. Áður en Ólafur keypti Hjarðarholt bjó þar maður sem kallaður var Víga-Hrappur en þá kallaðist bærinn Hrappsstaðir. Víga-Hrappur var mikið illmenni og ekki síður eftir dauðann því hann gekk aftur og réðst á fólk og búfé. Ólafur kunni hins vegar ráð við draugnum, lét opna hauginn hans og brenna lík hans og dreifði öskunni út á haf. Eftir það sást draugurinn ekki aftur. Núna er falleg kirkja í Hjarðarholti en hún var vígð árið 1904.