霍元甲生于1869年，祖居天津西郊（今西青区）小南河村，其父霍恩第是当时名噪一时的拳师。
民间传说霍元甲幼年时身体瘦弱，常受同乡孩子的欺负，经常被弟兄们笑话。霍恩第怕霍元甲有损家风，便禁止他练武，令其苦读诗书。这大大刺伤了幼年霍元甲的自尊心。于是，他便偷着练武，暗中和兄弟们较上了劲儿。几年后，一位著名武师上门挑战霍家拳法，霍元甲挺身而出，只几个回合便将对手一腿踢倒。霍元甲“武艺高强”的名声也从此传扬开去。
实际上，霍恩第当年并没有禁止霍元甲练武。据老一辈的武林人士证实，霍元甲虽然身高只有一米六几，但从小体魄强健，抗击打能力与爆发力超人，属于资质极高的武学天才。少年时代的霍元甲，除了向父亲学习武功外，还打破门户观念，向其他门派的武师学习，练就了一身好本领。
尽管身怀绝技，但据史料记载，霍元甲一直为人低调，只以卖柴和卖脚力为生。他的武功最初只是为了防身自卫，后来由于出于侠义之心，经常路见不平拔刀相助，才为世人所知。不过，真正让霍元甲名扬天下的，还是他几番与洋人打擂比武。
1898年，戊戌变法失败，同情维新派的北京源顺镖局掌柜王子斌(人称“大刀王五”)被迫避难津门。他与霍元甲一见如故，成为莫逆之交。八国联军侵华期间，王子斌在北京遇害。霍元甲与徒弟刘振声潜入京师，取回了王子斌的首级，与《老残游记》的作者刘鹗一道，将义士身首合葬。
霍元甲眼见八国联军在北京、天津一带的累累罪行，在心中埋下了对侵略者的仇恨和对清政府的愤懑。于是，霍元甲回乡招募武勇，以图报效国家。
