Ganed a magwyd Mark yng ngorllewin Cymru cyn symud i Gaerdydd fwy na 30 mlynedd yn ôl. Ers hynny mae wedi byw yn ardal Pontcanna o Gaerdydd. Bu’n swyddog prawf, yn weithiwr cyfiawnder ieuenctid ac yn arweinydd prosiect Barnardos yn Nhrelái a Chaerau, ac mae wedi fod yn Athro mewn Polisi Cymdeithasol a Gwyddorau Cymdeithasol Cymhwysol ym Mhrifysgol Caerdydd. Mae Mark hefyd wedi dysgu ym Mhrifysgol Abertawe.

Yn yr 1980au a'r 1990au roedd Mark yn gynghorydd Llafur ar Gyngor Sir De Morgannwg, gan arbenigo mewn materion addysg, gan gynnwys addysg cyfrwng Cymraeg. Rhwng 2000 a 2010 bu'n gweithio fel cynghorydd polisi iechyd a chymdeithasol yn Llywodraeth Cymru cyn dod yn bennaeth swyddfa wleidyddol y Prif Weinidog. Mae ganddo werth 30 mlynedd o wybodaeth o etholaeth Gorllewin Caerdydd.

Daeth Mark yn Aelod o’r Senedd dros Orllewin Caerdydd ym mis Mai 2011. Roedd yn Gadeirydd Pwyllgor Iechyd a Gofal Cymdeithasol y Cynulliad o fis Gorffennaf 2011 – Mawrth 2013 a’r Pwyllgor Monitro Rhaglenni Ewropeaidd Cymru Gyfan o fis Gorffennaf 2011 – Mawrth 2013. Penodwyd yn Weinidog dros Iechyd a Gwasanaethau Cymdeithasol ym mis Mawrth 2013. Penodwyd yn Ysgrifennydd y Cabinet dros Gyllid a Llywodraeth Leol ym mis Mai 2016. Penodwyd Mark yn Ysgrifennydd y Cabinet dros Gyllid ar 3 Tachwedd 2017. Ar 12 Rhagfyr 2018 penodwyd Mark yn Prif Weinidog Cymru a daeth yn aelod o'r Cyfrin Gyngor ar 13 Chwefror 2019.