马关历史悠久。早在旧石器时代就有古人类在此生息。西汉元鼎六年(公元前111年),马关属益州爿羊爿郡进桑县。东汉时改属进乘县。三国蜀汉建兴三年 (公元225年) 三月,属兴古郡进乘县。西晋永嘉四年(310年),属宁州梁水郡新丰县。北周时,属西爨(白蛮)地。隋代属昆州。唐初马关属南宁州都督府郎州地。南诏时属通海都督僚子部。宋代大理国前期, 属通海都督矣部,后期属最宁镇矣尼迦部。
元初在云南实行军事统治。至元八年(1271年),属南路总管府阿僰万户舍资千户。 至元十三年属临安路矣尼迦部。
明代先属八寨长官司,直隶云南布政使司,后属临安府阿迷州教化三部长官司。从宋皇佑初年至清初,马关为龙氏土司领地达600余年。
清康熙六年(1667年)“改土归流”后,马关属开化府。雍正六年( 1728年)九月,设“马白关”。雍正八年设马白同知专理对外事务。嘉庆二十五年( 1820年)设安平厅,改马白同知为安平抚彝同知。安平厅署设于开化 (今文山) 与知府衙门同城。安平厅辖永平、逢春、东安3里。光绪十一年(1885年)“中法战争”结束后,中国丧失了对越南的宗主国地位,越南变成了法国殖民地。光绪十三年,中法两国互派官员至中越边境勘定边界,都龙等地回归中国, 取名归仁里,为安平厅管辖。光绪三十二年九月二十六日安平厅衙门由开化移至马白。宣统三年(1911年), 安平厅在辛亥革命和昆明“重九”起义影响下,于九月十五日(11月5日)响应国民革命竖旗反正。
民国2年(1913年)改厅为县,先属蒙自道管辖, 后属云南省第二行政督察区。因其与贵州安平县同名,故改为马关县。民国37年11月,建立人民民主政权。隶属云南文山专区。1958年4月建立文山壮族苗族自治州后,属云南省文山州至今。