北魏初期的职官制度，是比较典型的“胡汉杂糅”风格，有的使用中原汉族的官名，有的使用鲜卑名称。例如，称皇室子弟为“直勤”、内左右为“羽真”或“直真”等；再如《魏书》中有“驾部尚书”，但鲜卑语称尚书为“俟勤地何”、驾部为“乞银曹”。诸如此类，让一般人摸不着头脑。所以，出于汉化改革的需要，孝文帝在废除鲜卑语的同时，也开始对“胡汉杂糅”的职官制度加以改革。

帮助孝文帝改革官制的主要人物，是自南朝北奔的王肃（464—501，字恭懿，琅邪临沂即今山东临沂人，北魏名臣，本东晋王导后裔、南齐尚书左仆射王奂之子，493年因为父兄被齐武帝萧赜所杀，王肃遂投奔北魏）。王肃是著名的世家大族，对于南朝的礼仪文化、典章制度比较熟悉。王肃所拟定的北魏新官制，主要就是模仿魏晋南朝，当然也有新的发展。经过王肃厘定过的北魏新官制，去掉了北魏旧制中的鲜卑成份，使得北魏的职官系统和魏晋南朝几乎没有什么区别。

法律建设也是孝文帝汉化改革的一个重要方面。早在孝文帝之前，道武帝拓跋珪、太武帝拓跋焘、文成帝拓跋濬在位期间，都曾修定过律令。孝文帝太和时期，北魏统治者曾于太和元年至五年（477—481）、太和十一年至十六年（487—492）两次修订律令，新律令于太和十六年四月正式颁布实施。

新律令与以前的律令相比，主要表现为文明程度更高，兹以死刑为例，略加说明：北魏初期，死刑有轘（huàn，车裂）、腰斩、斩首、绞四种；新律令废除了轘、腰斩，改为枭首、斩首、绞三种。再如，北魏前期有所谓“门房之诛”，如崔浩事件发生，按照“门房之诛”的规定，凡是与崔浩有亲属连带关系的，“清河崔氏无远近，范阳卢氏、太原郭氏、河东柳氏，皆浩之姻亲，尽夷其族。”可以说，北魏初期“门房之诛”的株连范围比汉族灭“三族”“九族”更为残酷。太和十六年（492），新律令颁布以后，“门房之诛”与夷三族、五族等野蛮现象基本绝迹了。

孝文帝依靠汉人文士修订律令，不仅废除了惨无人道的“门房之诛”和“族诛”等酷刑，更重要的是通过修订律令表明一种观念，以显示北魏乃是君临华夏的正统。