初，魏孝庄帝以尔朱荣有翊戴之功，拜荣柱国大将军，位在丞相上。荣败后，此官遂废。大统三年，魏文帝复以周文帝建中兴之业，始命为之。其后功参佐命，望实俱重者亦居此职。自大统十六年已前，任者凡有八人。周文帝位总百揆，都督中外军事。魏广陵王欣，元氏懿戚，从容禁闼而已。此外六人，各督二大将军，分掌禁旅，当爪牙御侮之寄。当时荣盛，莫与为比。故今之称门阀者，咸推八柱国家。今并十二大将军录之于左：
使持节、太尉、柱国大将军、大都督、尚书左仆射、陇右行台、少师、陇西郡开国公虎。
使持节、太傅、柱国大将军、大宗师、大司徒、广陵王元欣。
使持节、柱国大将军、大都督、大宗伯、赵郡开国公李弼。
使持节、柱国大将军、大都督、大司马、河内郡开国公独孤信。
使持节、柱国大将军、大都督、大司寇、南阳郡开国公赵贵。
使持节、柱国大将军、大都督、大司空、常山郡开国公于谨。
使持节、柱国大将军、大都督、少傅、彭城郡开国公侯莫陈崇。
与周文帝为八柱国。
使持节、大将军、大都督、少保、广平王元赞。
使持节、大将军、大都督、淮安王元育。
使持节、大将军、大都督、齐王元廓。
使持节、大将军、大都督、平原郡开国公侯莫陈顺。
使持节、大将军、大都督、七州诸军事、秦州刺史、章武郡开国公宇文导。
使持节、大将军、大都督、雍州诸军事、雍州刺史、高阳郡开国公达奚武。
使持节、大将军、大都督、阳平郡开国公李远。
使持节、大将军、大都督、范阳郡开国公豆卢宁。
使持节、大将军、大都督、化政郡开国公宇文贵。
使持节、大将军、大都督、荆州诸军事、荆州刺史、博陵郡开国公贺兰祥。
使持节、大将军、大都督、陈留君开国公杨忠。
使持节、大将军、大都督、岐州诸军事、岐州刺史、武威群开国公王雄。
是为十二大将军。每大将军督二开府，凡为二十四员，分团统领，是二十四军。每一团，仪同二人。自相督率，不编户贯。都十二大将军。十五日上，则门栏陛戟，警昼巡夜；十五日下，则教旗习战。无他赋役。每兵唯办弓刀一具，月简阅之。甲槊戈弩，并资官给。
自大统十六年以前，十二大将军外，念贤及王思政亦拜大将军。然贤作牧陇右，思政出镇河南，并不在领兵之限。此后功臣位至柱国及大将军者众矣，不限此秩，无所统御。六柱国、十二大将军之后，有以位次嗣掌其事者，而德望素在诸公之下，并不得预于此例。