这个地位显赫的头衔，在历史上曾经有过两种含义：一是官职名称，二是军衔称号。
　　法文元帅一词源自古上德意文“马”和“仆人”。在中世纪的法国和其他一些欧洲国家，元帅是军队中的一般官职，他负责军队的行军队形和作战队形，监督警卫勤务的执行，管理军队庶务以及指挥前卫，选择营地等工作。在中国，汉语元帅一词最早出现在公元前633年的春秋时期，当时只是表示对“将帅之长”的称呼，还不是官职名称。从南北朝起，元帅逐渐成为战时统军征战的官职名称，如北周宣政元年(公元578年)，宣帝宇文氲任命其叔父宇文盛为“行军元帅”，率军作战。隋、唐、五代和宋朝，战时都设元帅职务，唐太宗李世民在继承皇位以前曾担任过“西讨元帅”。当时的元帅按其职权轻重和执掌分工， 大都冠以不同名号，如“天下兵马元帅”、“兵马大元帅”、“行军元帅”、“行营元帅”，其中又有“都元帅”、“元帅”、“副元帅”的等级之分。金朝战时设元帅府，任命不同级别的元帅，专掌征讨之事。元朝各道、州，凡有军旅之事的地方，都设都元帅府或元帅府、副元帅府，任命不同名号的元帅，掌管当地的行政及军事大权。明朝韧年，在枢密院之下设诸翼元帅府，任命元帅、同知元帅等官职，统军征战。元、明两朝的元帅职权较前减轻，仅为二、三品官职。
　　元帅一词用以表示最高军衔，始于 16世纪的法国军队。1559年----1560年，法兰西二世首次授予四名高级将领以元帅军衔称号，至 19世纪拿破仑一世，法国先后有 44人被授予这一军衔。继法国之后，元帅军衔先后被许多国家所采用：16世纪有日尔曼各国，17世纪有奥地利、俄国，18世纪有英国，19世纪有西班牙、土耳其、意大利、日本，20世纪有阿富汗、印度、泰国、朝鲜民主主义人民共和国、蒙古、中国、前苏联、波兰、罗马尼亚、前南斯拉夫、保加利亚、芬兰、埃及、苏丹、扎伊尔、乌干达、巴西等国。有的国家将元帅区分为不同等级。元帅级别设置最多的国家是前苏联，设有苏联大元帅、苏联元帅、主帅、元帅四级；第二次世界大战中，纳粹德国的元帅区分为帝国元帅和军种元帅两个级别；朝鲜民主主义人民共和国的元帅，区分为元帅和次帅两级；中华人民共和国 1955年的法律文件规定，设中华人民共和国大元帅和中华人民共和国元帅，大元帅设而未授，授予元帅军衔的有 10人，朱德、彭德怀、林彪、刘伯承、贺龙、陈毅、罗荣桓、徐向前、聂荣臻、叶剑英。

　　有的国家还将元帅区分为不同种类。一般分为陆军元帅、海军元帅和空军元帅三种；前苏联还在陆军中又区分为炮兵元帅、装甲兵元帅、工程兵元帅、通信兵元帅等。