乐府原是汉代掌管音乐的官署。由于专事搜集、整理民歌俗曲，因此后人就用“乐府”代称入乐的民歌俗曲和歌辞。乐府最初始于秦代，到汉时沿用了秦时的名称。公元前112年，汉王朝在汉武帝时正式设立乐府，其任务是收集编纂各地民间音乐、整理改编与创作音乐、进行演唱及演奏等。

乐府诗对中国古代诗歌样式的嬗革起到了积极的推动作用，实现了由四言诗向杂言诗和五言诗的过渡。在中国古代文学史上，诗歌样式的变革往往和流行乐曲的声调有关。两汉乐府诗最初是配乐演唱的，它之所以在诗体形式上不同于《诗经》的四言句，既是诗歌本身发展的必然结果，也有乐曲的因素发挥作用。

汉代乐府诗歌的曲调来源是多方面的，除了中土各地的乐曲外，还有来自少数民族的歌曲，鼓吹曲辞收录的铙歌18首就是配合北狄西域之乐演唱的。鼓吹曲本是军中用乐，来自北方少数民族。它的曲调和中土音乐有很大差异，因此，配合鼓吹曲演唱的歌诗也就和中土常见的体式明显不同。现存铙歌18首各篇均是杂言，和其他乐府诗迥然有别，是诗歌形式发生的重大变化。

对乐府诗体产生重大影响的乐曲除楚声和北狄西域乐外，还有中土流行的五言歌谣。仅以西汉而言，惠帝时戚夫人所唱的《舂歌》，六句中有五句是五言。李延年为武帝演唱的“北方有佳人”四句歌诗，有三句是五言，第三句去掉调节语气的“宁不知”三字，也变成五言句。成帝时长安流传的《尹赏歌》、《邪径败良田》歌谣，都已经是标准的五言诗。西汉乐府广泛搜集各种歌谣，其中必有相当比重的五言诗。这些五言歌谣在形式上不同于传统的四言诗，引起文人浓厚的兴趣，并且亲自模仿拟作，因此，东汉开始有较多的文人五言诗。从西汉五言歌谣到乐府五言诗，再到文人五言诗，这是早期五言诗发展的基本轨迹。

在六朝，更明确地把“乐府”和“古诗”相对并举，以区别入乐的歌辞和讽诵吟咏的徒诗这两类诗歌体裁。宋、元以后，“乐府”又被借作词、曲的一种雅称。新乐府是唐朝诗人自立新题而作的乐府诗。