一般来说，这种诗体在西汉时代已在民歌中流行，如《汉书·五行志》所载成帝时民谣“邪径败良田”；《贡禹传》所载民谣“何以孝悌为”及《酷吏传》所载民谣“安所求子死”等，均系民歌。这说明最晚到西汉中期以后，这种诗体已经出现。但是这些民谣恐怕还不能算最早的五言诗。因为在《汉书·外戚传》中有一首李延年的《李夫人歌》也全属五言。此诗作者本是朝廷的乐官（协律都尉），既非著名文人，也不是一般百姓。他创作这首歌时，很可能采用了当时民歌的形式，所以说五言诗的形式，应该出现于汉武帝以前。事实上现存的史料中，确有一些更早的五言诗，如：唐张守节《史记正义》在《项羽本纪》中引项羽的宠姬虞美人《和项王歌》：汉兵已略地，四方楚歌声。大王意气尽，贱妾何乐生。
又：《汉书·外戚传》引汉高祖姬成夫人所作《春歌》：子为王，母为虏。终日舂薄暮，常与死为伍。相离三千里，当谁使告汝。
这两首诗中，前者是纯粹的五言，后者则首二句为三言。历来学者对前一首曾持怀疑态度，对后者则似乎并无异议。不过，人们对前一首的怀疑，主要就因为它是五言体，与项羽所作的《垓下歌》文体不同。这看法亦难视为定论。因为虞美人和戚夫人两人时代相去甚近，而戚夫人之作既无可疑，而其体又基本上属于五言，，那就很难说虞美人之作出于伪托。何况《楚汉春秋》是汉初陆贾所作，其书著录于《隋书·经籍志》，说明唐代尚存，更难说此诗必不可信。所以说五言民歌的兴起，恐怕最晚也得在汉初以前。
