“上山下鄉”一詞最早見於1956年10月25日中共中央政治局關於《1956年到1967年全國農業發展綱要(修正草案)》的檔案中，第一次提出知識青年上山下鄉的這個概念，這也成了知青上山下鄉開始的標誌。

真正意義上的上山下鄉始於1955年，（為縮小城鄉差距），這年的8月9日，北京青年楊華、李秉衡等人向共青團北京市委提出到邊疆區墾荒，11月份獲得北京市團委的批准與鼓勵，隨後引起城市知識青年到農村和邊疆墾荒的熱潮，毛主席發出“農村是一個廣闊的天地，到那裡是可以大有作為的”，“知識青年到農村去，接受貧下中農的再教育，很有必要”的指示，中國政府組織大量城市“知識青年”離開城市，在農村定居和勞動的群眾路線運動。