廬山云霧茶古稱“聞林茶”。《廬山志》記載，東漢時，佛教傳入我國后，佛教徒便結舍于廬山。當時全山梵宮僧院多到三百多座，僧侶云集。他們攀崖登峰，種茶采茗。
東晉時，廬山成為佛教的一個很重要中心，高僧慧遠率領徒眾在山上居住三十多年，山中也栽有茶樹。唐寧兩代文人墨客多有贊頌之作，唐代大詩人白居易曾在廬山香廬峰結廬而居，親辟園圃，植花種茶，詩云：“藥圃茶園為產業，野麋林鸛是交游”。
寧代詩人周必大有“淡薄村村灑，甘香院院茶”之句。后來，明太祖朱無璋曾屯兵廬山天池峰附近。朱無璋登基后，廬山的名望更為顯赫。廬山云霧正是從明代開始生產的，很快聞名全國。明代萬歷年間的李日華《紫桃軒雜綴》即云：“匡廬絕頂，產茶在云霧蒸蔚中，極有勝韻”。
宋代，廬山名茶已成“貢茶”。