墨的起源，一直沒有定論，然而自從長沙戰國楚墓出土了毛筆、竹簡及一些墨塊後，一般認為，墨在戰國時期就已被普遍運用了。

三國魏‧韋誕給明帝的一份奏摺中曾提到說他擅於製墨，可見魏晉時代，墨也已經非常流行。

早期的墨是被做成丸狀，所以有「墨丸」的說法；到了唐代，就已被做成條狀或塊狀，而且也有墨官的設置。南唐李庭珪是歷史上製墨最有名的人，他的祖父就已是墨官，父親奚超也因製墨出名，而被南唐國君賜姓「李」。

現在的墨依其原料分為兩種：

一是松煙墨，用老松枝乾燒成煙煤和膠加藥製成，色澤烏黑，墨色層次多，但較不發亮；另一種是油煙墨，以桐油、菜油、或麻子油等點燃，收集其煙煤再加以漆燒出的煙煤製成，墨色不只黑且發亮。

好墨有：質堅細滑、色澤光潤、輕膠易發墨、上硯無聲等優點。從前蘇東坡以「如小兒眼睛」，形容好墨的墨色又黑又亮又有靈氣。

磨墨時，硯不可有宿墨，注水不可太多，重按輕移，待墨色磨黑，始可再注入清水，再繼續磨墨。也不可急躁而研磨速度太快，否則不僅墨色不易磨黑，而且容易濺出墨水。磨墨可以磨去急躁的個性，修心養性，所以古人有：「因人磨墨墨磨人」的說法。

墨不可受潮，否則易脫膠，致使墨色渾濁；墨也不可風吹日曬，如此墨易斷裂。所以未磨部分可用油紙或塑膠紙包好，使與空氣隔絕。

墨到了明清兩代，還發展出精鑑墨和家藏墨。一是形狀精美，有書畫墨、博古墨等，圖案考究、造型優美適於鑑賞收藏；家藏墨則較注重好煙好膠，以及製作過程的蒸杵功夫等。

總之，墨跟硯及筆一樣，除了書畫之用外，也發展出了工藝及收藏的價值。