據說，唐朝大詩人李白小時候不喜歡讀書，有一次他想中途輟學，在回家路上，經過一條小溪時，看見一位老婆婆蹲在地上，手裡握著一根大鐵杵，在一塊石頭上努力地來回磨著。

李白很好奇，便問老婆婆說：「您在做什麼呢？」

老婆婆頭也不抬，回答他說：「我要把這根鐵杵磨成細細的繡花針！」

李白十分驚訝的說：「鐵杵這麼粗大，怎麼有可能磨成小小的繡花針呢？」

老婆婆一邊磨一邊說：「只要工夫深，鐵杵磨成針！」

李白聽了婆婆的話，受到啟發和激勵，立刻返回學堂，從此專心一志，發憤讀書，最後成為著名的大詩人。後來，人們便用「鐵杵成針」來比喻，只要有恆心毅力，肯下苦功，再難的事也能辦得到。

出典於宋·祝穆《方輿勝覽·五十三·磨針溪》。