劉徽開創了探索圓周率的精確方法，另一位中國古代數學家祖沖之的主要成就，也恰恰在于圓周率的計算方面。據《隋書•律歷志》記載，祖沖之確定了圓周率的不足近似值為3．1415926，剩余近似值為3．1415927，這是世界上首次將圓周率精確到小數點后第七位。直到16世紀，阿拉伯數學家阿爾•卡西才打破了這一紀錄。祖沖之實際上還給出了圓周率的誤差范圍。

    祖沖之還和他的兒子祖?一起，用巧妙的方法解決了球體積的計算問題。《九章算術》中認為，外切圓柱體與球體積比等于正方形與其內切圓面積之比，劉徽為《九章算術》作注時指出，原書的說法是不正確的，只有“牟合方蓋”（垂直相交的兩個圓柱體的共同部分的體積）與球體積之比，才正好等于正方形與其內切圓的面積之比。但劉徽沒有求出兩圓柱體垂直相交部分的體積公式，也就得不出球體積公式。祖沖之父子應用“等高處橫截面積常相等的兩個立體，其體積也必然相等”這一原理，求出了牟合方蓋的體積。而球體體積等于π／4乘以牟合方蓋體積，從而最終算出球體積為πD3／6（D為球直徑），這個公式就是著名的“祖?公理”。西方人得到這一公理時，距祖沖之父子已1000余年。祖沖之還研究過“開差冪”和“開差立”問題，這涉及到了二次、三次方程求根的問題，祖沖之在求解中甚至“兼以正負參之”，可見其研究水平之高。

　　祖沖之父子的數學研究成就匯集于他的數學專著《綴術》中。這本書極其高深，以至于“學官莫能究其深奧，故廢而不理”。在唐朝官學中，《綴術》也被列為必讀的十部算經之一，且需學習4年，年限為各經之首。后來，《綴術》傳至朝鮮，但10世紀以后，《綴術》漸漸在各國失傳了。盡管今天已無從知道《綴術》的具體內容，但從該書在唐代官學中的學習年限及史書中相關的零星記載，我們仍可以想見其學術價值。