說起「0」的出現，應該指出，中國古代文字中，「零」字出現很早。不過那時它不表示「空無所有」，而只表示「零碎」、「不多」的意思。如「零頭」、「零星」、「零丁」。「一百零五」的意思是：在一百之外，還有一個零頭五。隨著阿拉數字的引進。「105」恰恰讀作「一百零五」，「零」字與「0」恰好對應，「零」也就具有了「0」的含義。0在中國古代叫做金元數字。
關於0這個數字的概念在其它地區很早就有。巴比倫人、埃及人、馬雅人以及印度人分別獨立發明了「零」。公元前3000年，巴比倫人就已經懂得使用零來避免混淆。古埃及早在公園前2000年就有人在記帳時用特別符號來記載零。
馬雅文明最早發明特別字體的0。瑪雅數字中0 以貝殼模樣的象形符號代表。 0這個字體的數字是在5世紀由古印度人發明。他們最早用黑點「·」表示零，後來逐漸變成了「0」。
7世紀初印度大數學家葛拉夫·瑪格蒲達首先說明了任何數加上0或減去0得任何數。遺憾的是，他並沒有提到以命位記數法來進行計算的實例。公元733年，印度一位天文學家在訪問現伊拉克首都巴格達期間，將印度的這種記數法介紹給了阿拉伯人，因這種方法簡便易行，不久就取代了在此之前的阿拉伯數字。這套記數法後來又傳入西歐。 在東方國家由於數學是以運算為主（西方當時以幾何並在開頭寫了「印度人的9個數字，加上阿拉伯人發明的0符號便可以寫出所有數字。由於一些原因，在初引入0這個符號到西方時，曾經引起西方人的困惑，當時西方認為所有數都是可數，而0這個數字會使很多算式、邏輯不能成立（如除以0），甚至認為是魔鬼數字，而被禁用；直至約公元15、16世紀，0才逐漸給西方人所認同，使西方數學有快速發展。
中國古代的籌算數碼中沒有「零」，遇到「零」就空位。比如「6708」就可以表示為「┴ ╥ 」(〦〧 〨)。數字中沒有「零」，是很容易發生錯誤的。所以後來有人把銅錢擺在空位上，以免弄錯，這或許與「零」的出現有關。 自從前4世紀，中國數學家已經了解負數和零的概念。1世紀的《九章算數》說：「正負術曰：同名相除，異名相益，正無入負之，負無入正之。其異名相除，同名相益，正無入正之，負無入負之。」（這段話的大意是「減法：遇到同符號數字應相減其數值，遇到異符號數字應相加其數值，零減正數的差是負數，零減負數的差是正數。」）以上文字裡的「無入」通常被數學歷史家認為是零的概念。雖然如此，但是當時並沒有使用符號來表示零。
在690年時，武則天頒布了則天文字，其中一個字就是「〇」了。現在該字被用為數字「零」的同義字。
七世紀的古印度婆羅摩笈多是第一個提出有關0的計算規則的數學家。瞿曇悉達於718年將印度數字〇引入中國，以此來代替算籌。宋代蔡沈《律率新書》中用方格表示空缺。金朝《大明曆》中有「四百〇三」，「三百〇九」等數字。1247年，秦九韶在其著作數書九章中使用符號「〇」來表示零的概念。李冶《測圓海鏡》第十四問中用
元
。
代表：。
10世紀波斯數學加伊本．拉班《印度算數原理》第一部分敘述用印度數字0-9（० ۱ ۲ ۳ ۴ ۵ ۶ ۷ ۸ ۹）為基礎的十進位制四則運算和開平方、開立方的土盤程序。
在1202年時，義大利商人斐波納契寫了一本《算盤書》。在東方中由於數學是以算數為主（西方當時以幾何和邏輯為主），由於運算上的需要，自然地引入了0這個數。
