運算符號并不是隨著運算的產(chǎn)生而立即出現(xiàn)的。如中國至少在商代（約三千年前），已經(jīng)有加法、減法運算，但同其他幾個文明古國如埃及、希臘和印度一樣，都沒有加法符號，把兩個數(shù)字寫在一起就表示相加。在今天的帶分?jǐn)?shù)寫法中仍可以看到這種遺跡。到公元三世紀(jì)，希臘出現(xiàn)了減號“↑”，但仍沒有加法符號。公元六世紀(jì)，印度出現(xiàn)了用單詞的縮寫作運算符號。其中減法是在減數(shù)上畫一點表示。

后來歐洲人承襲印度的做法。例如用拉丁字母的P（Plus的第一個字母，意思是相加）表示加，用M（Minus的第一個字母，意思是相減）表示減。

“＋”、“－”出現(xiàn)于中世紀(jì)。據(jù)說，當(dāng)時酒商在售出酒后，曾用橫線標(biāo)出酒桶里的存酒，而當(dāng)桶里的酒又增加時，便用豎線條把原來畫的橫線劃掉。于是就出現(xiàn)用以表示減少的“－”和用來表示增加的“＋”。

1489年，德國數(shù)學(xué)家魏德曼（Widman，1460—？）在他的著作中首先使用“＋”、“－”表示剩余和不足，1514年荷蘭數(shù)學(xué)家赫克（Hoecke）把它用作代數(shù)運算符號。后來又經(jīng)過法國數(shù)學(xué)家韋達(dá)（Vieta，1540—1603）的宣傳和提倡，才開始普及，直到1630年，才得到大家的公認(rèn)。