阿拉伯数字并不是阿拉伯人发明的。
公元500年前后，随着经济、文化以及佛教的兴起和发展，印度的数学一直处于领先地位。天文学家阿叶彼海特在简化数字方面有了新的突破：他把数字记在一个个格子里，如果第一格里有一个符号，比如是一个代表1的圆点，那么第二格里的同样圆点就表示10，而第三格里的圆点就代表100.这样，不仅是数字符号本身，而且它们所在的位置次序也同样拥有了重要意义。以后，印度的学者又引出了作为零的符号。可以这么说，这些符号和表示方法是今天阿拉伯数字的老祖先了。
771年，印度北部的数学家到了阿拉伯的巴格达，给当地人传授新的数学符号和体系，以及印度式的计算方法（即我们现在用的计算法）。由于印度数字和印度计数法既简单又方便，其优点远远超过了其他计算法，阿拉伯的学者们很愿意学习这些先进知识，商人们也乐于采用这种方法去做生意。
后来，阿拉伯人把这种数字传入西班牙。公元10世纪，又传到欧洲其他国家。公元1200年左右，欧洲的学者正式采用了这些符号和体系。至13世纪，在意大利一位数学家的倡导下，普通欧洲人也开始采用阿拉伯数字，15世纪时这种现象已相当普遍。