小提琴是一种起源于民间的乐器，大约产生于15世纪，长久以来只在普通老百姓生活中出现。只要看看从17世纪流传下来为数甚多的图画和版画，就会清楚地了解小提琴在当时民间日常生活中用得多么普遍。这些画面上描绘的往往是：在集市和广场上、游艺会和跳舞场、小酒馆和小饭馆里，正在为平民寻欢作乐演奏的农村小提琴手、流浪音乐家。
可是小提琴却也受到当时人们白眼相加的待遇，要是不信，请看16世纪前半叶法国音乐家兼学者菲利贝尔·谢莱兹纳亚·诺迦写下的文字：“除了那些靠自己双手维持生活的家伙，您难得碰到哪一个正经人会玩这件乐器……倒是在婚礼、假面舞会上跳起舞来会有它的用处。”
关于小提琴的来源，说法不一。有人认为小提琴的前身是乌龟壳琴，有人说是从古阿拉伯的一种名叫“雷巴勃”的弓弦乐器演变而来，而法国学者索曼则认为小提琴可能是由英国的古老弓弦乐器“克罗塔”演变而来。至于第一把小提琴到底是在什么时候制成的？这个问题现在看来已经没有什么意义，但是根据它的名称“小型古提琴”，作用有别于中提琴，可以判定这种乐器在16世纪中叶以前已被采用。在用手工制作的所有乐器中，再没有像小提琴那样充满神秘色彩的了。它以多种不同的弦乐器为“祖先”，又是这许多种弦乐器改良的结果，亦是数学、物理学、化学、音声学等多种学科的结晶。它由空心的琴体和70～90个附件组合而成，工艺十分精致。一般认为，小提琴的创始者是1510年出生于意大利的阿玛提。1551年，他制作的小提琴第一次出现，不久就声名远扬。到了1700年，小提琴的制作技术由意大利的斯托拉第瓦利发展到了最高水平，至今也难超越。到了17世纪的巴洛克时代，小提琴已经成为室内乐中最重要的乐器，以至作曲家们大量地写作专供弦乐合奏的乐曲及独奏曲，如巴赫就写了在一把小提琴上能奏出复调声部的《夏空舞曲》。从16世纪小提琴的诞生到19世纪巴格尼尼的出现，小提琴的演奏技巧发展到了全盛时期。各种由演奏者左手做出的技巧如双音、滑音、换把、和弦、拨弦以及右手的震音、顿弓、跳弓、飞跳弓、抛弓，两手相配合的快速琶音、八度跳跃等等，都提供了极为丰富的表现力，让小提琴的演奏技巧充满了各种情趣。但小提琴本身又是一件具有“灵魂”的乐器，只有当技巧和音乐的表现完全结合在一起时，小提琴的演奏才有可能达到最高境界。小提琴在室内乐和交响乐中都担任了主要的角色。世界上几乎所有最伟大的作曲家，如莫扎特、贝多芬、门德尔松、勃朗姆斯、柴科夫斯基、西贝柳斯、萧斯塔可维奇等，都曾为小提琴写下协奏曲。小提琴家兼作曲家维尼亚夫斯基、萨拉莎蒂也留下了大批显示小提琴辉煌技术的乐曲。20世纪更是小提琴演奏史上群星璀璨的时代。由伟大的小提琴家海菲茨和克莱斯勒所改编的各种小型乐曲，如《圣母颂》《维也纳随想曲》等，更是脍炙人口的精品。