创制文字是阿保机的一个重大创举。契丹原无文字,刻木为契。到了唐代,契丹经济文化发展起来,开始兼用汉文与突厥文。但是这两种文字都不能充分表达契丹语意,为了便于草原牧业文化的传播和政令的推行,也为了提高契丹人的民族精神和文化修养,他命契丹贵族耶律突吕不和耶律鲁不古等,依仿汉字偏旁制成文字数千个,契丹文字属阿尔泰语系,此后,但是用大字记录契丹语有种种不便。有一天,阿保机的三弟迭剌,收到了一封来自回鹘的使者携来的察合台文字书信,他看到察合台文字非常简便,灵机一动,何不仿照察合台文字,创造一种简便的契丹文字,来书写契丹语呢,为此,他兴致勃勃的找到哥哥,让他看察合台文,然后把自己的想法说出来,阿保机听后,觉得这个主意非常好,就鼓励迭剌,让他主抓这件事情。耶律迭剌不负众望,经过刻苦研究,终于发明了契丹小字。
契丹小字为拼音文字,约五百个发音符号,非常方便好用,小字和大字没有明显的联系。阿保机的弟弟们继承了迭剌部家族的聪明才智,看来个个都是优秀人才,不光是能够给阿保机惹麻烦的人。
辽国时期,实行两种文字体系并行,但在正式行文诏书中所使用的为小字以及汉字,大字仅作为书面文字使用。契丹文字的创造,对契丹和辽朝文化的传播起了重要作用。
金朝直至中期才正式完全地废除了契丹文的通行,《大金皇弟都统经略郎君行记》是用契丹小字写成的。女真字的创制在很大程度上参考了契丹字的创制方式。
可惜的是,契丹大、小文字到现在已经几乎无人可解了,它与中国著名的东巴文、仙居蝌蚪文、夜郎天书、岣嵝碑、巴蜀符号、仓颉书、夏禹书、红岩天书一样,成为二十世纪的不解之谜。