原名西羊市，与东羊市隔南市街（今底解放路）相对而称。1958年太原市人民委员会在调整部分街巷名称时，将东羊市、按司街并入钟楼街，改西羊市为“羊市街”。
羊市街是太原市古老的街巷之一，宋初，此街一带属阳曲县之唐明镇。近30年来，流行着一种说法，认为今羊市街一带在宋代即为羊畜交易之所，故名。其实，这种说法近似臆测妄断之言。因为，宋太平兴国七年（公元923年），潘美所建的太原城，这里属子城的范围，而子城中尽为各类官署衙门、粮仓、武器库、监狱等等，根本没有什么“羊市”之址。而子城的消亡，大约是在宋金之际的太原保卫战之后。至于西羊市之名和街巷的问世，虽难以作准确的决断，但绝不会在金代之前，据推测似应在明代中叶或明之季年。
从现存的明初太原方志书中看，在记述太原城中“坊巷”的篇章和文字中，只字不见西羊市之名，甚至连一个相近的字眼也找不到。而在清代编纂的阳曲县志中却有“学院前街”即西羊市的记载。
学院前街，顾名思义，以地处学院之前而得名。所谓学院，乃学政之别称，是由中央派出掌握和监察一省之学务的最高长官，明代这里为提督学政署衙，是全省最高的学务长官衙门。清之季年，学院由此迁往上官巷，山西省的第一所实业学堂——山西中等实业学堂在这里创办。次年，此学堂则一分为二，以专科分家，通变为“山西工业学堂”、“山西商业学堂’”，开创了山西工业和商业专科学校的先河。而由于学院的迁出，“学院前街”之雅称，遂被西羊市之俗名取而代之。
羊市街的巨变，是发生在20世纪50年代之后的30多年中。1955年，羊市街西段的打通改变了原来与西城墙丁字成形的封闭格局。1958年新拓解放路。第二年，太原市的第一座宽银幕电影院，便在羊市街东口南侧问世，使百年的羊市为之一新。1982年，全晋遐迩闻名的豫菜馆“林香斋”，又以新结构、古式样的风格，拔地而起于羊市街东口北侧，与宽银幕电影院左右呼应。1988年“五一”之前，横跨解放路，沟通羊市街与钟楼街的宽银幕人行立交桥，又在该街的东口彩虹般地出现。这些巨变，使有着数百年历史的羊市街又焕发了新的青春，迅跑在太原城建规划的前列。
