Wieś powstała na przełomie XII i XIII wieku jak została wzmiankowana w 1223 roku, gdzie jej mieszkańcy płacili dziesięcinę pobliskiemu klasztorowi Norbertynek w Rybniku. Wioska pozostała własnością klasztoru po przeniesieniu klasztoru do Czarnowąsów pod Opolem. Potwierdzające to dokumenty mówią, że książę Mieszko, a później Przemysław zwolnili poddanych z Krowiarek od płacenia podatków i prac na rzecz księstwa, a wieś była zobowiązana płacić dziesięcinę i wykonywać prace na rzecz rzeczonego klasztoru. Podobnie było z sołtysem wsi, który odpowiadał przez władzami kościelnymi. Jednak sama ziemia nadal była własnością księstwa, a klasztor miał tylko władzę nad wioską i jej mieszkańcami.

Pod koniec XV wieku klasztor stracił wiele wiosek spod swojego panowania, w tym wieś Krowiarki, która stała się własnością kanclerza księstwa raciborskiego Kaspra Wyskoty i czerpał od tej chwili zyski z tej ziemi. Opat Paweł z Czarnowąsów sprzeciwiał się takiemu postępowaniu, co doprowadziło do tego, że w 1514 roku wniósł protest do papieża Leona X. Jednak skarga nie została rozpatrzona po myśli opata.

W 1223 roku podobno we wsi powstał pierwszy kościół, którego przebudowy dokonano w 1447 roku. Do końca XV wieku, kiedy miała miejsce sekularyzacja, kościołem zajmował się klasztor w Czarnowąsach. Następnie kościół znalazł się w rękach protestantów, którzy wybudowali plebanię, chlewnię i stodołę. Na początku XVII wieku kościół został zwrócony katolikom i był kościołem filialnym Makowa. W 1669 wybuchło powstanie chłopskie przeciwko panom. Kolejne powstania chłopskie miały miejsce jeszcze w latach: 1700, 1708, 1754, 1765, 1766 i 1811. W 1679 roku powstała szkoła we wsi, a pierwszym nauczycielem był Jan Wentrich, który również zajmował się dochodami i wydatkami kościelnymi. W 1680 roku wieś nabył Leopold Paczyński, hrabia Tenczynka pod Krakowem i Paczyny niedaleko Gliwic, który wykupił ją od Sędziwoja, słynnego krakowskiego alchemika. W 1688 roku Wentrich został sekretarzem gminy. W 1709 roku Franciszek Albert Paczyński wybudował nowy kościół, jednak pięć lat po jego śmierci, która miała miejsce w 1770 roku, wieś przechodził z rąk do rąk, aż w 1802 roku stała się własnością hrabiego Strachwitza na Kamieńcu pod Gliwicami. W 1802 jego syn, Karol, sprzedał wieś hrabiemu Amandowi von Gaschin, która po jego śmierci stała się własnością jego córki, Wandy.

W 1828 roku rozpoczęto budowę nowej, większej szkoły, którą ukończono rok później, a jej nowym nauczycielem był Kulinski. Wanda von Gaschin w 1856 roku wyszła za hrabiego Hugo II Henckel von Donnersmarck z Siemianowic. Tym samym wieść pozostawała w rękach rodu Henckel von Donnersmarck do końca II wojny światowej. W 1870 roku dobudowano piętro i założono drugą klasę. W 1878 roku szkoła już liczyła trzy klasy. W 1909 roku rozpoczęto budowę nowego murowanego kościoła (poprzednie były drewniane), która zakończyła się rok później. W 1913 roku został rozebrany stary kościół w miejscu którego ród von Donnersmarcków postawił inny kościół drewniany. Kościół ten ucierpiał w czasie działań wojennych, a w 1945 roku został rozebrany. Po wojnie w pałacu miała siedzibę Szkoła Aktywu Politycznego, a od 1947 roku Państwowy Dom Dziecka i przedszkole. W latach 1963-1970 w pałacu mieścił się szpital rehabilitacyjno-ortopedyczny. W 1988 roku Skarb Państwa sprzedał pałace w ręce prywatne.

W latach 1945-54 wieś była siedzibą gminy wiejskiej, najpierw gminy Krawarz Polski, a od 1946 roku gminy Krowiarki. Według stanu na dzień 1 stycznia 1946 roku w skład gminy wchodziło 6 gromad: Krawarz Polski, Dołędzin, Jastrzębie, Kołomyja, Maków i Pawłów. Według stanu z 1 lipca 1952 roku w skład gminy wchodziło 6 gromad: Dolędziny, Jastrżebie, Krowiarki, Maków, Pawłów i Sławienko (Kołomyja). 29 września 1954 roku wraz z reformą administracyjną gmina została zniesiona. Po II wojnie światowej Krowiarki były częścią województwa śląskiego, w latach 1946-50 województwa katowickiego, w latach 1950-54 województwa opolskiego, w latach 1954-98 znowu województwa katowickiego, a od 1998 roku województwa śląskiego.