Dne 13. 11. 1911 C. K. místodržitelství v Brně zřídilo podružný spolek pod názvem „Místní odbor Národní jednoty pro východní Moravu“ v Šarovech.
V roce 1921 propůjčil spolek svou místnost obci, aby ji používala jako obecní knihovnu. V roce 1966 dosahovala místní lidová knihovna tak dobrých výsledků, že získala nejvyšší knihovnické vyznamenání – Štít.
Mezi Obecní knihovnou Šarovy a Krajskou knihovnou Františka Bartoše funguje výměnný systém, který zabezpečuje obměnu řady nových titulů.
Od roku 2002 na základě Smlouvy o poskytování regionálních knihovnických služeb v rámci regionálních funkcí uzavřené mezi Krajskou knihovnou Františka Bartoše ve Zlíně a Obecním úřadem v Šarovech, metodicky vedou Místní knihovnu v Šarovech pracovníci Obvodní knihovny Jižní Svahy ve Zlíně.