В 1878 году, по инициативе муфтия Казани, в Среднюю Азию, у берегов озера Иссык-Куль, было направлено несколько татарских семей. Среди них находились как знатоки Корана, так и опытные строители мечетей. Некоторые из них остались в Караколе, другие — в селах Тамга, Саруу и Ак-Суу, где начали обучать местных жителей основам ислама.
Строительство мечети в Караколе стартовало летом 1878 года под руководством имама Мухтарулло Баширова. На возведение фундамента потребовалось девять лет, и окончательное завершение строительства состоялось в 1887 году благодаря народным пожертвованиям. Стены мечети были выполнены из дерева и специального кирпича, который изготавливался из глиняной смеси с добавлением яичного желтка. Кровлю укрыли прочным железом.
Деревянные материалы для постройки привозили с лесопильного завода в поселке Жаргылчак, основанного татарскими предпринимателями. Мечеть вмещала более 1000 человек и имела просторные залы для мужчин, женщин и детей, а также учебные помещения. С обеих сторон главного здания возвышались два минарета — один высотой 31 метр, а другой — 20 метров.
Согласно исламским традициям, при мечети было открыто медресе, которое стало важным образовательным центром для татарских детей и представителей других мусульманских народов, включая кыргызов, уйгуров и узбеков.
В 1901 году мужской мектеб, основанный при мечети в 1868 году, перешел на новую систему обучения, которая объединяла религиозные и светские знания. Занятия проходили на татарском языке. По состоянию на 1906 год, ученики были разделены на два класса с четырьмя отделениями, и обучение длилось четыре года.
Однако после революции 1917 года мечеть подверглась изменениям. В 1930-х годах её закрыли и переоборудовали для использования в других целях. По воспоминаниям очевидцев, в 1939 году при большом скоплении людей были разрушены два последних минарета, а золочёные полумесяцы исчезли, и строительные материалы были растащены. Местные жители рассказывают, что многие из тех, кто участвовал в разрушении, впоследствии страдали от паралича и умирали в муках.
После распада Советского Союза в 1991 году здание было восстановлено, заменена кровля, и мечеть вновь открыла свои двери. В 1999 году по решению общины ей было присвоено имя первого имама Мухтарулло Баширова, который служил здесь до 1935 года.
По словам завхоза мечети Насыра Наказбекова, на втором этаже находилось медресе, где обучались дети, а на первом этаже проводились молитвы.
«Мечеть вмещает около 2000 человек. Несмотря на то, что в советский период здание использовалось как кинотеатр и зал для заседаний, его оригинальный вид был сохранён, и это радует», — отметил он.
Мечеть быстро заняла важное место в культурной и социальной жизни татарской диаспоры Каракола. Находясь в центре города, она вместе с медресе и торговыми лавками стала символом традиционного образа жизни татарской общины.
