روایت است که بنای نخستین مسجد بر روی آتشکده ی دوران ساسانی به فرمان هارون الرشید به هنگام عزیمت وی به خراسان در سال 192 هجری قمری ساخته شده است.
به هنگام حمله مغولان چون مهمترین مسجد شهر بوده قسمت هایی از آن از جمله ایوان جنوبی تخریب شده است که بعدها مرمت شد.
به مرور زمان در دوران های مختلف قسمت هایی به مسجد اضافه شد:
1)قدیمی ترین بخش مسجد طاق هارونی یا مقصوره ی کهن به فرمان هارون الرشید سال 192 هجری قمری که به دهلیز ورودی مسجد متصل است
2)مقصوره خمارتاشی در ضلع جنوبی که به دستور خمارتاش ابن عبدالله عمادی وزیر سلطان ملکشاه سلجوقی بین سالهای 500 هجری قمری تا 509 ه.ق. ساخته شد. کتیبه ها در 5 ردیف به خطوط کوفی گلدار، ثلث و نسخ در این مکان وجود دارد
3)مهم ترین و زیباترین بخش مسجد یعنی مقصوره و گنبد سلجوقی
4)ایوان شمالی و دو مناره ی کاشیکاری آن که ارتفاع هر کدام 25 متر است مربوط به زمان شاه طهماسب صفوی
5)ایوان غربی مربوط به دوران شاه سلیمان صفوی
6)ایوان جنوبی که زیباترین ایوان مسجد است مربوط به دوران شاه عباس دوم صفوی است
7)شبستان جنوبی مسجد و گنبد آجری دوپوش توسط امیرخمارتاش عمادی ساخته شده است
8)یک شبستان زیرزمینی در ضلع جنوب غربی مسجد که بنای آن توسط سعدالسلطنه در عهد قاجار صورت پذیرفت
9)در سده ی چهارم صاحب ابن عباد وزیر فخرالدوله دیلمی مدرسه ای در کنار مسجد بنا کردو دستور داد برای مسجد دیواری بکشند که این کار ناتمام ماند
10)سردر باشکوه بنای مسجد بر اساس کتیبه به سال 1074 ه.ق. و زمان شاه عباس دوم صفوی بازمیگردد که در زمان رکن الدوله پسر فتحعلی شاه مرمت شده است
همچنین در ادوار مختلف مرمت های متعددی بروی این بنا انجام شده است:
1)سال 393 هجری قمری که تعمیراتی انجام گرفت و تجدید بنا شد
2)ایوان شرقی در دوره ی قاجار مرمت شده است
3)بعد از سردر اصلی یک هشتی وجود دارد که در سال 1353 مرمت شده
4)سال 1388 نیز بنای مسجد بازسازی و مرمت شد
5)سال 1392 مرمت مناره غربی مسجد جامع توسط سازمان میراث فرهنگی استان قزوین
سازمان میراث فرهنگی و صنایع دستی استان قزوین اقدام به بازگشایی موزه ی سنگ و سفال در ضلع غربی بنا کرد که اشیای موجود در موزه شامل انواع سفالینه ها، سنگ نگاره ها، ارسی ، کاشی و انواع گچبری هاست.
نوشته ی شهرزاد میرزا عابدینی
https://www.bahramabedini.com/fa/photography/historical/iran/%D9%85%D8%B3%D8%AC%D8%AF-%D8%AC%D8%A7%D9%85%D8%B9-%D9%82%D8%B2%D9%88%DB%8C%D9%86#sigProId0b3ca723cf