كان لنادي الجبلين قصة مع التأسيس امتدت على مرحلتين الأولى بداية نواة الجبلين كفريق حواري (الجبلين) والذي حمل نفس الإسم للنادي لاحقاً (الجبلين) حيث تكون عام 1377هـ وكان متزامناً مع ظهور فريق النصر (حواري) أيضاً .

حيث كانت الفرق لم تتخذ الطابع الرسمي حينها  ، وكان يرأس الجبلين النواة عمدة الجبلين عبدالعزيز الجروان ومعه شقيقه عبدالله وعدة لاعبين أغلبهم من حي (سماح )وكان ملعب الفريق قرب جبل (الثنية) شمال المدرسة العزيزية حالياً ثم انتقل الفريق بعدما كبر لملعبه غرب مستشفى حائل القديم .

وحين اقترح شباب وأهالي حائل 1379هـ وبدعم ومساندة وتشجيع  من أهالي وأبناء حائل بالشرقية الذين يتواجدون كل صيف بمدينتهم بمقترح تجميع فرق الحواري بنادٍ واحد وبمسمى واحد اجتمع الأهالي واتفقوا على حث الفرق للإنضمام للجبلين وكان أهمها وأكبرها النصر (حواري) الذي التحق أغلب أعضاءه بالجبلين ثم تبعه انضمام فرق حواري أخرى والتي تحمل مسميات (الهلال والوحدة والشباب والعلمين) وذلك من عام 1379حتى 1385هـ

وكان لإسم النادي (الجبلين) وقعه وتأثيره من جهة تاريخ و اسم المنطقة (بلاد الجبلين)  وإن كان الجبلين كنادي يرجع للجبلين(النواة) وهذا مايؤكده التاريخ فإن التأسيس الحقيقي يرجع لعام 1377هـ، وبعد اتفاق الجميع على مسمى الجبلين النادي ونواته الجبلين (الحواري) تشكلت حينها أول إدارة وهي إدارة التأسيس برئاسة الأستاذ فهيد الحميدان الملاقي (يرحمه الله) وعضوية عبدالعزيز الجروان رحمه الله والبقية تكونت من إداريين ولاعبين أبرزهم (زيد الجويرة، صالح الطوب – يرحمه الله – محمد البليهي، عبد الرحمن الشقحاء، سليمان الروضان، محمد البقعاوي، أحمد حسين).