ابوالحسن صبا در تهران زاده شد. او از سه سالگی در خانواده‌ای اهل هنر با موسیقی آشنا شد و مقدمات آموختن موسیقی را ابتدا نزد پدرش آغاز کرد. از شش سالگی نواختن سه‌تار را نزد میرزاعبدالله فراهانی فرا گرفت. نُه ساله بود که به کلاس تار و سه‌تار درویش‌خان راه یافت و همزمان آموختن کمانچه را نیز با حسین‌خان اسماعیل‌زاده ادامه داد. پس از آن در دوران نوجوانی سازهای دیگری مانند ویلن را با حسین هنگ‌آفرین و سنتور را با علی‌اکبرخان شاهی آموخت، و فراگیری تئوری موسیقی و شیوهٔ نوازندگی در موسیقی کلاسیک را نیز در همین دوران آغاز کرد. پس از اتمام دورهٔ ابتدایی، در مدرسهٔ آمریکایی ادامهٔ تحصیل داد و در آنجا با سلفژ و نواختن پیانو آشنا شد. وی در ادامه وارد مدرسهٔ عالی موسیقی شد که تحت مدیریت علینقی وزیری بود که تازه از اروپا به ایران بازگشته بود. او در این مدرسه با پشتکار و استعدادی که داشت، توانست علاوه بر فراگیری موسیقی، در تدریس و تمرین‌دادن به دیگر هنرجویان نیز وزیری را یاری دهد. از صبا به خاطر توانایی و تسلط وی در نواختن انواع مختلفی از سازها، به‌عنوان «مردی که به تنهایی یک ارکستر کامل است» نیز یاد کرده‌اند.