ছয় বছর বয়সে নদিয়া জেলারকৃষ্ণনগর রামবঙ্ প্রাথমিক বিদ্যালয়ে ভর্তি হওয়ার মাধ্যমে হারুন অর রশীদ তার শিক্ষাজীবন শুরু করেন৷ সেখানে কয়েক বছর পড়ার পর তার বাবা তাকে কৃষ্ণনগর কলেজিয়েট স্কুলে পঞ্চম শ্রেণিতে ভর্তি করিয়ে দেন৷ স্কুলের প্রতিটি পরীক্ষায় ভালো ফলাফলের জন্যে বা ক্লাসে ভালো উপস্থিতির জন্যে প্রতিবারই তিনি বিভিন্ন বই পুরস্কার পেয়েছেন৷ দশম শ্রেণি পর্যন্ত ড. রশীদ কৃষ্ণনগরের ঐ স্কুলেই লেখাপড়া করেছেন৷ ১৯৪৭ সালে বাংলা বিভাগ হলে তার বাবাকে বদলি করে ঢাকা পাঠানো হলো৷ ঢাকা এসে বাবা ঢাকা কলেজে পদার্থবিজ্ঞানের অধ্যাপক হিসেবে যোগ দিলেন৷ ঢাকা এসে তার বাবা তাকে ভর্তি করিয়ে দিলেন ঢাকা কলেজিয়েট স্কুলে৷ ১৯৪৮ সালে তত্কালীন ইস্ট বেঙ্গল সেকেন্ডারি এডুকেশন বোর্ডের অধীনে ম্যাট্রিকুলেশন পরীক্ষায় অংশগ্রহণ করে স্টারমার্কসসহ তিনটি বিষয়ে লেটার মার্কস (শতকরা ৮০ নম্বর এবং তার উপরে) পেয়ে সম্মিলিত মেধাতালিকায় প্রথম শ্রেণিতে চতুর্থ স্থান অধিকার করে উত্তীর্ণ হন। ১৯৫০ সালে ইন্টারমিডিয়েট সায়েন্স পরীক্ষায় স্টারমার্কস সহ চারটি প্রধান বিষয়ের সবগুলিতে (ইংরেজি, পদার্থবিজ্ঞান, রসায়ন বিজ্ঞান ও গণিত) লেটার মার্কস পেয়ে সম্মিলিত মেধাতালিকায় প্রথম শ্রেণিতে তৃতীয় স্থান অধিকার করে উত্তীর্ণ হন। তার ইংরেজিতে লেটার মার্কস পাওয়াটা ছিল তখনকার সময়ে একটা বিরল ঘটনা৷ তার স্কুল ও কলেজের কোনো পরীক্ষায় কখনো দ্বিতীয় হননি। এরপর তিনি এসে ভর্তি হন ঢাকা বিশ্ববিদ্যালয়ের পদার্থবিজ্ঞান বিভাগে৷ ১৯৫৩ সালে এই বিভাগ থেকে প্রথম শ্রেণিতে প্রথম স্থান অধিকার করে বি.এস.সি. সম্মান ডিগ্রি অর্জন করেন৷ ১৯৫৪ সালে বিশ্ববিদ্যালয়য়ের সব স্নাতকের মধ্যে সমন্বিতভাবে সর্বোচ্চ নম্বর পাওয়ার জন্যে ঢাকা বিশ্ববিদ্যালয়ের রাজা কালীনারায়ণ বৃত্তি লাভ করেন৷ ১৯৫৪ সালে ঢাকা বিশ্ববিদ্যালয় থেকে পদার্থবিজ্ঞান বিষয়ে পুনরায় প্রথম শ্রেণিতে প্রথম স্থান অধিকার করে এম.এসসি. ডিগ্রি অর্জন করেন[৫] এবং ঢাকা বিশ্ববিদ্যালয়ের ওভারসীস বৃত্তি নিয়ে উচ্চতর শিক্ষালাভের জন্য যুক্তরাজ্যের গ্লাসগো বিশ্ববিদ্যালয়ে যান৷ গ্লাসগো বিশ্ববিদ্যালয়ে গিয়ে তিনি অধ্যাপক আর. জি. মুরহাউজ এবং অধ্যাপক বি. এইচ. ব্রান্সডেনের তত্ত্বাবধানে ক্ষেত্র তত্ত্বে টাম-ডানকফ আসন্ন মান ব্যবহার করে কে-মেসন নিউক্লিয়ন-এর একটি সমস্যার উপর কাজ করে ১৯৬০ সালে ঐ বিশ্ববিদ্যালয় থেকে তাত্ত্বিক পদার্থবিজ্ঞানে পিএইচ.ডি. ডিগ্রি অর্জন করেন৷[৪]
বাংলাদেশ সরকারের সংস্কৃতি বিষয়ক মন্ত্রণালয়ের অধীনে "বিজ্ঞান গ্রন্থবর্ষ ২০০৫" উপলক্ষে ভৌতবিজ্ঞানবিষয়ক গ্রন্থ প্রণয়নের ক্ষেত্রে বিশেষ অবদানের স্বীকৃতিস্বরূপ বাংলা একাডেমী প্রদত্ত 'ভৌতবিজ্ঞান শাখা'য় বিজ্ঞান লেখক পদক হিসেবে স্বর্ণপদক লাভ করেন৷ [৪]
বিজ্ঞান ও প্রযুক্তিতে ২০০৯ সালে স্বাধীনতা পুরস্কার লাভ করেন।