جعفر سلماسی در سال ۱۲۹۵ش در کاظمین متولد شد. دوره ابتدایی را در مدرسه اخوت، که پدرش تاسیس کرده بود، گذراند. دوره متوسطه یا دبیرستان را در دو بخش یا دو سیکل و در دو دبیرستان بغداد، به نام‌های الاعدادیه الکرخیه و الثانویه المرکزیه، به اتمام رساند. سپس در دانشگاه حقوق بغداد ثبت‌نام کرد؛ ولی پس از مدتی بنا بر دلایلی تحصیلات در این رشته را رها کرد.
محمد جعفر سلماسی، فرزند میرزا ابراهیم سلماسی بوده و نیاکانش همگی در عراق متولد شده بودند؛ ولی همه دارای شناسنامه ایرانی بودند. میرزا ابراهیم، پدر محمد جعفر، در زمان حیات خود مدرسه اخوت را برای ایرانیان مقیم عراق، تاسیس کرد. امتیاز این مدرسه را دولت عثمانی به مناسبت درجه اجتهاد، روحانیت و تحصیلاتش که وی داشت، به او واگذار کرده بود. در آن زمان این تنها مدرسه برای ایرانیان مقیم عراق بود.
سلماسی وزنه‌برداری را در تهران در باشگاه نیرو و راستی که متعلق به منوچهر مهران بود فراگرفت و در کنار رسول رئیسی و محمود نامجو پایه‌گذار اولین تیم ملی وزنه‌برداری ایران شد. نامجو در خاطرات خود گفته‌است که بر اثر دیدن تمرینات سلماسی به وزنه‌برداری علاقمند شد.
از هشت سالگی به تمرینات ژیمناستیک در حرکات زمینی پرداخت و بعدها که بزرگ‌تر شد، وسایل این ورزش را به ساده‌ترین شکل سفارش داد، که از آن جمله، پارالل، بارفیکس و چند وسیله ساده دیگر بود.
سلماسی در المپیک ۱۹۴۸ لندن در اولین حضور ایران در المپیک اولین مدال ایران را در دستهٔ پروزن (۶۰ کیلوگرم) به دست آورد. در آن زمان رقابت‌های وزنه‌برداری از سه بخش پرس نظامی، یک‌ضرب و دوضرب تشکیل می‌شد و سلماسی در پرس نظامی با مهار وزنهٔ ۱۰۰ کیلویی رکورد المپیک آنتونی ترلازو آمریکائی را ۷.۵ کیلو ارتقا داد و از رقبا پیش افتاد. اما محمود فیاض مصری با وزنهٔ ۱۰۵ کیلو در یک‌ضرب و ۱۳۵ کیلو در دوضرب رکورد جهان را با ۳۳۲.۵ کیلو شکست و قهرمان شد، وزنه‌بردار ترینیداد و توباگو با مجموع ۳۱۷.۵ کیلو در جای دوم و سلماسی با ۹۷.۵ در یک‌ضرب و ۱۱۵ در دوضرب و مجموع ۳۱۲.۵ در جای سوم قرار گرفت.
سلماسی سه سال بعد در اولین دورهٔ بازی‌های آسیایی شرکت کرد و با رکورد مجموع ۲۹۷.۵ کیلو به قهرمانی رسید و در ۳۲ سالگی از تیم ملی خداحافظی کرد. ۱۰ وزنه‌بردار تیم ملی ایران در این دوره با ۷ مدال طلا و ۳ مدال نقره به قهرمانی رقابت‌ها رسیدند. او کارمند آموزش و پرورش بود و پس از سال‌ها ابتلا به بیماری دیابت در ۱۱ بهمن ۱۳۷۸ در بیمارستان باهنر تهران درگذشت و در قطعهٔ ۲۲ بهشت زهرا دفن شد.