Żywot Józefa Baki jest stosunkowo mało znany, nie odnaleziono również żadnego jego portretu. Urodził się prawdopodobnie 18 marca 1707 roku.(wg niektórych źródeł w 1706 ) w dość zamożnej, szlacheckiej rodzinie z kresów wschodnich, pieczętującej się herbem Massalski. 16 lipca 1723 roku został przyjęty do zakonu jezuitów, zaś w 1740 r. w święto Wniebowzięcia Matki Boskiej uczynił profesję czterech ślubów.
Studiował w Akademii Wileńskiej , gdzie później wg legendy miał być profesorem poetyki, co jednak nie jest zgodne z prawdą. Zaraz po złożeniu ślubów przez 5 lat uczył Baka w szkołach jezuickich, a później przez 20 lat był misjonarzem wśród wiejskiego ludu Litwy i Białorusi.
Jako misjonarz odznaczał się Baka zapałem i pomysłowością. Prawdopodobnie od 1736 r. pozostawał w Missio Plateriana w Krasławiu, będącym własnością starosty dyneburskiego Jana Ludwika Platera. Ta początkowo skromna misja została hojnie uposażona przez żonę Platera. Później został przeniesiony przez władze zakonne do Błonia nad rzeką Citewką , gdzie dość długo pozostawał jedynym misjonarzem. Myśląc o rozbudowie placówki sprzedał Baka otrzymane od ojca dobra Śliżyn i Januszkiewicze, a za uzyskane pieniądze ufundował prawdziwą misję. Faktycznie otwarto ją w 1739 r. Missio Bakana miała własny dom i fundusz na 5-6 misjonarzy. W latach 1741- 57 Baka był jej superiorem i tylko czasami ją opuszczał. Prawdopodobnie po 1757 r. osiadł w Wilnie w domu profesorów przy kościele św. Kazimierza, gdzie cieszył się sławą wziętego kaznodziei. Nigdy nie zerwał z pracą misyjną, bywał nawet w Nowogródku jako nadworny misjonarz wojewodziny Radziwiłłowej. W kościele Św. Kazimierza pełnił funkcję katechety i kaznodziei Bractwa Dobrej Śmierci.
W 1780 r. Baka przyjechał na krótko do Warszawy i tu zmarł nagle 2 czerwca. "Gazeta Warszawska" napisała o jego śmierci jako "pobożnej i przykładnej". Księdza Bakę pochowano w podziemiach kościoła jezuitów - Sanktuarium Matki Bożej Łaskawej przy ulicy Świętojańskiej na warszawskim Starym Mieście.
Współcześni cenili go jako oratora i misjonarza, a nie jako poetę. Baka wydał kilka tomików, jednak spośród nich do naszych czasów dotrwały jedynie cztery tytuły: panegiryk Zebranie zaszczytów i godności dziedzicznej najjaśniejszego i najznakomitszego Jana Ludwika Platera pisany po łacinie (1736), Wielki obrońca upadłej grzeszników przed Bogiem sprawy św. Jan Franciszek Regis (1755) - typowy utwór hagiograficzny oraz dwuczęściowy tomik Uwagi rzeczy ostatecznych i złości grzechowej wraz z serią utworów znanych jako Uwagi śmierci niechybnej. Wydana w 1766 r. w Wilnie książeczka miała służyć prawdopodobnie jako pomoc duszpasterska w pracy misyjnej wśród ludu Litwy i Białorusi.
Na dworze Stanisława Augusta twórczość Baki została wyszydzona, a oświeceniowi literaci przyznali mu miano najstraszniejszego z grafomanów. Taka opinia o Bace utrzymywała się przez dwa wieki, postulowano nawet całkowite usunięcie go z kart historii literatury.
Dopiero w 1936 r. twórczość Baki została odkryta na nowo i częściowo zrehabilitowana. Stał się ulubionym poetą Marii Pawlikowskiej-Jasnorzewskiej, a jego wiersze, mimo iż wyszydzone w nieskończonej liczbie parodii, stały się żywym żródłem inspiracji dla wybitnych poetów XX- wiecznych, min. Aleksandra Wata, Mirona Białoszewskiego i Jarosława Marka Rymkiewicza.