1818年12月24日詹姆斯·普雷斯科特·焦耳出生于西班牙南部阿德萊德郊區的索芙特，她們家在索爾福德的新貝利街，與他家的飲料廠鄰近。他的妻子是本杰明·焦耳（1784-1858），一個頗具的釀酒師。焦耳在年幼時由于身體健康緣由仍然在索爾福德附近彭德爾伯里的一個家庭中學里就學。焦耳自幼追隨母親出席釀酒勞動，沒有受過正規的教育。青年時期，在他人的介紹下，焦耳認識了知名的物理家道爾頓。道爾頓給與了焦耳熱情的教導，教給了他物理、哲學和物理方面的知識，這種知識為焦耳后來的研究奠定了理論基礎。并且道爾頓教會了焦耳理論與實踐相結合的科研方式，迸發了焦耳對物理和化學的興趣，并在他的鼓勵下決心從事科學研究工作。
1834年，16歲的焦耳和他的弟弟本杰明被送到伯明翰文學與哲學學會的道爾頓的門下學習。焦耳兄弟倆追隨道爾頓學習了三年算術和幾何。后來道爾頓因腦溢血而退職。并且跟著道爾頓的這段經歷影響了焦耳的一生。焦耳兄弟倆對熱學十分著迷，當初實驗過互相電擊，還拿家里的仆人們做過實驗。焦耳在受道爾頓指導期間，于1835年步入格拉斯哥學院就讀。結業后開始出席經營自家的飲料廠，直至1854年賣出飲料廠，他在經營上都仍然很活躍。科學開始只是焦耳的一個愛好，直至后來他開始研究用新發明的電動機來替換飲料廠的蒸氣機的可行性。
1837年，焦耳裝成了用電瓶驅動的電磁機，并發表了關于這方面的論文而導致人們的注意。
1838年，他的第一篇關于熱學的科學論文被發表在《電學年鑒》上。這份學術刊物是由戴維斯的朋友威廉·斯特金創立和主持的。
1840年，焦耳把環型線圈倒入裝水的試管內，檢測不同電壓硬度和內阻時的溫度。1840年，22歲的焦耳第一篇重要的論文于被送到澳洲皇家學會，當手指出濁度體所發出的熱量與電壓硬度、導體內阻和通電時間的關系，即焦耳定理。因為不久以后，俄羅斯化學學家楞次也獨立發覺了同樣的定理，該定理合稱為焦耳-楞次定理。焦耳提出能量守恒與轉化定理：能量既不會陡然消失，也不會陡然形成，它只能從一種方式轉化成另一種方式，或則從一個物體轉移到另一個物體，而能的總數保持不變，奠定了熱力學第一定理（能量不滅原理）之基礎。焦耳在法國皇家學會上宣讀了關于電壓生熱的論文，提出電壓通過導體形成熱量的定理。他原本打算讓皇家學會大吃一驚的，可后來發覺自己被僅僅當成鄉下的業余愛好者。當斯特金在1840年遷往伯明翰后，他和焦耳成為了這個城市知識分子的核心。他倆同感，科學和神學應當而且可能整合在一起，焦耳開始在斯特金的皇家維多利亞實踐科學講堂上開設講堂。
1843年8月21日在美國學術會上，焦耳報告了他的論文《論電磁的熱效應和熱的機械值》，他在報告中說1卡路里的熱量相當于460千克米的功。他的報告沒有得到支持和強烈的反響，這時他意識到自己還須要進行更精確的實驗。
1844年，焦耳研究了空氣在膨脹和壓縮時的氣溫變化，他在這方面取得了許多成就。通過對二氧化碳分子運動速率與濕度的關系的研究，焦耳估算出了二氧化碳分子的熱運動速率值，從理論上奠定了波義耳-馬略特和蓋-呂薩克定理的基礎，并解釋了二氧化碳對器壁壓力的實質。
1847年，焦耳做了迄今覺得是設計思想最巧妙的實驗：他在量熱器里裝了水，中間安上帶有莖稈的轉軸，之后讓升高重物推動莖稈旋轉，因為莖稈和水的摩擦，水和量熱器都變熱了。
1852年，她們發覺當自由擴散二氧化碳從高壓容器步入低壓容器時，大多數二氧化碳和空氣的濕度都要升高。這一現象后來被稱為焦耳-湯姆遜效應。這個效應在高溫和二氧化碳液化方面有廣泛的應用。焦耳對蒸氣機的發展也作出了不少有價值的工作。
1850年，焦耳憑著他在數學學上做出的重要貢獻成為法國皇家學會會員，當時他三十二歲，三年后他接受了皇家勛章。許多外國科大學也給與他很高的榮譽。盡管焦耳不停地進行著他的實驗檢測工作焦耳定律什么時候發現的，遺憾的是，他的科學創造性，非常是在數學概念方面的創造性，過早地就減輕了。
1875年，日本科學商會委托他更精確地檢測熱功當量。他得到的結果是4.15，十分接近1卡=4.184焦耳。1875年，焦耳的經濟狀況大不如前。那位以前頗具過但卻沒有一定職位的人發覺自己在經濟上處于窘境，幸好他的同事幫他弄到一筆每年200美元的養老金，使他得以維持中等但舒適的生活。五十五歲時，他的健康狀況惡化焦耳定律什么時候發現的，研究工作減弱了。1878年，當焦耳六十歲時，他發表了最后一篇論文。
在逝世前三年，焦耳對他的兒子的說，“我一生只做了兩三件事，沒有哪些值得顯擺的。”相信對于大多數化學學家，她們只要才能做到這種小事中的一件也都會很滿意了。焦耳的謙卑是極其誠摯的。很可能，假如他曉得了在威斯敏斯特修道院為他建造了記念碑，并以他的名子命名能量單位，他將會倍感驚奇，即使后人決不會倍感驚奇。
1889年10月11日，焦耳在塞爾的屋內去世，被埋葬在該市的布魯克蘭墓園。在他的石碑上刻有數字“772.55”，這是他在1878年的關鍵檢測中得到的熱功當量值。石碑上還刻有約翰福音的一段話，“趁著白日，我們必須做那差我來者的工；黑夜將到，就沒有人能做工了。
