1894 m. Marijampolės žydų šeimoje gimė berniukas tėvų Zisel ir Jokūbo Leibovicų pavadintas Baruchu. Nėra labai daug žinių apie jo Marijampolėje praleistu metus, tačiau nėra abejonių, kad jis čia mokėsi ir gavo tinkamą religinį išsilavinimą. Septyniolikmetis Boruchas 1911 m. buvo vienas iš keturiasdešimties berniukų, be tėvų emigravusių į Palestiną. Čia susidomėjo muzika, o dirbo kurį laiką mokydamas vietos vaikus hebrajų kalbos ir žydų tradicijos. Po Pirmojo pasaulinio karo kiek nurimus politinei situacijai ir 1920 m. gavus barono Rotšildo (Rothchildo) stipendiją, pradėjo studijuoti matematiką ir fiziką Briuselio universitete.
Boruchui Ben Jehudui skirtas Izraelio pašto ženklas
Jį sėkmingai baigęs ir 1924 m. gavęs matematikos mokymo metodų srities daktaro laipsnį, grįžo prie mėgstamo mokytojo darbo, vaikus mokė labai įvairių dalykų: sionizmo istorijos, Talmudo ir Biblijos, net muzikos. Gerą išsilavinimą įgijusio mokytojo karjera sekėsi, netrukus jis tapo vienos garsesnių Erez Izrael (Izraelio žemės) mokyklų – Hercelijos (Herclya) gimnazijos – Tel Avive direktoriumi. Jaunas sėkmingas mokytojas ir vadovas buvo visuomeniškas ir aktyvus, jis tapo net keleto platų veiklos mastą išvysčiusių žydų organizacijų steigėjas.
Su jo pagalba 1927 m. buvo įsteigtas jaunuolių judėjimas Hugim, vėliau labiau žinomas kitu pavadinimu – Mahanot Olim. Jo iniciatyva buvo įsteigta Mokytojų taryba prie Tautinio žydų fondo. Boruchas Ben Jehuda daug prisidėjo prie Izraelio švietimo sistemos kūrimo – susikūrus Izraelio valstybei tapo pirmuoju Švietimo ir Kultūros ministerijos generaliniu direktoriumi. Šias pareigas jis ėjo iki 1952 m. Vėliau jis grįžo vadovauti Hercelijos gimnazijai, atsidėjo pedagoginei veiklai. Nors studijavo matematiką, jį visi pažinojo kaipo virtuozišką muzikantą ir muzikos teorijos žinovą, taip pat kaip puikiai mokėjusį ir kitus mokiusį hebrajų kalbos, išmanantį judaizmo Šventuosius raštus, gana griežtą ir konservatyvų. Platų interesų lauką turėjęs mokytojas parašė keletą studijų, apmąstančių sionizmo reikšmę ir žydų švietimo sistemos kūrimą, taip pat nepamiršo ir matematikos. 1959-1960 m. buvo išleistas jo hebrajų kalba parašytas dvitomis apie matematikos dėstymą gimnazijose „Hora’at ha-Matematikah be-Veit ha-Sefer ha-Tikhon“. Už išskirtinius gyvenimo nuopelnus Izraelio švietimo sistemai Baruchui Ben Jehudai 1979 m. įteikta Izraelio švietimo premija. Mirė Tel Avive, palaidotas Kirjat Shaul kapinėse.