И оказавшись в отставке и проживая за границей, Леон Иосифович не оставляет своей просветительской деятельности. Он публикует, преимущественно на немецком языке, капитальные труды по методике изучения Библии и Талмуда. Мандельштам также сотрудничает в ряде немецких, английских и русских периодических изданиях. В 1862 году он издаёт в Берлине «в пользу русских евреев» свой перевод Пятикнижия на русском языке (в 1872 году вышло 2-е издание, дополненное переводом книги Псалмов). И здесь он выступает пионером, ибо это – первый перевод книг Ветхого Завета на русский язык, выполненный евреем. Перевод не был допущен к обращению в России (из-за запрета пользования книгой Священного Писания на русском, а не на церковнославянском языке). Это издание, напечатанное за счёт автора в большом числе экземпляров, существенно подорвало материальное положение Леона. Лишь в 1869 году, на основании именного повеления Александра II, доступ этой книги в империи был разрешён.
Леон не уставал отстаивать интересы своих соплеменников и откликаться на злободневные темы современной ему жизни. Он решительно доказывал несостоятельность обвинений евреев в отсталости и фанатизме, выдвинутых против всего русского еврейства и Талмуда. Мандельштам выступал и как ревностный поборник прав иудеев. Так, в полемике вокруг евреев, развернувшейся в русской печати конца 1850-х годов, он опровергал расхожие антисемитские клише о косности и жестоковыйности иудеев, якобы их извечных неискоренимых пороков. Нет, парировал он, черты эти не национальные, а случайные, привнесённые извне, а потому могут и должны быть преодолены. Народность, пояснял он, заключает в себе историю, законотворчество, литературу, религию, духовное единение, что бережно сохраняется как источник животворной силы. Евреи же вправе гордиться своей историей, столь же древней, как цивилизации Индии или Китая. А всеобъемлющий Еврейский Закон по своей детальной разработанности сравним разве только с кодексом Юстиниана. Еврейская литература охватывает все области знания, так что наука в Европе в значительной мере базируется на раввинских произведениях. Что до религии, то именно она одушевляет в еврее чувство причастности к своему народу.
Интересна и его статья «Несколько слов о евреях вообще и русских евреях в особенности» («Русский инвалид», 1859, № 58). Говоря о евреях как о наиболее образованном народе в Европе, как о творцах образцов юриспруденции и открывателях научных законов задолго до европейцев, Мандельштам задаётся (риторическим) вопросом, почему именно в России образованные евреи не имеют тех гражданских прав, которыми обладают самые низшие общественные слои коренного народа. Кроме того, отмечал он, евреям не дозволено в России иметь своих мерзавцев: в том, что натворили Мошка и Йошка, огульно обвиняют всех евреев; а вот злодейства Ивана и Степана – это только их личные преступления. Он утверждал, что евреи переимчивы и вполне способны к ассимиляции (в терминологии той эпохи – «сближении», «слиянии» с христианами). Великие мыслители-евреи писали на языках тех народов, среди которых жили: Иосиф Флавий (ок. 37-ок. 100) – на греческом, Моисей Маймонид (1135-1204) – на арабском, Бенедикт Спиноза (1632-1677) – на латинском, Бенджамен Дизраэли (1804-1881) – на английском, Генрих Гейне (1797-1856) – на немецком и т. д. Да и на ментальном уровне страна проживания неуклонно меняет характер и душевный склад рассеянного племени: Мандельштам говорит о легкомысленности французских евреев, о чопорности и набожности английских, педантизме немецких и о суеверии польских и турецких иудеев. И евреев Российской империи пасынками он вовсе не считает, напоминая о том, что в Крыму они жили ещё в глубокой древности, равно как и в Грузии, в коей иные княжеские роды, к примеру, Багратиони, признавали свои еврейские корни. Упоминает он и Хазарию с её иудеями-каганами и т. д. Главное же, что объединяет русских и евреев – один царь, одно знание и одна вера в будущее России. И Леон уверен: в случае равноправия евреев они и в морали, гуманизме, благотворительности, стремлении к просвещению – непременно станут равными с коренным народом.
Занимается Мандельштам и непосредственно литературным творчеством. В 1864 году он за собственный счёт печатает в Берлине драматическую повесть в стихах «Еврейская семья». Однако Цензурное ведомство не допустило её распространение в России ввиду «тенденциозности и предосудительности в содержании означенного сочинения». И это несмотря на верноподданический дух повести, завершающейся общим хвалебным хором «Боже, царя храни!», и на многократно повторяемые там славословия тому миропорядку, «когда все племена Отчизны стеною встанут вкруг Царя»! Но цензор был по-своему прав – Мандельштам действительно был необъективен, да и не мог быть объективным, когда воспевал величие и крепость духа своего народа. Вот какие слова он вкладывает в уста одного из персонажей драмы – раввина Иосифа:
…Былых вековЛишь книги наши я открою, –И я живу не только снова,Не только юностью своей,Но тысячью и чуждых жизней;Всех мучеников нашей веры,Всех тех великих мудрецов,Героев, праведных царей,Которых нам послал ГосподьВ течение трёх тысяч летПо всем концам земного шара!Поэтому и невозможно,Чтобы народ такой, как наш,Мог исторически погибнутьПока есть люди на земле…
Героизирует автор и мучеников иудейской веры. Так, Иосиф рассказывает ученикам поучительную историю о том, как еврейский ребёнок не пожелал поклониться языческому Зевсу и со словами: «Наш Бог один, о Израиль!» принял суровую казнь.