Гольденберга арестовали 11 мая 1938 года, обвиняли по ст.ст. 58-1а, 58-11 УК РСФСР. 

Из анонимного доноса на Гольденберга на имя 1-го секретаря Далькрайкома ВКП(б), 1937 год:

"У ЛАВТАКОВА было достаточно материала о ГОЛЬДЕНБЕРГЕ - друге ЛИБЕРБЕРГА. ГОЛЬДЕНБЕРГ - бывший сионист, исключался из партии, состоял в дружбе с врагом народа ЛИТВАКОВЫМ из редакции «ДЕР ЭМЕС». ГОЛЬДЕНБЕРГ является воспитанником старого контрреволюционера ЛЕВИТАНА - ныне арестованного с шайкой шпионов. ГОЛЬДЕНБЕРГ устроил брата ЛЕВИТАНА в Биробиджане на работу. Кроме того, ГОЛЬДЕНБЕРГ также являлся товарищем с КАТТЕЛЕМ. Всем это известно, что ГОЛЬДЕНБЕРГ - националист, был связан с троцкистами ШПРАХОМ и другими".

В июне 1938 года ВРИО начальника УНКВД по ЕАО Нуждин С.С. в объяснительной записке на имя начальника УНКВД ДВ края Люшкова Г.С. писал:

"Редактор Еврейской газеты ГОЛЬДЕНБЕРГ в газете пропустил шесть первомайских лозунгов. Ему за это бюро обкома выносит строгий выговор, и его снимают с работы редактора. Через несколько дней он в обком подает апелляцию.

По ходу следствия мне ГОЛЬДЕНБЕРГА надо арестовывать. Об этом я поставил в известность тов. СУХАРЕВА. Он на бюро обкома ставит вопрос о ГОЛЬДЕНБЕРГЕ, где у большинства членов бюро обкома было такое мнение - дать ГОЛЬДЕНБЕРГУ меньшее взыскание. Однако СУХАРЕВ выступает и настаивает на исключении его из партии, мотивируя это тем, что бюро обкома слишком мягко подошло на прошлом заседании в отношении ГОЛЬДЕНБЕРГА.

На этом заседании выступали отдельные члены бюро, а также и присутствовавшие, и высказывали свое мнение о том, что ГОЛЬДЕНБЕРГУ это будет большое партийное наказание. И только уже после вторичного выступления тов. СУХАРЕВА ГОЛЬДЕНБЕРГА исключают из партии с большой потугой.

Когда же я ГОЛЬДЕНБЕРГА арестовал, то он мне прямо заявил: «Когда мне еще выносили строгий выговор, то я уже в то время почувствовал, что это исходит из органов НКВД. А когда меня исключали из партии, то я в этом еще больше убедился».

Из протокола допроса обвиняемого Стасюкова Ф.А. от 18 августа 1938 года:

"ЛИБЕРБЕРГОМ была сколочена контрреволюционная националистическая группа, в которую, кроме названных мною ранее лиц, входили также ВЕЛЬТМАН, КОРМАН, РАБИНОВИЧ, ШНАЙДЕРМАН, ВАЙСМАН и ШИФ. В редакции «Биробиджанер Штерн» эта группа заняла господствующее положение и привлекла к себе дополнительно КАРДОНСКОГО, ВАССЕРМАН и других, проводя под руководством ГОЛЬДЕНБЕРГА и ФИНКЕЛЬШТЕЙНА активную контрреволюционную деятельность. К этой группе, засевшей в редакции в лице ФИНКЕЛЬШТЕЙНА, ГОЛЬДЕНБЕРГА, ВЕЛЬТМАНА, ВАЙСМАН, КАРДОНСКОГО и других примыкала также контрреволюционная националистическая группа из писателей и журналистов, в которую входили националисты и анархисты ДОБИН, КОБЕЦ, ПЕВЦОВ, ФАДЕЕВ и ВАЙНГАУЗ. Общее идейное руководство над этими контрреволюционными группами осуществлялось участником заговорщического центра КРАСНОВЫМ, который и был с ними непосредственно связан".

Из протокола допроса обвиняемого Стасюкова Ф.А. от 22 декабря 1938 года:

"Кардонский, являясь сотрудником редакции газеты «Биробиджанер Штерн», вместе с Финкельштейном, Гольденбергом и др. использовали газету в целях сокрытия действительного состояния области, создания помпезности и шума вокруг мнимых успехов. По существу же это была вражеская линия замаскировывания подрывной работы орудовавшей в ЕАО правотроцкистской контрреволюционной организации, направленной на срыв социально - культурного строительства области, дискредитацию ленинско - сталинской национальной политики и отрыв Еврейской автономной области от Советского Союза под протекторат Японии".

Из заявления обвиняемого Стасюкова Ф.А. военному прокурору от 23 марта 1939 года:

"Приходит Суворов, читает написанное, рвет все и кидает в корзину, бросается на меня с кулаками и угрозами, требуя, чтобы мною было написано не менее 20 страниц и остро. И вслед за этим сжато продиктовал мне, что я должен писать. Наконец-то мне удалось членораздельно услышать, что от меня хотят и что я должен писать!

Не спуская в камеру, меня продержали в Управлении до 6 июня. За эти четверо суток нахождения у следователя из ряда кабинетов я слышал плач, стоны и нечеловеческие вопли допрашиваемых арестованных, звуки ударов и падения человеческих тел. По голосу я узнал, что среди «допрашиваемых» находятся Пальшин и Гольденберг. 

Пальшина допрашивали в противоположном конце коридора, и его крики и стоны от причиняемых ему мучений доносились до меня. 

А Гольденберга допрашивали в кабинете напротив кабинета, в котором сидел я. Мне отчетливо было слышно, что его мучили не один, а несколько человек одновременно. Он несколько раз терял сознание, и мне было слышно, как его приводили в чувство при помощи нашатырного спирта. Все это наполняло меня невероятным ужасом. Я готов был сделать (а не только написать) все что угодно, но чтобы только скорее вырваться из этого ада". 

Из книги Иосифа Баскина «Салюты и расстрелы. Записки уцелевшего», Екатеринбург, 1992 г.; Израиль, 1999 г.:

"Ночью нас, обитателей одиночек, с вещами ввели в большую общую камеру, наполненную до отказа заключенными. Шум, радостные возгласы. Споры из-за места на нарах. За 12 месяцев одиночества я отвык от людей, от шума. Оглянулся и увидел знакомых - Гольденберга, Бейнфеста, Маевского. Они тоже радостно приветствовали меня. Кое-как устраиваемся на нарах.

Гольденберг, один из первых биробиджанских переселенцев, энтузиаст и заводила, сказал:

- Все время вспоминал о погибших товарищах... Не могу примириться с их смертью. Вместе с ними погибла и наша мечта. Еврейская автономия.

- Почему погибла?

- Потому что Биробиджан - искусственное растение. Сейчас я понял: он с самого начала был обречен. Создавать автономию было бы естественно в местах традиционного размещения евреев: в Белоруссии или, скажем, в Крыму. Но Сталиным движут другие соображения. Когда японцы захватили Маньчжурию и начались пограничные конфликты, ему потребовалось заселить малолюдные приграничные районы. Задача скорее стратегическая, чем национальная. Национальные демографические факторы не учитывались вовсе, удаленность от еврейских центров, непривычный климат, отсутствие исторических корней. Биробиджан, наверное, будет жить, но он будет обычным русским городом.

- Но ты же не станешь отрицать, что начала еврейской общины здесь положены. Действуют еврейский театр, школы, техникумы, издается еврейская газета, осела какая-то часть переселенцев. Организованы еврейские колхозы и МТС. Нас там нет, но Еврейская автономная область развивается.

- Она исчезнет, потому что уничтожен актив. Ликвидировано все, что питало, заботилось о ней. Исчезло с лица земли навсегда. После такого удара еврейское переселение заглохнет. Биробиджан уже никогда не станет центром еврейской культуры…

Дня через три заключенных стали поочередно выкрикивать наверх. Там в одной комнате представители ГПУ объявляли каждому, какое принято решение на его счет. От имени Особого совещания. С нетерпением мы ждали возвращения товарищей. Один за другим они спускались к нам со словами: «5 лет Колымы... 10 лет... 8 лет...». Без суда, заочно!? Камера снова бурлит, исходит протестами. Ясно, что нас боятся судить очно, сфабрикованные обвинения рассыплются при любом разбирательстве в суде.

Я получил 5 лет Колымы. Некоторых освободили. Из 78 заключенных, находившихся в камере, таких счастливцев оказалось 19. Среди них Бузя Гольденберг".

Почти два года шло "следствие", но конкретных доказательств вины журналиста найти так и не удалось — 14 марта 1940 года дело пришлось прекратить за недоказанностью предъявленных ему обвинений. После освобождения из-под ареста Бузи Гольденберг уехал в Минск, навсегда покинув Биробиджан. 

10 августа 1941 года Московским городским военкоматом призван в РККА. Участвовал в ВОВ в качестве инструктора-литератора 7-го отделения Политуправлений Карельского фронта, 1-го и 3-го Украинских фронтов, начальником редакционно-издательского отделения 7-го отдела Политуправления Юго-Западного фронта. Имел множество боевых наград: орден Красной Звезды (1943) и орден Отечественной войны II степени (1944), медали «За оборону Советского Заполярья», «За боевые заслуги» (1943), «За освобождение Белграда», «За взятие Вены» (1945), «За победу над Германией в Великой Отечественной войне 1941–1945 гг.» (1945), «За взятие Будапешта» (1945), «За боевые заслуги» (1951). В отставку вышел 31.12.1951 года в звании подполковника.