Второй секретарь обкома ВКП(б) ЕАО Янкель Аронович Левин родился в 1888 году в Гомеле. До 13 лет учился в еврейской школе /хедер/, а затем до 1909 г. работал столяром, поденщиком в мебельных магазинах и у отца-кустаря. В эти годы Левин являлся одним из организаторов еврейской молодежной организации «Югенд-бунд» в г. Гомеле, а в 1905 г. вступил в партию «Бунд».

В 1909 г. призван на военную службу, но через несколько недель был демобилизован по льготе и уехал в г. Мелитополь, где около года работал столяром на паровой мельнице.

В 1911 году переехал в г. Вильно (ныне г. Вильнюс), где работал в образцовой столярной мастерской общественной организации «Труд». Эта организация содержала различные ремесленные мастерские с соответствующими вечерними курсами, на которых готовили мастеров для еврейских ремесленных училищ.

За политическую деятельность трижды подвергался арестам: в 1914 г. – в г. Варшаве за подпольное собрание, за что Варшавским обер-полицмейстером осужден на 3 месяца; весной 1915 г. в г. Варшаве – за проживание по чужим документам, сидел в Варшавской тюрьме до эвакуации арестованных в связи с отступлением из Варшавы, был эвакуирован в тюрьму в г. Твери, где сидел до октября 1915 года и был выпущен под надзор полиции, но по чужим документам бежал в Киев; в сентябре 1916 г. – в г. Киеве, где сидел в тюрьме до февральской революции 1917 года.

В 1919 г. общество «Труд» организовало Левину и еще нескольким рабочим поездку за границу для повышения их квалификации. Несколько месяцев они работали в Германии в г. Берлине на мебельной фабрике, и в том же году вернулись в Россию. 

По возвращении из Германии Левин оставил свое ремесло и перешел на партийную работу в качестве уполномоченного Центрального комитета партии «Бунд». Начиная с 1918 г. был одним из организаторов левого течения в «Бунде», и впоследствии возглавил движение за объединение с РКП/б/. Как левый с 1919 г., был избран в ЦК «Бунда» и больше года был секретарем ЦК партии. На основании решения Комиссии ЦК ВКП/б/ об условиях вхождения членов «Бунда» в ряды РКП/б/ в апреле 1921 г. в Минске вошел в РКП/б/ с зачислением партийного стажа с апреля 1920 года.

После вступления в ряды РКП/б/ был командирован в Польшу в г. Вильно, где в течение нескольких месяцев вел подпольную работу по борьбе с «Бундом».

По возвращении из г. Вильно в Минск был назначен секретарем Главного бюро Еврейской секции при Центральном бюро РКП/б/ Белоруссии (до мая 1922 года). С 19 февраля по 11 мая 1922 года — кандидат в члены ЦБ КП(б) Белоруссии. 

С 11 мая 1922 года по 10 февраля 1924 года — заведующий Организационно-инструкторским отделом ЦБ КП(б) Белоруссии, член ЦБ КП(б) Белоруссии, с 14 октября 1922 года по 10 февраля 1924 года — член Президиума ЦБ КП(б) Белоруссии. Одновременно в 1923-1925 гг. - ответственный секретарь Минского уездного и окружного комитета КП(б) Белоруссии. С 9 июля 1924 года по 8 декабря 1925 года — кандидат в члены Бюро КП(б) Белоруссии.

В конце 1925 года ЦК ВКП(б) командирован на работу на Украину, где до 1929 г. возглавлял Центральную Комиссию национальных меньшинств при ВУЦИКе в г. Харькове, активно сотрудничал с газетами «Дер штерн», «Юнге гвардие» и «Зай грейт». В 1929 г. с разрешения ЦК компартии Украины был командирован по линии Центрального правления общества «О3ЕТ» в Южную Америку с целью популяризации советской национальной политики среди еврейского населения. В течение семи месяцев посетил Аргентину, Уругвай и Германию, где в десятках городов и колоний провел широкие собрания еврейского населения.

По возвращении из-за границы через некоторое время был отозван в г. Москву для работы в «ОЗЕТ», где с мая 1929 г. до октября 1930 г. работал в качестве ответственного секретаря президиума Центрального правления «ОЗЕТ». Участвовал в организации переселения евреев в Крым, в национальные еврейские районы УССР и на Дальний Восток, занимался вопросами печати, автор статей и брошюр по вопросам переселения.

В сентябре 1930 г. в связи с организацией Биро-Биджанского района ДВК был командирован ЦК ВКП/б/ на Дальний Восток. 30 сентября 1930 на первом пленуме райкома избран первым секретарем Биро-Биджанского райкома ВКП(б) ДВК.