Родился в 1948 году в Риге, обучаться игре на виолончели начал с восьми лет. С 1962 года учился в Средней специальной музыкальной школе при Ленинградской консерватории. В 1965 году победил на Всесоюзном конкурсе исполнителей, тогда же успешно дебютировал с оркестром Ленинградской филармонии. Годом позже стал лауреатом III Международного конкурса им. П.И. Чайковского в Москве, поступил в класс Мстислава Ростроповича в Московской консерватории и начал выступать по всему Советскому Союзу.
В 1970 году был осужден на полтора года принудительных работ, после чего репатриировался в Израиль. Вскоре Майский дебютировал в Карнеги-холле в Нью-Йорке, после чего оставшийся неизвестным меценат предложил ему за символическую цену купить виолончель «Монтаньяна» XVIII века, на которой маэстро играет до сих пор.
В 1974 начал обучение у Григория Пятигорского, став единственным виолончелистом, учившимся и у Пятигорского, и у Ростроповича. С 1975 года активно гастролирует по всему миру, в том числе на крупнейших музыкальных фестивалях, с 1995 регулярно выступает в России. Среди его партнеров – Раду Лупу, Гидон Кремер, Леонард Бернстайн, Марта Аргерих, Семен Бычков, Михаил Плетнев, Зубин Мета, Юрий Башмет, Томас Квастхофф, Павел Гилилова, Итамар Голан, Вадим Репин, Лан Лан, Рено Капюсон, Элен Гримо, Максим Венгеров, Неэме Ярви, Юлиан Рахлин, Саша Майский и другие.