Добрый день. Что значит «выйти из долевой собственности»? Выйти не можете, Вы можете ее прекратить путём отчуждения принадлежащих Вам долей в пользу мамы или любого другого лица. Любая форма такого отчуждения возможна только с соблюдением обязательной нотариальной формы договора. Для Москвы стоимость услуг нотариуса при такой сделке 25 т.р. минимум.
В случае смерти брата и при условии, что на этот момент у него будет право собственности, дети будут являться его наследниками первой очереди. Если права у него уже не будет, то соответсвенно никаких претензий у детей не будет.

Здравствуйте. Дети Вашего брата могут претендовать на его долю в данной квартире только как прямые наследники по закону и только до того момента пока брат является собственником. Если брат распорядился своей долей при жизни (продал/подарил ), то при чем тут его дети?
Если в результате сделки с долями мама будет единственным собственником, то данной недвижимостью уже только она будет распоряжаться. Дальнейшее прогнозировать не имеет смысла и фантазировать тоже.

Здравствуйте. Если Вы хотите, чтобы Ваша мама стала единоличным собственником квартиры, то Вы с братом можете подарить ей свои доли. Это нотариальная сделка в силу закона. В случае смерти Вашего брата в период владения им долей, его дети, супруга и (Ваша) мама, унаследуют принадлежащее ему имущество в равных долях. В случае смерти Вашего брата после того, как он подарит долю Вашей маме, его супруга и дети смогут претендовать на имущество Вашей мамы после её смерти по праву представления. Они вместе унаследуют долю имущества Вашей мамы, которую получил бы Ваш брат в случае, если бы был жив на момент смерти Вашей мамы. Это в общем. При наличии завещания от наследодателей, ситуация может быть иной.

Извините, но вопросы необходимо задавать корректно, невозможно гадать о чём именно интересуетесь. Сформулируйте вопрос заново, а лучше сходите на очную консультацию.