Если я правильно понял систему, то после незначительного толчка, система была выведена из равновесия (шайба начала падать), но скорости шайбы и горки не были изменены. Взаимодействия шайбы и горки произошли уже во время скатывания шайбы. Запишем законы сохранения импульса и энергии для горки массой 5m и шайбы.
Где u – скорость шайбы после скатывания
Решая первое уравнение находим u, подставляем его во второе уравнение и находим высоту горки.
После того как шайба скатилась, она движется со скоростью u, а горка массой 7m стоит на месте. Прежде, чем записать законы сохранения энергии и импульса стоит ответить на вопрос: как соотносятся скорости горки и шайбы?
Ответ: v_{шайбы} = v_{горки}
И теперь записываем те же законы сохранения и решая систему уравнений приходим к ответу на второй пункт
Почему в правой части уравнения не добавляется mgh? u ведь — скорость шайбы после толчка, то есть в этот момент шайба все еще на горке.
Если я правильно понял систему, то в результате незначительное толчка шайба была выведена из равновесия и начала съезжать. В процессе скатывания, горка остановилась, а шайба ускорилась. В этом случае mgh справа не нужна и u – скорость шайбы уже на столе
Если бы в результате толчка горка остановилась, а шайба ускорилась, то в процессе скатывания горка начала бы двигаться в обратную сторону. Трения в системе нет, но горка с шайбой всё ещё взаимодействуют через силы реакции.

\vec N – сила реакции опоры (горки) на шайбу, \vec P – сила давления шайбы на горку. За то время, пока шайба скатывается, за счёт них горка и шайба обменяются определённым количеством импульса. То есть, этот вариант нам не очень подходит.
Есть ещё третий вариант, когда шайба чуть ускоряется и горка частично замедляется совсем забыл про него когда отвечал . Чтобы рассмотреть этот случай запишем те же законы:
Где u_1 и u_2 – скорости горки и шайбы после толчка, соответственно. И запишем законы сохранения для скатывания шайбы по горке:
Сложив уравнения импульса и энергии соответственно, приходим уравнениям для первого случая
