Защо се получи така?

Здравей,
този резултат се е получил така, защото контура на обекта в маската е по-голям от самият обект. Вероятно селекцията, от която си направил маската не е била достатъчно точна. Ако селектираш маската, с бяла четка ще можеш да корегираш ръчно областта й на действие.