So wie das sich für mich darstellt, hast Du im Maskierungsmodus mit einer Pinseldeckkraft von weniger als 100% gearbeitet. Deine Auswahl ist schon zum Teil transparent.
Wenn ich mittels

+klick auf die Blumenebene die Auswahl wiederherstelle, dann in den Maskierungsmodus wechsele mit 100% Überlagerung für die Maske und anschließend nochmals über den Bereich, der nicht maskiert werden soll mit dem Auswahlpinsel gehe, dann sehe ich bei mir eine deutliche Abstufung (siehe Anhang). Bei Deiner Auswahl liegt noch ein leichter Rot-Schleier (Maske) über der Auswahl. Daher kommt die Transparenz.