Das funktioniert bei dem vorliegenden Baumbild nicht, da im Baum auch Töne der selben Helligkeit sind, wie im Himmel. Echtes Freistellen ist da schon die bessere Idee. Der Ansatz über die Kanäle zu gehen ist auch nicht verkehrt.
Also ich habs so gemacht:
Kanalberechnungen blau mit blau multipiziert.
Dann Tonwertkorrektur auf den neuen Alphakanal:

Nun hab ich was, womit ich arbeiten kann:
Ich nehme mir den Abwedler mit einem großen, weichen Pinsel in die Hand und mit der Einstellung LICHTER und nur ca. 30% und „Tonwerte schützen aus“ gehe ich vorsichtig über den Kanal. Zur Sicherheit am besten an einer Kopie arbeiten. Das schaut dann schon ganz gut aus:
Und jetzt kommts: Du musst nicht den BAUM ausmaskieren, sondern den Himmel! Also Himmel nach oben, Baummaske drauf und Ebene auf ineinanderkopieren stellen. Dann kannste an der Maske noch Finetuning machen. OHNE Finetuning schaut das dann so aus:
Passt dir die Himmelsfarbe nicht, einfach eine Gradationskurve als Schnittebene anlegen und dran drehen.
Der Witz ist, dass dein Baum an den Stellen, wo die Maske nicht sauber ist, einfach nur zu kalt ist und deswegen biste mit dem Finetuning auch schnell durch.