Du musst unterscheiden zwischen der Auswahl, die erstellt wurde und dem, was angezeigt wird. Mach einfach mal ein weißes Dokument und wähle da mit 0 ein paar Formen und dann machst du die schwarz. Und nun machst du das selbe nochmal mit weicher Kante in verschiednenen Einstellungen. Dann siehst du am besten, was da passiert. Blos, weil ggfs nix angezeigt wird, heißt das nicht, dass keine Auswahl aktiv ist.
Besser anzeigen lassen kann man sich das auch mit dem Modus Maskierungsmodus. In CS6 findest du das unten an der Werkzeugleiste:
