Hallo Dansch!
Verstehe ich Dich richtig: Du erstellst erst eine Auswahl, und willst dann diese Auswahl mit einer bestimmten Farbe bemalen? Wenn ja, erstellst Du Deine Auswahl mit dem Lassowerkzeug oder mit dem Rechteckauswahl-Werkzeug?
Wenn Du die Auswahl mit dem Lasso erstellst, ist dann die Option "Glätten" aktiviert? Diese option lässt nämlich auch Auswahlen zu, die diagonal durch einen Pixel laufen. Die Auswahl wird zwar in nicht diagonal angezeigt, aber der Pixel beim Übermalen nicht mit 100% der Farbe gefüllt. Das könnte diese "Ausfransungen" (wie man das genau nennt weiß ich auch nicht) verursachen.
MfG Stefan