Hallo!
Wie du richtig sagst, ist ein verlustfreies Skalieren nur mit Vektoren möglich.
Um in Photoshop Vektoren zu erstellen, gibt es das Zeichenstift-Werkzeug

.
Das Werkzeug erfordert allerdings etwas Übung, bis man wirklich flüssig damit arbeiten kann.
Wie es funktioniert, findest du z.B.
hier, oder
hier oder auch
hier.