Bueno, primero decirte que pixelar sería más bien lo contrario, quiero decir, al ampliar.
Y respecto a cómo hacerlo bien, si photoshop no sabe, también puedes intentarlo con GIMP, pero el único método infalible es hacerlo manualmente.