Bocsánat, most néztem, hogy a került bele egy felesleges szóköz. Helyesen:

convert *.jpg -quality 100 output.pdf

Természetesen a quaility nyugodtan levehető 100-ról kisebbre is (így kisebb lesz a kimeneti pdf). Attól függ, hogy mi a cél.