「委託」か「買い切り」かは出版社側(著者側)が決めることができるのでしょうか?
「著者側」ではなく「出版社側」で決めることができます。どのような販売形態をとるかの決定権は、あくまで版元(出版社)になります。取次もしくは書店と契約しているのは、著者ではなく出版社になりますので。
Q:有名著者以外で買い切りでの注文ということもありえるのでしょうか?
→ はい、ありえます。ただ、「買い切り」は全体数でも圧倒的に少ないです。また、「買い切り」にすれば書店側の売るリスクは高まるので、注文数が少なくなることが一般的です。それから、取次を通さない直取引でも、基本的には、「委託」つまり「返品可能」としているところが大半になります。