ポケモンレジェンズアルセウスでモンスターボールが使えない場合の原因は２つあります。
放牧場（ボックス）がいっぱいになっている場合
ひとつめはポケモンを預けられる放牧場（ボックス）がいっぱいになっている場合です。
放牧場が上限に達すると画面上に「放牧場はいっぱい」と表示されます。
放牧場がいっぱいの状態ではポケモンを捕まえても送る先がないのでモンスターボールが投げられなくなります。放牧場がいっぱいになったらポケモンを逃して空き容量を増やしましょう。
でも、いっぱいになる前に、ある程度のところで空き容量に余裕をもたせておいたほうが安心だと思います。ポケモンを逃がすと、ポケモンのがんばレベルを上げられるガンバリいしなどがもらえますので。
ストーリーの都合上、ポケモンを倒すしかない場合（もしくはトレーナー戦）
放牧場がいっぱいになっている以外にもモンスターボールが投げられない原因があります。それはストーリーの都合上、ポケモンを倒すしかない場合です。
たとえばキングなどストーリーの都合上、捕まえられないポケモンとの戦闘だったり、あとはトレーナー戦ですね。トレーナー戦も捕まえることはできませんので、ボールを投げることができません。
Xボタンを押してもモンスターボールが選べないですし、ポーチからモンスターボールを選ぼうとしても「勝利するしかない！」と表示されてボールを投げることはできません。
まぁ、トレーナー戦にボールを投げられないのは当然ですが、野生のポケモンとの戦闘だと思っていてもイベントだったりするので、放牧場がいっぱいじゃないなら倒すしかないポケモンだと思いましょう。
【関連】【ポケモンレジェンズアルセウス】ボックスの上限は？ボックスがいっぱいになるとどうなるのか？【放牧場の上限】
以上です。