レスが遅れてすみません。
えーと、M-JPEGは指摘のようにOS標準状態ではちょっと扱いづらいところがありますね。自分の所はQuickTime Proがインストールしてあります。

カシオサイトの情報は2、3年前の情報であって、最近ではQT4を入れなくてもWindows Media 9（WM9）で十分です。WM9であればDirectShowがM-JPEG再生を担ってくれてます。ただし、これはQT4インストール時同様に、再生のみです。
MainConcept...と書かれているので、この辺りもご存じかとは思いますが。

そして…、MainConceptのM-JPEGはフリーで使える物として知られているのですが、どうもAVIUtlで扱うには不具合があるように思います。指摘のように画面が黒くなったりして。
なので…、QT Proを入れてない状態で、フリーにこだわってM-JPEGの編集、エンコードまでしたい場合には、AVIUtlの場合、PICVideoのM-JPEGコーデックを使うしかないかもしれません（自分が知らないだけかも）。

http://www.pegasusimaging.com/picvideomjpeg.htm
から、PICVIDEO.EXEをダウンロードしてインストールすれば、天体の場合、上下のテロップ表示（シェアウェア未登録の場合表示）は邪魔にならないはずです（汗
そして、出力（エンコード）は、無圧縮が無難でいいでしょうね。QVが記録するAVI（M-JPEG）は、最初の時点で比較的劣化してますので。