8bit 4:2:2でエンコしてみました。一般会員なので画質はそれなりです。再生に問題がある場合は、ハードウェアアクセラレーションを切ってみてください。RGBソース→ConverttoYV16→エンコ という風にしました。
http://www.nicovideo.jp/watch/sm16167384