タグ HALC@LOID(NNSVS) が登録されている動画 ： 39 件中 1 - 32 件目
種類:
- タグ
- キーワード
対象:
【AI式HALC@LOID】Fantastic【NNSVSカバー】
sm38066370 のセルフリメイクです.
原曲: モノローグP 【巡音ルカ】 Fantastic 【オリジナル曲】 sm8837393
musicxml: https://bowlroll.net/file/314511 (pass: wahhoi)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
---
Timelag model: MDNv2
Duration model: VariancePredictor
Acoustic model: SemiMultistreamRDARMDN
vuv_model: FFConvLSTM
Vibrato model: none
Vocoder: ParallelWaveGAN(Hn-sinc-NSF)
【AI式HALC@LOID】電気予報【NNSVSカバー】
原曲: 稲葉曇『電気予報』feat. 初音ミク sm43089818
参考にしたust: 冬宮紀沙氏 【Cevio AIカバー+ust】電気予報【東北きりたん】 sm42882718
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
---
Timelag model: MDNv2
Duration model: VariancePredictor
Acoustic model: NPSSMultistreamParametricModel
lf0_model: BiLSTMResF0NonAttentiveDecoder
mgc_model: BiLSTMNonAttentiveDecoder
bap_model: BiLSTMNonAttentiveDecoder
vuv_model: FFConvLSTM
Vibrato model: none
Vocoder: ParallelWaveGAN(Hn-sinc-NSF)
【AI式HALC@LOID】余裕欲【NNSVSカバー】
原曲: 稲葉曇『余裕欲』Vo. nagiβ & カゼヒキβ sm42915661
参考にしたust: ばにらあいす氏 【黯冥ダスト】余裕欲【UTAUカバー&ust配布】 sm42918100
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
---
Timelag model: MDNv2
Duration model: VariancePredictor
Acoustic model: SemiMultistreamRDARMDN
vuv_model: FFConvLSTM
Vibrato model: none
Vocoder: ParallelWaveGAN(Hn-sinc-NSF)
【AI式HALC@LOID】言って。【NNSVSカバー】
原曲: ヨルシカ - 言って。(Music Video) https://www.youtube.com/watch?v=F64yFFnZfkI
参考にしたust: ばにらあいす氏 https://lit.link/Vanilla9831
オフボーカル音源: 【生音カラオケ】言って。 / ヨルシカ【Instrumental / Off Vocal】https://www.youtube.com/watch?v=Ao9K0RFBjXQ
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
---
HN-uSFGANの学習に失敗してブレスが有声化けしてしまうため, ParallelWaveGAN(Hn-sinc-NSF)の出力と適宜コンピングしています.
【AI式HALC@LOID】リレイアウター【NNSVSカバー】
ボカコレ2023夏TOP100ランキング1位おめでとうございます.
原曲: 稲葉曇『リレイアウター』Vo. 歌愛ユキ sm42576236
参考にしたust: ばにらあいす氏 【黯冥ダスト】リレイアウター【UTAUカバー&ust配布】 sm42580913
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
---
NNSVS-WORLD v4(自己回帰モデル)と SemiMultistreamRDARMDN(自作のより単純な自己回帰モデル)をコンピングしてミックスしています.
【AI式HALC@LOID】期待通り【NNSVSカバー】
原曲: 稲葉曇『期待通り』Vo. AI音街ウナ sm42389178
参考にしたust: ばにらあいす氏 【黯冥ダスト】期待通り【UTAUカバー&ust配布】 sm42392026
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
---
新音響モデルで AI式HALC@LOID を学習させるには学習データ量が不足しており, 特に学習データにない長い音符で破綻しがちなので, 安定性を優先してより単純な自己回帰モデルを独自に実装しました(参考: NII の Xin Wang 博士の論文 https://ieeexplore.ieee.org/document/8341752 ). 2021 年頃に AI式HALC@LOID で使用していた RMDN に深い自己回帰入力を追加しただけですが, 以前は必要だった動的特徴量の推定が不要になるなど一定の効果はあるようです. Vocoder はまた前回 (sm42337928) と同じく ParallelWaveGAN(Hn-sinc-NSF) を使用しました.
【AI式HALC@LOID】レイニーブーツ【NNSVS-WORLD v4(自己回帰モデル)+ParallelWaveGAN】
原曲: 稲葉曇『レイニーブーツ』Vo. 歌愛ユキ sm38927801
参考にしたust: ばにらあいす氏の ust https://lit.link/Vanilla9831
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
----
NNSVSの最近の音響モデルに関して得られた知見
・2021年頃のAI式HALC@LOIDで採用していたRMDNと比較して大量の学習データが必要. NNSVS-WORLD v4(自己回帰モデル)で1h, NNSVS-WORLD v5(拡散モデル)で2h以上
・学習データ量が足りないと音程の他に音量(低次のmgcが関係)も不安定になり音痴に聴こえる
・学習データ量が足りない場合は pitch-shift data augmentation (以下PSDAと省略)という手法で
学習データを拡張することで音程や音量が安定化させることができる(場合がある) (参考: https://github.com/nnsvs/nnsvs/blob/master/utils/pitch_augmentation.py )
・PSDA で学習データを拡張しても元の学習データ量が30分程度だと NNSVS-WORLD v5で良好な結果を得ることは難しい
・有声/無声の誤推定が目立つ場合は vuv_model から mgc に対する依存を外した方が良い
・新しく採用されたニューラルボコーダである HN-uSFGAN, SiFiGAN はどちらも素晴しい出力が得られるが, 学習データにリバーブ等のノイズが乗っている場合は ParallelWaveGAN(Hn-sinc-NSF)の方がノイズに対して堅牢である(気がする)
【ニコマスPが】シャボン / ゆのす【HALC@LOIDと歌ってみた】
ゆのすと申します。
蜂屋ななし様の『シャボン（sm35191636)』を
Heimatlos氏作成のAI式HALC@LOIDと一緒に歌わせていただきました。
Vocal:ゆのす（mylist/71936118）、AI式HALC@LOID（sm40995997）
Mix:やまやま（@yama2mix）
イラスト:かづき（@kAduk0）
音源、イラストで協力いただいた方々ありがとうございました。
普段はニコマスMADをつくってます。
つくったもの：mylist/62150623
【AI式HALC@LOID】シンクタンク【NNSVSカバー】
思い出してもらいたいな / Voc@loidM@ster祭り'22フライング参加作品
--
原曲: 稲葉曇『シンクタンク』Vo. 裏命 sm40978472
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】カゼマチグサ【NNSVSカバー】
最新版のNNSVSの更新でmasterに入ったGAN based mgc postfilter に挑戦しましたが, 学習データにリバーブなどのエフェクトが掛かっていると上手く学習できないようです(今回は従来の merlin postfilter で合成)
--
原曲: 稲葉曇『カゼマチグサ』Vo. 鳴花ヒメ sm37136620
参考にしたust: ばにらあいす氏の ust https://lit.link/Vanilla9831
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】とこしずめ【NNSVSカバー】
原曲: 稲葉曇『とこしずめ』Vo. 星界 sm40564386
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
THE iDOLM@STER HARUKA AMAMI Brand New Sunset
F@VORITE M@STER参加作品/HALC@LOID(NNSVS) - Brand New Sunset(Hi-STANDARD)/オリジナルキー+3/一部歌詞を改変しています
timelag model: MDN, hidden_dim 32, num_layers 3, num_gaussians 1
duraion model: MDN, hidden_dim 256, num_layers 3, num_gaussians 1
acoustic model: Conv1dResnetRMDN, conv1dresnet_hidden_dim 32, lstm_hidden_dim 256, conv1dresnet_num_layers 10, lstm_num_layers 2, num_gaussians 4, dropout 0.1, dim_wise True
vibrato model: diff
vocoder: ParallelWaveGAN(Hn-sinc-NSF)
【AI式HALC@LOID】篝火【NNSVSカバー】
Hn-sinc-NSFは学習データの音域から外れると著明に合成結果が悪くなるので今回はWorldで合成しました. 一部歌詞を改変しています.
原曲: ちいたな 『篝火』- IA - sm34128998
アレンジ: 稲葉曇 https://www.youtube.com/watch?v=2A46CwhV4aE
musicxml: https://bowlroll.net/file/277823 (pass: wahhoi)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】天泣【NNSVS+Hn-sinc-NSF】
NNSVSのdevブランチで開発中のParallelWaveGANサポートを使用して, 音声の出力をPyWorldからNEUTRINOでも採用されているHn-sinc-NSFに変更してみました. 音響モデルはResidual F0を使った新しい音響モデルが学習データ不足で安定しないため従来のままです.
原曲: 稲葉曇 天泣 https://www.youtube.com/watch?v=1_8pQVYJtwQ
musicxml: https://bowlroll.net/file/276647 (pass: wahhoi)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】きみに回帰線【NNSVS新音響モデル】
祝・ウェザーステーション発売 & NNSVS新音響モデル実装!
NNSVSでsinsyの最近の論文を元に実装されたResSkipF0FFConvLSTMを使ってみましたが, 一部の滑舌が不明瞭になるなどまだ工夫が必要そうです(改良されたduration予測は大変良い).
原曲: 稲葉曇『きみに回帰線』Vo. 歌愛ユキ https://www.nicovideo.jp/watch/sm40230104
musicxml: https://bowlroll.net/file/276648 (pass: wahhoi)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
timelag model: MDN, hidden_dim 32, num_layers 3, num_gaussians 1
duraion model: MDN, hidden_dim 256, num_layers 3, num_gaussians 1
acoustic model: ResSkipF0FFConvLSTM, conv_hidden_dim 1024, lstm_hidden_dim 256, ff_hidden_dim 2048, dropout: 0.0, bidirectional True
vibrato model: sine
【AI式HALC@LOID】紗痲【NNSVSカバー】
原曲: ∴flower『紗痲』/ 煮ル果実 sm33974546
アレンジ: 稲葉曇 https://twitter.com/inabakumori/status/1110154553138118656
参考にした ust: 【ZOLA_PROJECT】紗痲【MMDボカロカバー+ust配布】 sm38910522
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】絶体暗星【NNSVSカバー】
原曲: 稲葉曇 絶体暗星 https://www.youtube.com/watch?v=lYtZ5oMs3_8
参考にした ust: coolkiwiii 【巡音ルカ】絶体暗星【VOCALOIDカバー】+VSQ/UST/SVP/MIDI sm39972572
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
オフボーカル音源は spleeter ( https://github.com/deezer/spleeter ) で作成しています. 歌愛ユキの歌声は
spleeterとの相性が良いのかかなり綺麗に分離することができます(2022/6/12追記).
【AI式HALC@LOID】ポストシェルター【NNSVSカバー】
原曲: 稲葉曇『ポストシェルター』Vo. 弦巻マキ sm39963084
参考にした ust: ばにらあいす 【黯冥ダスト】ポストシェルター【UTAUカバー&ust配布】 sm39964733
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】ツクリカケノ心象【NNSVSカバー】
原曲: 稲葉曇 歌愛ユキ『ツクリカケノ心象』 sm30117882
参考にした ust: あめころもるち゛ 【飴音わめあ】ツクリカケノ心象【UTAUカバー＋UST配布】 sm30182652
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AIはるちは】ハッピーシンセサイザ【NNSVSカバー】
第3回アイマス人力歌謡祭参加作品 / 原曲: EasyPop ハッピーシンセサイザ【EasyPop/巡音ルカ GUMI】 sm12825985
参考にした ust: https://bowlroll.net/file/251497
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
アイドルマスター 天海春香 WISH
Visual M@ster 2021 遅刻作品 / 伴奏は "WISH/LUNASEA/カラオケ用" (https://www.youtube.com/watch?v=JI56Kz7Eu1M) から無断で拝借して候 / オリジナルキー+5 / HALC@LOID(NNSVS) - WISH(LUNA SEA)
【AI式HALC@LOID】ハローマリーナ【NNSVSカバー】
原曲: 稲葉曇『ハローマリーナ』Vo. 歌愛ユキ & 初音ミク sm39646734
参考にした ust: 【黯冥ダスト】ハローマリーナ【UTAUカバー&ust配布】 sm39649483
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】アンチサイクロン【NNSVSカバー】
原曲: 稲葉曇『アンチサイクロン』Vo. 歌愛ユキ sm35909360
参考にした ust: ばにらあいす氏(現在非公開)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】ハルノ寂寞【NNSVSカバー】
原曲: 稲葉曇『ハルノ寂寞』Vo. 弦巻マキ sm38728089
参考にした ust: ばにらあいす氏(現在非公開)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】うつしあそび【NNSVSカバー】
原曲: 歌愛ユキ『うつしあそび』 sm31093977
参考にした ust: 【黯冥ダスト】うつしあそび【UTAUカバー+UST配布】 (現在非公開)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】ひみつの小学生【NNSVSカバー】
原曲: 稲葉曇『ひみつの小学生』Vo. 歌愛ユキ sm36042320
参考にした ust: 【黯冥ダスト】ひみつの小学生【UTAUカバー+ust配布】 (現在非公開)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】ノンユース【NNSVSカバー】
原曲: 稲葉曇『ノンユース』Vo. 歌愛ユキ & 初音ミク sm35109167
参考にした ust: 【黯冥ダスト】ノンユース【UTAUカバー+ust配布】 (現在非公開)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】浮遊月光街【NNSVSカバー】
原曲: 稲葉曇『浮遊月光街』Vo. 歌愛ユキ sm34347007
参考にした ust: 【櫻花アリス】浮遊月光街【UTAUカバー+UST配布】sm34398772
学習モデル生成, 歌声合成, ミキシング: ひょこおじ
イラスト: かづき(@kAduk0)