キーワード HALC@LOID(NNSVS) が含まれる動画 ： 40 件中 1 - 32 件目
種類:
- タグ
- キーワード
対象:
【AI式HALC@LOID】Fantastic【NNSVSカバー】
sm38066370 のセルフリメイクです.
原曲: モノローグP 【巡音ルカ】 Fantastic 【オリジナル曲】 sm8837393
musicxml: https://bowlroll.net/file/314511 (pass: wahhoi)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
---
Timelag model: MDNv2
Duration model: VariancePredictor
Acoustic model: SemiMultistreamRDARMDN
vuv_model: FFConvLSTM
Vibrato model: none
Vocoder: ParallelWaveGAN(Hn-sinc-NSF)
アイドルマスター 天海春香 ラグトレイン
深層学習による歌声合成のための習作. 伴奏は稲葉曇様のオリジナル(sm37198038)から, ust はばにらあいす様の黯冥ダストカバー(sm37199842)よりお借りしました.
アイドルマスター 天海春香 WISH
Visual M@ster 2021 遅刻作品 / 伴奏は "WISH/LUNASEA/カラオケ用" (https://www.youtube.com/watch?v=JI56Kz7Eu1M) から無断で拝借して候 / オリジナルキー+5 / HALC@LOID(NNSVS) - WISH(LUNA SEA)
【AI式HALC@LOID】言って。【NNSVSカバー】
原曲: ヨルシカ - 言って。(Music Video) https://www.youtube.com/watch?v=F64yFFnZfkI
参考にしたust: ばにらあいす氏 https://lit.link/Vanilla9831
オフボーカル音源: 【生音カラオケ】言って。 / ヨルシカ【Instrumental / Off Vocal】https://www.youtube.com/watch?v=Ao9K0RFBjXQ
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
---
HN-uSFGANの学習に失敗してブレスが有声化けしてしまうため, ParallelWaveGAN(Hn-sinc-NSF)の出力と適宜コンピングしています.
【AIはるちは】ハッピーシンセサイザ【NNSVSカバー】
第3回アイマス人力歌謡祭参加作品 / 原曲: EasyPop ハッピーシンセサイザ【EasyPop/巡音ルカ GUMI】 sm12825985
参考にした ust: https://bowlroll.net/file/251497
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】うつしあそび【NNSVSカバー】
原曲: 歌愛ユキ『うつしあそび』 sm31093977
参考にした ust: 【黯冥ダスト】うつしあそび【UTAUカバー+UST配布】 (現在非公開)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】電気予報【NNSVSカバー】
原曲: 稲葉曇『電気予報』feat. 初音ミク sm43089818
参考にしたust: 冬宮紀沙氏 【Cevio AIカバー+ust】電気予報【東北きりたん】 sm42882718
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
---
Timelag model: MDNv2
Duration model: VariancePredictor
Acoustic model: NPSSMultistreamParametricModel
lf0_model: BiLSTMResF0NonAttentiveDecoder
mgc_model: BiLSTMNonAttentiveDecoder
bap_model: BiLSTMNonAttentiveDecoder
vuv_model: FFConvLSTM
Vibrato model: none
Vocoder: ParallelWaveGAN(Hn-sinc-NSF)
【ニコマスPが】シャボン / ゆのす【HALC@LOIDと歌ってみた】
ゆのすと申します。
蜂屋ななし様の『シャボン（sm35191636)』を
Heimatlos氏作成のAI式HALC@LOIDと一緒に歌わせていただきました。
Vocal:ゆのす（mylist/71936118）、AI式HALC@LOID（sm40995997）
Mix:やまやま（@yama2mix）
イラスト:かづき（@kAduk0）
音源、イラストで協力いただいた方々ありがとうございました。
普段はニコマスMADをつくってます。
つくったもの：mylist/62150623
【AI式HALC@LOID】絶体暗星【NNSVSカバー】
原曲: 稲葉曇 絶体暗星 https://www.youtube.com/watch?v=lYtZ5oMs3_8
参考にした ust: coolkiwiii 【巡音ルカ】絶体暗星【VOCALOIDカバー】+VSQ/UST/SVP/MIDI sm39972572
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
オフボーカル音源は spleeter ( https://github.com/deezer/spleeter ) で作成しています. 歌愛ユキの歌声は
spleeterとの相性が良いのかかなり綺麗に分離することができます(2022/6/12追記).
【AI式HALC@LOID】シンクタンク【NNSVSカバー】
思い出してもらいたいな / Voc@loidM@ster祭り'22フライング参加作品
--
原曲: 稲葉曇『シンクタンク』Vo. 裏命 sm40978472
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】私は雨【NNSVSカバー】
原曲: 稲葉曇『私は雨』Vo. 歌愛ユキ sm43679339
参考にしたust: ばにらあいす氏 【黯冥ダスト】私は雨【UTAUカバー&ust配布】 sm43680466
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
---
Timelag model: MDNv2
Duration model: VariancePredictor
Acoustic model: NPSSMultistreamParametricModel
lf0_model: BiLSTMResF0NonAttentiveDecoder
mgc_model: BiLSTMNonAttentiveDecoder
bap_model: BiLSTMNonAttentiveDecoder
vuv_model: FFConvLSTM
Vibrato model: none
Vocoder: ParallelWaveGAN(Hn-sinc-NSF)
HALC@LOID(NNSVS) 樹海の糸
じゃんPのアイドルマスター 『樹海の糸』 春香ソロ（sm4914451）にNNSVSを使用して深層学習で合成した歌声を付けてみました.
● NNSVSを使用した深層学習版HALC@LOIDの作成方法
用意するもの: xbox360, アイドルマスターL4U, キャプチャボード, NNSVSの実行環境, (NVIDIAのGPU)
1. L4Uで「i」, 「kosmos, cosmos」, 「いっぱいいっぱい」を除く29曲をボーカル有り/ボーカル無しの2条件でキャプチャする(全部で58曲キャプチャする).
2. 1でキャプチャした音源からアカペラ音源を作成する. 位相を反転して足し合わせても良いし歌声りっぷなどのソフトを使っても良い.
3. musicxml形式で各曲のボーカルパートの楽譜を用意する. ニコニ・コモンズに投稿されている midi 音源や www 上に投稿されているピアノ譜などを参考にすると良い
4. 各曲の音素ラベルファイル(各音素がどのタイミングで発声されているか)を作成する. WavesurferまたはAudacityで手作業で作成するか, julius(segmentation-kit)またはSHIROを使って自動でラベリングしても良い
5. NNSVS の egs ディレクトリに含まれる pjs のレシピを参考にして自作音源のレシピを作成する. ofuton_p_utagoe_db, natsume_singing, oniku_kurumi_utagoe_db のレシピは各歌声データベースに合わせてカスタマイズされているので参考にしてはいけない
6. bash run.sh --stage 0 --stop-stage 6 を走らせて数時間～1日程度待つ
【AI式HALC@LOID】浮遊月光街【NNSVSカバー】
原曲: 稲葉曇『浮遊月光街』Vo. 歌愛ユキ sm34347007
参考にした ust: 【櫻花アリス】浮遊月光街【UTAUカバー+UST配布】sm34398772
学習モデル生成, 歌声合成, ミキシング: ひょこおじ
イラスト: かづき(@kAduk0)
アイドルマスター 天海春香 耳のあるロボットの唄
深層学習による歌声合成のための習作. ustおよび伴奏は耳ロボPのオリジナル(nm3611741)よりお借りしました.
他のPによる耳ロボ: ヨコハマP sm5346842 , アシスP sm12678961, パラP sm11892625
【AI式HALC@LOID】ノンユース【NNSVSカバー】
原曲: 稲葉曇『ノンユース』Vo. 歌愛ユキ & 初音ミク sm35109167
参考にした ust: 【黯冥ダスト】ノンユース【UTAUカバー+ust配布】 (現在非公開)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】カゼマチグサ【NNSVSカバー】
最新版のNNSVSの更新でmasterに入ったGAN based mgc postfilter に挑戦しましたが, 学習データにリバーブなどのエフェクトが掛かっていると上手く学習できないようです(今回は従来の merlin postfilter で合成)
--
原曲: 稲葉曇『カゼマチグサ』Vo. 鳴花ヒメ sm37136620
参考にしたust: ばにらあいす氏の ust https://lit.link/Vanilla9831
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】きみに回帰線【NNSVS新音響モデル】
祝・ウェザーステーション発売 & NNSVS新音響モデル実装!
NNSVSでsinsyの最近の論文を元に実装されたResSkipF0FFConvLSTMを使ってみましたが, 一部の滑舌が不明瞭になるなどまだ工夫が必要そうです(改良されたduration予測は大変良い).
原曲: 稲葉曇『きみに回帰線』Vo. 歌愛ユキ https://www.nicovideo.jp/watch/sm40230104
musicxml: https://bowlroll.net/file/276648 (pass: wahhoi)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
timelag model: MDN, hidden_dim 32, num_layers 3, num_gaussians 1
duraion model: MDN, hidden_dim 256, num_layers 3, num_gaussians 1
acoustic model: ResSkipF0FFConvLSTM, conv_hidden_dim 1024, lstm_hidden_dim 256, ff_hidden_dim 2048, dropout: 0.0, bidirectional True
vibrato model: sine
【AI式HALC@LOID】天泣【NNSVS+Hn-sinc-NSF】
NNSVSのdevブランチで開発中のParallelWaveGANサポートを使用して, 音声の出力をPyWorldからNEUTRINOでも採用されているHn-sinc-NSFに変更してみました. 音響モデルはResidual F0を使った新しい音響モデルが学習データ不足で安定しないため従来のままです.
原曲: 稲葉曇 天泣 https://www.youtube.com/watch?v=1_8pQVYJtwQ
musicxml: https://bowlroll.net/file/276647 (pass: wahhoi)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
THE iDOLM@STER HARUKA AMAMI Brand New Sunset
F@VORITE M@STER参加作品/HALC@LOID(NNSVS) - Brand New Sunset(Hi-STANDARD)/オリジナルキー+3/一部歌詞を改変しています
timelag model: MDN, hidden_dim 32, num_layers 3, num_gaussians 1
duraion model: MDN, hidden_dim 256, num_layers 3, num_gaussians 1
acoustic model: Conv1dResnetRMDN, conv1dresnet_hidden_dim 32, lstm_hidden_dim 256, conv1dresnet_num_layers 10, lstm_num_layers 2, num_gaussians 4, dropout 0.1, dim_wise True
vibrato model: diff
vocoder: ParallelWaveGAN(Hn-sinc-NSF)
【AI式HALC@LOID】ツクリカケノ心象【NNSVSカバー】
原曲: 稲葉曇 歌愛ユキ『ツクリカケノ心象』 sm30117882
参考にした ust: あめころもるち゛ 【飴音わめあ】ツクリカケノ心象【UTAUカバー＋UST配布】 sm30182652
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】ひみつの小学生【NNSVSカバー】
原曲: 稲葉曇『ひみつの小学生』Vo. 歌愛ユキ sm36042320
参考にした ust: 【黯冥ダスト】ひみつの小学生【UTAUカバー+ust配布】 (現在非公開)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】ハローマリーナ【NNSVSカバー】
原曲: 稲葉曇『ハローマリーナ』Vo. 歌愛ユキ & 初音ミク sm39646734
参考にした ust: 【黯冥ダスト】ハローマリーナ【UTAUカバー&ust配布】 sm39649483
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】ポストシェルター【NNSVSカバー】
原曲: 稲葉曇『ポストシェルター』Vo. 弦巻マキ sm39963084
参考にした ust: ばにらあいす 【黯冥ダスト】ポストシェルター【UTAUカバー&ust配布】 sm39964733
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】篝火【NNSVSカバー】
Hn-sinc-NSFは学習データの音域から外れると著明に合成結果が悪くなるので今回はWorldで合成しました. 一部歌詞を改変しています.
原曲: ちいたな 『篝火』- IA - sm34128998
アレンジ: 稲葉曇 https://www.youtube.com/watch?v=2A46CwhV4aE
musicxml: https://bowlroll.net/file/277823 (pass: wahhoi)
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
【AI式HALC@LOID】リレイアウター【NNSVSカバー】
ボカコレ2023夏TOP100ランキング1位おめでとうございます.
原曲: 稲葉曇『リレイアウター』Vo. 歌愛ユキ sm42576236
参考にしたust: ばにらあいす氏 【黯冥ダスト】リレイアウター【UTAUカバー&ust配布】 sm42580913
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
---
NNSVS-WORLD v4(自己回帰モデル)と SemiMultistreamRDARMDN(自作のより単純な自己回帰モデル)をコンピングしてミックスしています.
【AI式HALC@LOID】レイニーブーツ【NNSVS-WORLD v4(自己回帰モデル)+ParallelWaveGAN】
原曲: 稲葉曇『レイニーブーツ』Vo. 歌愛ユキ sm38927801
参考にしたust: ばにらあいす氏の ust https://lit.link/Vanilla9831
学習モデル生成, 歌声合成, ミキシング: Heimatlos
イラスト: かづき(@kAduk0)
----
NNSVSの最近の音響モデルに関して得られた知見
・2021年頃のAI式HALC@LOIDで採用していたRMDNと比較して大量の学習データが必要. NNSVS-WORLD v4(自己回帰モデル)で1h, NNSVS-WORLD v5(拡散モデル)で2h以上
・学習データ量が足りないと音程の他に音量(低次のmgcが関係)も不安定になり音痴に聴こえる
・学習データ量が足りない場合は pitch-shift data augmentation (以下PSDAと省略)という手法で
学習データを拡張することで音程や音量が安定化させることができる(場合がある) (参考: https://github.com/nnsvs/nnsvs/blob/master/utils/pitch_augmentation.py )
・PSDA で学習データを拡張しても元の学習データ量が30分程度だと NNSVS-WORLD v5で良好な結果を得ることは難しい
・有声/無声の誤推定が目立つ場合は vuv_model から mgc に対する依存を外した方が良い
・新しく採用されたニューラルボコーダである HN-uSFGAN, SiFiGAN はどちらも素晴しい出力が得られるが, 学習データにリバーブ等のノイズが乗っている場合は ParallelWaveGAN(Hn-sinc-NSF)の方がノイズに対して堅牢である(気がする)