タグ vecteus が登録されている動画 : 1 件中 1 - 1 件目
種類:
- タグ
- キーワード
対象:
AIで拓也さんをサンタにした
今回はvecteusをLoRAで過去作+調教用の雑文20万字で調教したんでその試験動画になりまっす
某AIはLoRAにあたるMODを使っても文字数が少ない時しか影響しか受けず、本文とかのインプットから文体を模倣する力が強かった。
(事実、某AI時代の過去動画もMOD非対応の〇ー〇ー〇〇〇をだいぶ使ってる)
逆にENAはどのモデルも本文から受ける影響が少なく、文体もそこまで模倣してくれなかった。
「」とかは次に来るワードにいろんな可能性があるから狂ったワードがきやすいけど、地の文がどうしても硬く、リセマラが楽しくなかった。
今回のLoRAは生テキスト20万字だけだったから面白いワードが出やすくなれば万々歳のところ、地の文を含むかなり文体が過去作よりになって、2025年11月以前に近づけた気がしなす。
20万字っていう少ない文字数にまあまあ高いrankで回したから過学習気味で過去作のワードを吐いてくるけど、2.3回登場しただけの言葉を正しい使い方してくるからそれはそれで味だと思いまっす
rankやalpha、エポック、学習率で挙動が結構変わる上にベースにするモデルでもだいぶ変わると思うので、今後の調教はLoRAでやってくことになると思いまっす
vecteusは元になったモデルからbaseモデル故にミスったり壊れたりすることがあっても頭がいいんだけど、ena(koboldcpp)で動作する、日本語の語彙が達者、でもアホ、小説用の条件が揃ってるモデルってあったらいいんだけど。
アホなモデル自体は古めのとかあるにはあると思うけど、ラノベや小説のデータを学習している小説用のモデルがそんな多くはないし、アホに学習させようにも計算資源的に無理なりね
