簡易生成AI会話(aplay+Whisper.cpp+llama.cpp+SimonW/LLM+Open_jtalk on Ubuntu)

簡易生成AI会話(aplay+Whisper.cpp+llama.cpp+SimonW/LLM+Open_jtalk on Ubuntu)

aplay+Whisper.cpp+llama.cpp+SimonW/LLM+Open_jtalk のオープンソースコマンドを使用してpythonで生成AIと会話してみました。時間がかかるのはIntel Iris Xe 内蔵GPUを使っているため、llama.cppで日本語文生成に時間が掛かっています。面白いです。

http://www.nicovideo.jp/watch/sm45251492