AIインタラクションシステム(AIIS)

// 概要

LLM AIとアバターを通して会話できるっぽい感じのものを作ってみました。

LLM for Unityを使用してローカル環境でLLMサーバーを構築しています。

※CPUとGPU共にベンチマークソフト程度の負荷がかかります。

LLM言語モデル(.gguf)が必要です。Hugging Faceなどから取得できます。

※Llama-3-ELYZA-JP-8B-q4_k_m.gguf(約5GByte)辺りの使用を想定しています。

// 最低限の設定など

Windows10以降

展開して作成されたフォルダ(AIIS)を適当な場所に保存、\AIIS\AIIS_Data\StreamingAssets\LLMModels内にggufファイルを格納してください。

自動的にアタッチされます。

AIIS.exeを実行後、StartボタンでLLMサーバーが起動します。初回生成時は数分程度かかると思います。

// その他機能

LLM管理、プロンプトの保存と管理、アバター呼び出しなど。

// 連絡先など

ご意見ご感想等は下記へお願いします。

CrispumWorks@crispumworks