Posted in人工知能
RedisVL：RedisでLLMアプリ向けの高速Semantic CachingとVector Searchを構築する
RedisVLを使えば、RedisをLLMアプリのsemantic cacheとvector storeとして活用できます。APIコールの2〜3秒ではなくcache hitなら10ms以下で応答。ゼロからのセットアップ、vector search indexの構築、実際のproduction経験を元にしたdistance_thresholdのチューニングTipsまで解説します。