Artificial Intelligence tutorial - IT technology blog

RedisVL:RedisでLLMアプリ向けの高速Semantic CachingとVector Searchを構築する

RedisVLを使えば、RedisをLLMアプリのsemantic cacheとvector storeとして活用できます。APIコールの2〜3秒ではなくcache hitなら10ms以下で応答。ゼロからのセットアップ、vector search indexの構築、実際のproduction経験を元にしたdistance_thresholdのチューニングTipsまで解説します。
Artificial Intelligence tutorial - IT technology blog

Haystack 2.0: Document Indexing・Hybrid Retrieval・スマートQ&Aで構築するドキュメント処理パイプライン

Haystack 2.0は有向グラフ形式のAIドキュメント処理パイプラインを構築できる。各コンポーネントが明示的に接続され、デバッグも拡張も容易だ。本記事では、ドキュメントのインデックス化、BM25とEmbeddingを組み合わせたHybrid Retrieval、Pythonを使った本番対応Q&Aパイプラインまでを実践的に解説する。