Posted in人工知能
LLMのプロダクション環境へのデプロイ：Ray Serveによる高性能推論クラスタの構築
Ray ServeとvLLMを使用した高性能なLLM推論クラスタのデプロイ方法を学びます。AIプロダクション環境におけるオートスケーリング、GPU管理、コスト最適化に関する実践的なガイドです。
Posted in人工知能
Groq Cloud + Python: LLMの速度を500トークン/秒まで「ハック」する
Groq Cloud APIをPythonに統合し、AIアプリを最大500トークン/秒まで高速化する方法を学びます。コスト最適化、ストリーミング、レート制限への効果的な対処法を解説。
Posted in人工知能
Arize PhoenixでローカルRAGの「ブラックボックス」を5分で可視化する
100%ローカルなRAGのトレースと評価のためにArize Phoenixをセットアップ。LLM Judgeを使用した自動採点や、AIシステムのレイテンシを最適化する方法を紹介します。
Posted in人工知能
AI専用の独自「Google検索」を構築：SearXNGとLangChainを組み合わせて知識の限界を超える
SearXNGとLangChainを使用して、プライベートで無料のAI検索エンジンを自作。高額なAPI費用なしでLLMがリアルタイムデータにアクセスし、知識の限界を克服する方法を紹介します。
Posted in人工知能
Microsoft GraphRAGとOllamaの構築：100%ローカルなナレッジグラフを自作する
Microsoft GraphRAGとOllamaを組み合わせて、100%オフラインのナレッジグラフ（Knowledge Graph）システムを構築する方法を紹介します。データセキュリティとAPIコスト削減を両立する最適なソリューションです。
Posted in人工知能
Giskard ガイド：CI/CD環境でAIモデルの脆弱性を自動検知する「セキュリティ・フィルタ」
AIをセキュリティリスクにしないために。Giskardを使ってプロンプトインジェクションやデータ漏洩を自動スキャンし、CI/CDプロセスに直接統合する方法を解説します。
Posted in人工知能
Qdrantによるハイブリッド検索：RAGが苦手なキーワードで「物忘れ」する問題を解決する秘策
RAGシステムが特定のキーワードを見落としていませんか？キーワード検索とベクトル検索の強みを融合させるQdrantのハイブリッド検索の実装方法を解説し、精度を劇的に向上させる手法を紹介します。
Posted in人工知能
自然言語でLinuxターミナルを操作：Open-Interpreter + ローカルLLM導入ガイド
LinuxでOpen-Interpreterを使用し、自然言語でターミナルを操作する方法を学びます。Ollamaと組み合わせてローカルLLMを実行することで、コーディングやデータ分析を高速かつ安全に行うことができます。
Posted in人工知能
AIを一人で働かせるのはやめよう：AutoGenでマルチエージェントチームを構築する
単一のAIを使う代わりに、AutoGenを使えばエージェント同士が連携し、コード作成やデバッグを自律的に行うチームを構築できます。Pythonによる複雑なタスクの自動化手法を学びましょう。
Posted in人工知能
Flowise：ドラッグ＆ドロップUIでチャットボット・RAGパイプラインを構築する — コード不要
Flowiseはオープンソースのツールで、ドラッグ＆ドロップのインターフェースを使ってチャットボット、RAGパイプライン、AIワークフローをコードなしで構築できます。本記事では、Docker/npmを使ったインストール方法と、OllamaでのチャットボットおよびPDFドキュメントを読むRAGパイプラインの構築手順を実践的に解説します。