Posted in人工知能
VS Codeで始めるRoo Code（Cline）導入・設定ガイド：AIを自律型パートナーに変える方法
VS Code向け自律型AI拡張機能「Roo Code（Cline）」の導入・設定ガイド。OpenRouterによるAPIコスト削減、.clinerulesでのルール標準化、安全なターミナルコマンド実行権限の設定方法を詳しく解説します。
Posted in人工知能
Dockerで構築するWeaviate：AIアプリのためのハイブリッド検索とGenerative Search入門
Docker Composeを用いたWeaviateベクターデータベースの自作・構築ガイド。BM25とベクトル検索を融合したハイブリッド検索の設定から、Python SDK v4によるGenerative Searchの統合まで、実践的なAI基盤の構築手順を徹底解説。
Posted in人工知能
Dockerで実践するHugging Face TGI構築ガイド：本番環境LLMのスループットとレイテンシを徹底最適化
深夜に発生したLLMサーバーのダウン事故から得た実践的知見と、DockerによるHugging Face TGIの構築ガイド。Continuous Batchingによるスループット向上、GPU VRAMの厳格な制御、そしてp99レイテンシを45秒から1.15秒へ激減させた最適化ノウハウを解説します。
Posted in人工知能
Outlinesを活用したLLM出力構造の制御ガイド：JSON Schemaと正規表現への100%完全準拠を実現
Outlinesライブラリを活用し、LLMの出力をJSON Schemaや正規表現に100%完全準拠させる実践ガイド。バックエンドパイプラインにおけるJSONDecodeErrorを根絶します。
Posted in人工知能
PythonとLetta (MemGPT) 入門：自己管理型・長期記憶を持つAIエージェントの構築
会話が長引くとLLMがコンテキスト長上限でクラッシュしていませんか？PythonとLetta (MemGPT) を使って、自律的に状態を更新する階層型長期記憶を持つAIエージェントの構築方法を解説します。
Posted in人工知能
OpenLLMetryとTraceloopを活用したLLMアプリケーションの監視とトレーシング実践ガイド
LLMアプリの本番運用で直面する遅延やトークンコストの急増、サイレントエラー。本記事では、OpenTelemetry標準に準拠したOpenLLMetryとTraceloopを用いて、AI処理パイプライン全体をエンドツーエンドでトレースする実践手法を解説します。
Posted in人工知能
Pythonで始めるLightRAG入門：コストと速度を最適化するGraph RAGの構築ガイド
PythonとLightRAGを使用したGraph RAGシステムの構築手順をステップバイステップで解説。2層構造のナレッジグラフを活用し、トークンコストを90%削減しながら複雑な全体要約クエリを解決するアプローチを紹介します。
Posted in人工知能
ScrapeGraphAI実践ガイド：LLMとPythonでWebスクレイピングを自動化する
OpenAIやOllamaを活用したScrapeGraphAIの設定方法からトークン最適化、本番環境で自己修復するWebデータ抽出パイプラインの構築までを詳しく解説します。
Posted in人工知能
LinuxとDockerで始めるDify構築・設定ガイド：実践的なAIワークフローとRAG基盤の構築
Docker Composeを使用したLinux環境へのDifyインストール手順、SSEストリーミングに対応したNginx SSLリバースプロキシの設定、本番環境でのリソース最適化ノウハウを詳しく解説します。
Posted in人工知能
Pipecatで作るリアルタイムVoice AI Agent入門：PythonによるWebRTCとSpeech-to-Speechの統合
Pipecatを用いてVoice AIエージェントのレイテンシを劇的に削減し、自然な割り込み処理を実現。Python、WebRTC、Deepgram、OpenAIを統合するステップバイステップガイド。