Artificial Intelligence tutorial - IT technology blog

LinuxでvLLMを使ったSpeculative Decodingの設定:精度を落とさずLLMを2〜3倍高速化

Speculative Decodingは、小さなdraftモデルで複数のトークンを事前予測し、targetモデルで1回のforward passで検証することで、LLM推論を2〜3倍高速化する手法です。このガイドでは、LinuxでのvLLMの設定方法を、5分でできるクイックスタートからEAGLE、ngram lookup、productionに適したdraftモデルの選び方まで解説します。
Fedora tutorial - IT technology blog

Fedora ServerのCockpit Webコンソール:ブラウザでStorage LVMとPodmanコンテナを管理する

FedoraサーバーでStorage LVMと複数のPodmanコンテナを6ヶ月管理してきた経験から、Cockpitが最適なwebコンソールソリューションだとわかりました。cockpit-storaged、cockpit-podmanのインストール方法と、実際の環境向けのセキュリティ設定を紹介します。
Fedora tutorial - IT technology blog

FedoraでLinux Audit System(auditd)を使いこなす:セキュリティ標準に従った機密ファイルの監視とユーザー行動の追跡

FedoraでLinux Audit System(auditd)を設定し、/etc/passwdや/etc/sudoersなどの機密ファイルを監視してユーザーのsudoコマンドを追跡する実践ガイド。永続的なルールの書き方、ausearch/aureportを使ったログ分析、6ヶ月の本番運用から得た教訓を含む。
Security tutorial - IT technology blog

LinuxでRootless Dockerを導入する:rootなしでコンテナを実行してサーバーを守る

Docker daemonがデフォルトでrootとして動くことは深刻なセキュリティリスクだ:コンテナが攻撃されると、侵入者はサーバー全体の制御を奪うまで権限昇格できる。Rootless Dockerはこの問題を根本から解決する — daemonもコンテナも通常のuser namespaceで実行し、どの段階でもroot権限を必要としない。
Security tutorial - IT technology blog

Linux環境でLUKS暗号化パーティションを構築し、ClevisとTangを使ってネットワーク経由で自動アンロックする方法

深夜のサーバー再起動時にLUKSパスフレーズ画面で停止するリスクを解消。Linux環境でClevisとTangを用いたNetwork-Bound Disk Encryption(NBDE)を構築し、内部ネットワーク経由で安全に自動アンロックする詳細な手順を解説します。