2026-01-01から1年間の記事一覧
前の記事でvLLmでGemma4のMTPを動かしていたんだけど、LLM運用以外にもサーバを使いたい身としてはVRAMがあればあるだけ食べてしまうvLLMはちょっと辛かったんですな。 で、一旦はOllamaでオフィシャルに配布されているQwen3.6:27bのMTPイメージに切り替えて…
EVO-X2 128GB（Strix Halo）、Ubuntu24.04環境。個人的な主義としてDockerで動かしてる。 日記の方で雑にMTPを動かして早くなったねーというところまでは行けてたんだけど、Codex[cli/app]で動かすまでに意外と手がかかったので共有。 blue1st-diary.hateblo…
昔からちょくちょくChrome拡張を作ったりしていたんだけど、バージョンアップするたびに複数のPC環境にコードを持っていってインストールしたりするのも面倒くさくなってきたので思い切ってディベロッパー登録をしてストアに掲載してみた。 登録に少額とはい…
LLMをチャットとして実用的に使う上でWeb検索は欠かせない機能要素だろう。 ラフに訊ねた文言から検索キーワードを良い感じに定めて検索を実行し、複数のサイトから情報を拾って時には翻訳までして情報をまとめてくれる。 LLMの性質上どこまでいってもハルシ…
先の記事でドメインを手に入れたので、次はサーバでポート違いで運用しているサービスに対してサブドメインを振り分ける。 昔ながらの方法でいうと例えばNginxでserver name項で振り分ける手段もあるが、うちでは基本的にDockerを用いて運用しているので、も…
家庭内でサーバを運用していて、流石にIPアドレスそのままというのも不格好なのでドメインを取得したくなってきた。 どうせ家庭内だけからのアクセスが目的なので一番行儀が良いのはDNSサーバを立ててルーターでDNSサーバを指定する方法なのだが、あいにくう…
