RyzenのローカルAIサーバーを買った理由と使って分かった難しさ

ChatGPTなどをコーディング用途などで利用している時、ふと、もっとがっつりと限界を気にせずAIを使いたい倒したいなと思ったことありませんか？私がローカルAIの領域に足を突っ込んでいった純粋な動機はここからでした。

ローカルAIを動かしてみたくて、GeminiやSakana Chat、もちろんChatGPTにも相談してみたり、Youtubeの動画を見漁ってどうやったら実装が可能かひたすらイメージトレーニングしていました。

それで、思ったんです。悩むくらいならもう買っちゃえよと、飛び込んじゃえよと、そしてその瞬間GMKtecのEVO-X2 Ryzen AI Max+ 395搭載のメモリ64GBモデルのPCを買ってしまっていました。実際のところAmazonの購入ページのボタンを押した瞬間がピークだったかもしれませんが・・・。

で、買ってどうだったかというと、AI開発用として買ってよかった！と言えるところまでは、まったく言ってないですね。動く環境はできてうれしい気持ちなんですが、これを開発してやろうというなんかアイデアがなくとりあえずこまごまとしたものを作らせている感じですね。

ただ、買ってよかったなと思っている一番のものは、ChatGPTでサーバ構築や保守など個人レベルでは普通にできてしまうことに気が付けたことかと思います。

とりあえず、紆余曲折あったことを書き残しておこうと思います。

家計簿の開発と並行してローカルAIを考えていた

当時はChatGPT Plusのサブスク枠で家計簿アプリをちまちまと作っていたんですが、相談や作業を続けていると、使用量いわゆるレートリミットが足りないなと感じることが増えていました。この時はまだ5時間制限がなく、Plusも週制限だったんですね。それでもGPT5.6 Sol Highで作業しているとみるみるリミットに近づいてくる、もうこれはホラーですよ。

せめて実装やコード生成だけでもローカルAIに任せられたら、もっと自由に、リミットを恐れずもう少し大きな処理もさせられるのではないかと思ったんですね。そのあたりでたまたま、Kimi K3の話題がすごく出ていて、オープンウェイトのLLM、そんなものがあるのか！と知って、そこからローカルモデルの情報ばかり集めるようになりました、それと同時に専用のPCも欲しくなり始めてどういうものがいいのかずっと考えていました。

最初の案はメインPCへのGPU増設だった

実は最初からサーバーを立てようと思っていたわけではなくて、メインのゲーミングPCにグラフィックボードを2枚挿して、そこでローカルLLMを動かせないかなと考えていました。

そこから、YouTubeでMac miniやMac Studioなどを使ったローカルLLMの紹介を見て、特にユニファイドメモリがローカルでLLMを動かすうえで有利だと知りました。それをきっかけに、どんな機器ならどのくらいのモデルを動かせるのかを調べるようになりました。

さらに、今使っているRyzen機を比較的安く入手できるという情報を、動画などで見つけ、GeminiやSakana Chat、ChatGPTなどで性能や構成についていろいろ質問していました。当時はSakana Chat Fuguが無料で利用できるということもあったので、手あたり次第確認していた感じです。

途中でメインPCはさすがにある程度気軽に使いたいなということで、LLMを動かす方は別の機器で実装するスタイルで考えていくようになりました。

なお、現在（2026年9月22日）確認した公式FAQでは、Sakana Chatは現在も無料で、一定時間内のリクエスト数に上限があると案内されています。また、9月17日の公式発表では、Sakana ChatのFuguが「Fugu Max」に切り替わり、全ユーザーへ提供されたと発表されています。なかなか攻めた感じになっていますが、開発元のSakana AIは日本のAI企業なので頑張ってもらいたいですね。

毎秒10トークンってどれぐらい待つのか

選ぶときに気にしていたのは、やっぱり価格対性能比によるコストパフォーマンスの良さを求めましたね。その値段を出して、どれぐらい動いてくれそうなのかはずっと気になっていたのでそればかり当時は調査していたように思います。

当時は27B級を一つの目安にしていたので、Sakana ChatやChatGPTに性能を打ち込んで、毎秒何トークンぐらい出そうか調査してもらいながら買うための理由づくりを始めました。

調べてもらったら大体毎秒10トークンと言われたので、それってどれぐらい待つんだろうという感じだったんですよね。なのでSakana Chatに、その速さを再現してみてと頼んで、文字が出てくる様子を見せてもらいました。

もちろん実機で測った速度ではなく、表示で待ち時間の感覚をつかもうとしたものです。それでも数字だけを見ているより、自分が待てそうかどうかは考えやすくなりました。でも実際に使ってみて速さに波があるのでいうほどよくわからないなというのはありましたね（笑）

自分一人で使うならRyzen機の性能ぐらいでいいかーという感じでRyzen機に的を絞っていきました。

メモリは64GBか128GBか、ここも迷った

メモリは64GBにするか128GBにするか迷いました。モデル一つに全部頼むより、設計や実装、試験で使い分けたいと思っていたので、どれぐらいあれば足りるのかなと。

ChatGPTには、別のPCからAPI経由で使う専用機にしたいことも相談していました。その中で、使うときだけモデルを読み込んで、使わなくなったらメモリから外す運用ならどうだと相談したところ納得できる理由付けはできたので64GBにすることを決めた感じです。

後はどのメーカーのものを買おうかなと思っていたんですが、結局その時に一番安く評判も悪くない以下のものを買うことにしました。

購入したのはGMKtecのEVO-X2です。2026年8月22日に注文したもので、購入時の構成と金額はこんな感じです。

項目	購入した構成・金額
機種	GMKtec EVO-X2
CPU	AMD Ryzen AI Max+ 395
メモリ	64GB
SSD	1TB
注文日	2026年8月22日
購入時の金額	319,999円（税込・支払い明細の合計）

※掲載写真は、埃の除去などにAIによる画像加工を使用しています。

ちなみに、クラウドの月額料金とも比べていて、PCを買うほどの価値があるかなとは迷いました。買えば必ず安く済むかどうかまでははっきりしていませんでした。試算的にはどう考えてもクラウドの月額料金の方が安いんですよね。ChatGPTとClaudeの$20プランに両方入っても30万のPCと比較すると最低4年は戦える気がする。まぁ、実際のところChatGPTであれ、Claudeであれ、$100前後のプランじゃないと個人開発でも結構辛いことが分かったので、$20プランを維持するなら買って損はなかったと思っています。

モデルは使う役割に合わせて切り替えている

元々複数のモデルを用意して、作業に合わせて切り替えて使う方法を考えていたので、別のPCからAPI経由で呼び出して、要件整理ならこれ、設計ならこれという感じで選んでいます。ここもChatGPTと相談しながら決めたんですよね。

2026年9月時点では、LLMを7モデル登録し、それぞれに役割を割り当てています。

割り当てている役割	モデル名
要件整理	Swift-Qwen3.8-27B
基本・詳細設計、設計修正	Signal-3.8-27B
実装、ビルド、試験実行、通常修正	Qwen3-Coder-30B-A3B-Instruct
実装タスクの分割・指示・管理	Muse Glimmer 30B
各フェーズの成果物のレビュー	NVIDIA Nemotron 3 Nano Omni 30B-A3B
テスト項目の設計・受入確認	gpt-oss-20b
日常の質問、画像・スクリーンショットの確認	Ornith-1.5 35B-A3B

表は今の担当分けですが、全部の作業を安定して任せられるかどうかはまだ試しているところです。「Swift-Qwen3.8-27B」と「Signal-3.8-27B」は試してみて結構ええ感じやん！というところまでは確認してます。

さすがに全部を64GBのメモリに同時に載せる使い方はできないので、llama-swapで必要なモデルを一つずつ読み込んで、別のモデルを呼んだら前のモデルを止めて切り替えるようにしています。しばらく使わなければメモリから外すようにもしています。ちなみに音声入力モデルの方は別のサービスとして常駐させています。

ハーネスは今お勉強中ということもあり、モデル同士で勝手に仕事を引き継いでくれるところまではできていなくて、呼び出す側でモデルを選び、何をしてほしいか指示しています。

机の下に置いていますが音はほとんど気にならない

本体は机の下のスペースに置いています。今の使い方では、ファンの音も排気も全く気になっていません。むしろ横に置いているNASの方が音が大きく感じるぐらいで、このPCはほとんど無音に近い感覚です。

ただ、今のところはこのPCの性能を限界まで使い切るような動かし方はしていません。LLMは一度にいくつも起動せず、使うモデルを一つずつ切り替えて、スペックに合わせて動かしています。その使い方では、AIを動かしているときも、音や排気で困ることは今のところないですね。

動くようにはなったけどそこからが難しかった

買ったあとは、AIに手順やコマンドを出してもらいながら、考えていた環境をすぐに作ることができました。多分一日で形になったんじゃないかな？買う前から用途を相談していたので、構築の話も進めやすかったですね。

ところが、実際に使い始めると、生成速度とは別のところで気になることが出てきました。モデルに情報を渡して作業を進めてもらう、ハーネスの部分です。

私はとりあえずHermes Agentを使っているんですが、コンテナに突っ込んでみたり、アクセス制限をかけてみたり、そうしたらすごく使い勝手が悪くなって、そこら辺の調整したりと、まったく別のところでてんやわんやしました。

今はそれなりには使えるものの、自分で調整は大変なんですね。これをやってみると、普段使っているChatGPTやGeminiって、モデルだけでなく、使うための仕組みもかなり作り込まれているんだなと実感します。

今もモデルと使い方を調整している

別の記事でもふれていますが、ChatGPTで開発していたときに覚えたコンテキストの扱い方などは、こちらでも意識しています。ハーネスの設定を見直したり、出力する文章を短くするスキルを使ってみたりしています。

モデル一覧の中でもQwen3.8-27Bは、そもそもローカルLLMを使ってみたいと思うきっかけになったモデルなので、このサーバーでも中心にしたいと思っていました。ただ、自分の環境では長く考え込んだり、思考がループしたりすることが多くて、なかなか使いにくかったんですよね。なので、そのあたりがよくなることを期待して派生モデルに変えていきました。今は要件整理をSwift-Qwen3.8-27B、設計をSignal-3.8-27Bに任せる構成にしています。

他にも明らかに挙動が変なモデルがあったので、そういうのは徹底的に排除、切り替えて今の形がある感じですね。これからも新しいモデルが出たらガンガン変えていこうとは思っていますが。

モデル自体にも、それを動かす仕組みにも、まだ細かい理解が進んでいなくて難しさを感じてはいます。ここはまだまだ勉強不足なのでもっと勉強していきたいところですね。

今のところいろいろ試して遊ぶ面も大きいですね

買ってどれぐらい役立っているかと言われると、正直まだこれからだなと思います。実用目的で考えてはいたんですが、今は自分でいろいろ試して遊ぶ、趣味の買い物に近いところもありますね。

別記事で紹介した家計簿は実際に作って手間が減って助かっているんですが、ローカルLLMの方はまだそこまではいっていないというのが今のところです。

ただ、常時動いているサーバーがあると、AI開発以外でも便利なことはありました。各機器のスピーカー出力をサーバーに集約したり、音声入力を自前で動かしてみたり、常時起動しているという強みはやっぱりいいものですね。

その日常での使い道と管理については、「自宅AIサーバーの日常の使い道とAIに管理を任せて分かったこと」で紹介します。