はじめに
この前、タイトルのグラフィックカードを購入したばかり。
ゲームやらない、ローカルで AI やらないからって 8GB 版の方を買ったのに
LLM を試したらこれがまた面白い……
使用環境
LM Studio for Windows
これ Windows 版落としてきてインストーラーを起動し、ポチポチインストールする。
起動したら左端にある🔍のアイコンをクリックしてモデルを探して任意の物をダウンロードするだけ。
非常に簡単に LLM を体験する事が出来る。
つかうモデル
- llama-3-elyza-jp-8b
これが個人的にベストな受け答えをしてくれる。 - deepseek-r1-0528-qwen3-8b
次点でこれ。 - gemma-3-4b
Google が出してる LLM。なんかローマ字で読み仮名振ってきて読みづらい。
使ってみた感じ
LM Studio の UI はこんなかんじ。
ChatGPT や Gemini 等のサービスと似たような感じで扱えるので、使用感はかなり良い。
タイトルバーの直ぐした中央をクリックすると LLM を切り替えて柔軟につかえるのも良い感じ。
当初は llama-3-elyza-jp-8b を使っているとチャット中にお返事が止まってしまう状態に陥っていたけど、LM Studio 0.3.17 beta に更新してからは正常に使えている。
VRAM が 8GB なのが原因かと思って頭抱えた夜もあったが……
ちょっと LLM に聞いてみよう
個人的に気になっていた事を聞いてみた。
先ずは「エアコンはドライ運転の方が省電力なのは本当?」という事。
回答はこちら。
はい、基本的にはその通りです。エアコンのドライ運転の方が消費電力が少ない傾向にあります。
理由:
- 冷媒の流れ方: ドライ運転では、室内の空気を循環させるために、冷媒が外部（主に室外機）へ放出されます。この際、冷媒は室温に近い温度で放出されるため、室温を下げるためのエネルギー消費が少なくなります。
- 冷房モードとの違い: 冷房モードでは、室内の空気を冷却するために、冷媒が冷凍サイクルを回し、室温よりも低い温度の冷媒が室内に送られます。この場合、室温を下げるために多くのエネルギーが必要になります。
ただし、以下の点に注意が必要です。
- 湿度が高い環境: 湿度が高い環境では、ドライ運転で空気を乾燥させすぎると、体感温度が上昇してしまう可能性があります。
- 機種による違い: エアコンの機種によって、ドライ運転の効率は異なります。
より詳しい情報は、お使いのエアコンの説明書やメーカーのウェブサイトなどでご確認ください。
なるほど…… と感心してしまう。
次は「夏について何か適当にお話ししてください。3 行で。」と言ってみた。
すると、
太陽が照りつけ、汗ばむ夏の空。
冷たい飲み物とアイスクリームで、日々の暑さを吹き飛ばそう！
海や山へ出かけ、自然の中でリフレッシュするのも最高だね。
ということらしい。
結局の所
GeForce RTX 5060Ti は 16GB を買っておいた方が良かったかな。後から来るデカイ後悔。
現状、割と使える LLM が動いていてくれてるのだけが幸い。
おわりに
今後は暇なときのチャット相手なって貰うだとか、仕事上の書類を作る手伝いをして貰ったり有用に活用しようと思う。
ブログの記事中にでも活用出来たらおもしろそうだしね。
コメント