star back image
people4
電飾 電飾
moon
astronaut

【AI】ローカルAI「LM Studio」を始めてみた

BLOG AI
読了約:5分

AIが全く必要のない方もいらっしゃるでしょう。
そういう方はスルーしてください。

私はAIに沢山お世話になっているタイプです。
もうどっぷり片足を突っ込んで身動きできないマンです。

有名であってもクラウド上のAIはすぐ従量制限になります。

すごく返答が遅い、1日経ったらまた来てねと答えてくれない。ワザと?繰り返したり気づかないフリしたりしてパケットを消費しようとしてきます。
聞き方は重要だと認識しても、すでにお寿司状態に陥ります。

課金すればいいじゃないですか。

。。カキーン

しかし宗教上の理由から課金できない。

そんな時、先輩から教えてもらいました。
LM Studioがあると言うのです。あなただけのAIが無料でずっと使えます。

※パソコンが必要です。

今だけのサービスかもしれませんが、試す価値はあります。
個人も応援してくれる企業のようです。

ローカルLLM実行環境「LM Studio」を個人でも企業利用においても無料
https://lmstudio.ai/blog/free-for-work

あなた、お金ないんですね。

あるけど、ちょっとなんです(・ω・;)

LM Studio
https://lmstudio.ai/

Mシリーズ動作させられる

M1のマックなので、なんとかギリ利用できました。

使った感じはChatGPTのまんまという印象です。

Macで起動させた時の画面

ていうか、LLMとは何ですか?

検索しました。

LLM (Large Language Model: 大規模言語モデル)とは、大量のテキストデータを学習し、人間のように自然な文章を理解したり生成したりできるAIモデルのことです。記事によると、文章の生成、翻訳、要約、質問応答など、様々なタスクに活用されています。

LM Studioは、ローカルパソコンでAIを動作させることができます。あたただけのAIアシスタントを手元で動かせるなんてすごいと思いませんか。

【記録】2025年8月頃

LM Studioスタート

アプリケーションをダウンロードして、数回クリックで使えました。

なぜ使おうと思ったんですか?

勤め先のクラウド上の課金AIを仕事のためだけに使いたいのです。

従量制限に合うと応答速度が著しく低下します。
それは避けたいというのが理由です。

アプリケーションのアイコンはこんな感じです。

LM Studioのページからダウンロード

gemma-3-12bをダウンロードします。
googleのLLMでしょうか。

自動でLLMを選んでくれた?

そうかもしれないですが、わかりません。

LM Studioをスタート

自分のレベルを選ぶ?

とりあえずPOWER USERでやってみる

とりあえず真ん中を選びました。

LLMをロードしてと催促

ロードしてと催促があり、押してしばらく待つと以下のようにAIと会話が可能になります。

AIと会話ができる
AIと会話ができる2

動作はモッサリしています。
しかしそれは自分のパソコンがしょぼいから。という話らしいです。

高スペックパソコンならサクサクらしいです。
高スペックならさらに大容量のLLMが使えます。

メモリやグラボなど、良いものが欲しくなります。

なんか夢がありますね。

最新のopenaiのLLMも!

家庭用パソコンでも動作すると言われているgpt-oss-20bのダウンロードのお誘いがきました。

gpt-oss-20bのダウンロードのお誘い

しかし警告が表示されて、利用は無理そうでした。
M1マックでは荷が重いのか。。

英文を翻訳すると。。

システムリソース不足のため、モデルの読み込みが中止されました。システムに過負荷をかけると、フリーズする可能性があります。これが誤りであると思われる場合は、設定でモデル読み込みのガードレールを変更してみてください。

パソコンが壊れると困るので、今は現状で満足しようと思います。

絵は描けますか?と質問

テキストベースなので、絵は無理と言われました。

追記

windows11のパソコンでgpt-oss-20bを走らせることができました。
マシンスペックは以下です。

  • RTX4060 8G
  • RAM 32GB
  • CPU i5-11400

返答速度はもっさりしています。

快適にするにはグラボが一番の近道でしょうか。

AIに聞くとGPUが良い性能でVRAMが多めがいいそうです。

星間旅路のメロディ

「宇宙の静けさに包まれながら、漂流する過去の音楽を捜し求め、銀河の奥底でその旋律に耳を傾ける。」

「この電波はどこの星からきたのだろうか。」

都市も生命も輝いていた、そんな雰囲気がします。