ローカルでAIを動かせる時代がやってきています。プライバシーについての配慮や仕事の性質上、ローカルで動くLLMが必要なことがあると思います。そういう目的にピッタリのソフトがあるそうです。
この記事です。原文はこちらで、
“I tried running a chatbot on my old computer hardware and it actually worked”
https://www.makeuseof.com/i-tried-running-ai-on-my-old-gtx-1070-and-it-actually-worked/
翻訳版はこちらにあります。
『古いPCを「ローカルAI専用機」にしてみた。10年近く前のマシンでも、まだいけるぞ』
https://www.lifehacker.jp/article/2509-i-tried-running-ai-on-my-old-gtx-1070-and-it-actually-worked/
面白そうなのでやってみたいと思い検索すると、いろいろ記事がみつかりました。
『LM Studioの使い方完全ガイド｜ローカルPCでGPT-OSSを安全に動かす方法と特徴』
https://digeon.co/blog/lm-studio-local-llm-gpt-oss
LM studioはオープンソースではないのですが無料で利用できます。完全オープンソースのOllamaもあって、こちらを使うのもよさそうです。比較はこちらの記事にわかりやすくまとめられていました。
『Ollama vs LM Studio ローカルLLMツールの特徴・使いやすさ・選び方ガイド』
https://ensou.app/blog/local-llm-ollama-lm-studio-comparison/