概要
京都のアングラ勉強会、はんなりプログラミングでは、5月29日にローカルLLMやってみたLT会を開催しました（オンライン開催）。ローカルLLMに走るきっかけは最近では2B位のローカルモデルたちも性能が上がり普通に使えるなーって思っていたところに、OpenAIが出した privacy filter モデルが1.8Bだったことでした。
おー、かなり複雑なことできるし面白いのでは？というか私の書類作業位ならこれくらいでできるのでは？という感覚からローカルLLMのイベントをやっていこうと心に決めた次第。
その前哨戦として２週前にワイワイ会もやって、みんなでいろいろ話したあとこのLT会を開いたという流れになっております！
- 概要
- LT
- 締め
LT
今回のLTは4本でした。全部面白く、チャット欄も盛り上がりました！ 各LTの内容は、Chromeのgeminiに相談を使って資料を見せながら（Nikkieさんのだけブログ記事。そのほかの方はプレゼン資料）、プレゼンの要点を作ってもらいました。私のgeminiは関西弁のおもろ優しいおばちゃんキャラなのでそのまま出ましたが、良い感じなのでそのまま掲載です。
LT1: 瀬尾佳隆さん（@seosoft） Lemonade + Foundry Toolkit でお手軽アプリ開発
ブログ:
どんな発表？
自分のパソコン（ローカル環境）だけで、人工知能（AI）を使った便利なアプリをサクッとお手軽に作る方法の紹介です。
使った主なツール
- Lemonade（レモネード）：自分のパソコンでAIの頭脳（LLM）を動かすためのサーバーツール。
- Foundry Toolkit：アプリ開発でよく使われる「VSCode」というソフトの中で、AIエージェント（身の回りのお世話をしてくれるAI）をサクサク開発できる環境。
アプリを作るお手軽な手順
- AIを登録する：LemonadeのローカルURLを使って、開発環境に自分のAIを追加します。
- AIを育てる：画面上で「こんな仕事をしてね」という指示（プロンプト）や、必要な道具（ツール）を組み合わせてAIを作ります。
- ボタン一つでコードを作る：「View Code」というボタンをポチッと押すだけで、アプリの元になるプログラムのコードを自動でドバッと作ってくれます。
- 仕上げ：あとは開発者が少し味付け（微調整）をするだけで、基本的なアプリならあっという間に完成します！
これからの展望
スピーカーの瀬尾さんは、今後もさらに色々なローカルAIのツールを試したり、性能を比べたりして遊び倒す（研究する）予定だそうです。
🔗 実際の動きが見たい方はデモ動画をチェック！ 発表資料の最後には、実際に動いている様子が分かるYouTubeのデモ動画のリンクも紹介されていました。
LT2: yaotti さん (@yaotti) ローカルLLMを使ってB2Bサービスを作っていての学び
「ツギキ」という新しいAIサービスの話
退職や異動のときに、仕事の引き継ぎがうまくいかへんことってあるやん？それを解決するために、作業中の画面録画を見せるだけで自動でマニュアルを作ってくれるMacのアプリを開発中なんやて。
なんで「ローカルLLM」なん？
会社のめちゃくちゃ大事な業務情報を扱うから、外のAPI（インターネット上のサービス）にデータを送らんと、パソコン（Mac）の中だけで全部処理が完結するようにしてるねん。これならセキュリティも安心やん？
大失敗その①：映ってへん画面を「見た」と言い張るAI
画面録画をAIに見せたら、実際には映ってへんChromeの画面を「見た」って嘘（捏造）をついてもたんやて。 【対策】 プロンプト（AIへの指示）に「確実にあるものだけ書いて、無かったら『不明』でいいよ」って一言入れたら、プレッシャーが減ったんか正直に答えるようになったらしいわ。人間と一緒やね（笑）。
大失敗その②：30分待っても全然進まへん！
マニュアル作りが全然進まんと、パソコンだけが熱くなってまう事件が発生。 【原因と対策】 AIが裏で「うーん…」って考えてる内容（thinkingモード）を、システムが「沈黙」と勘違いしてもうてたのが原因。設定でその考えるモードをオフにしたら、サクサク動くようになったんやて。
まとめとしての手応え
AIは平気で嘘つくから裏取りは必須やし、初期設定の罠もあるけど、データを外に出さんとローカル（パソコン内）だけでも、かなりええ精度が出せるっていう手応えを掴んだそうやで！
LT3: Nikkieさん(@ftnext) ローカルLLMをFirefoxに住まわせる
ブログ: はんなりプログラミングの会の「ローカルLLMやってみたLT会！」に参加。Firefox に住まわせる事例を共有しました - nikkie-ftnextの日記
💻 プレゼンの要点まとめ
- FirefoxのサイドバーにAIを住まわせる！ Firefoxの新機能「AI制御（AI controls）」を使って、ブラウザの横っちょにAIのチャット画面を出せるようにしたで。
- ネットに繋がなくても動く「ローカルLLM」 「Ollama」と「Gemma 4」っていう技術を使って、自分のパソコンの中だけでAIを動かすから、データが外に漏れへんくて安心！
- 何ができるん？ 開いてるページ全体を日本語でサクッと要約してもらったり、選んだ文字に対してAIに指示を出したりできるねん。
- セットアップがめっちゃ簡単に！ 「Open WebUI」を入れるのに、前はちょっとややこしいツール（Docker）が必要やったんやけど、今回は「uv」っていうのを使ってコマンド一発で簡単にできるよう工夫したで！
LT4: わたくし(@ogawahideyuki) locamoro:【自作】ローカルLLM × マルチエージェント 自分のPCでAIが会議して、AIが働く
github: https://github.com/hideyuki-ogawa/locamoro
- 完全ローカルで動くAIツール「locamoro」を開発！ 「社内データや個人情報をクラウドに送りたくない…」という悩みを解決するために、ネットに繋がず自分のパソコン（ローカル環境）だけで完結して動くAIツールを作ったんやて。
- 開発時間はたったの2時間！ 外部のライブラリ（追加のプログラム）を一切使わんと、「Pythonの標準ライブラリだけ」で作られてるのがすごいのよ。開発には「Claude Code」などのAIアシスタントも大活躍したらしいわ。
- 3つのAIが「会議」して自律的に働く！ 軽量なAIモデル（Gemma 4の2Bや4B）を3つ組み合わせて、「進行役」「アイデアを出す人」「ツッコミを入れる（批評）人」に役割を分担。AI同士がパソコンの中で話し合って、最適な作業手順を自動で決めてくれるんよ。
- 実務での得意・不得意が判明！ 文章のチェックや、個人情報にモザイク（マスク）をかけるような「書類作業」なら、小さくて軽いAI（2Bモデル）でも十分きれいにこなせるんやって！ただ、複雑なプログラミングはまだちょっと苦手みたい。
- これからの課題と展開 AIを動かすとパソコン（GPU）が熱くなって部屋が暑くなるのが今の悩み（笑）。今後はLINEから使えるようにしたり、名刺の自動処理なんかにも挑戦していく予定なんやて！
締め
というような４本のプレゼンに盛り上がりました。ハイライトはやおっちさんの think: false でしょうか。実際に使うにはこういう細かいパラメータをみないという話は、なるほどなと思いました。
その後は延長戦ということでいろいろ話して終了。次回はワイワイと話す会を6月12日金曜日の21時から行った後、再びLT会を月末にやろうかと思っています。金曜日以外もいいかなと考察中ですが、どうなるか・・・
あと、翌日同じ内容をみやこでITでも発表させていただいたのですが、やはりリアルもよいなーということで、何かリアルイベントもしたいですね。
