My LLM

メールの下書きを整えたい。長い文章を短くまとめたい。外国語の案内を読みたい。My LLMは，そんな文章の作業を，普段使っているアプリのそばで手伝う小さなデスクトップアプリです。

推敲・要約・翻訳などの指示をタスクとして登録し，メニューバーやホットキーから呼び出します。毎回同じ指示を書き直す代わりに，処理したい文章とタスクを選ぶだけで使えます。

いつもの文章に，いつものタスクを

たとえば，次のような使い方ができます。

したいこと	タスクの使い方
文章を読みやすく整える	意味や文体を保ちながら，表現を整える指示を登録
長いメモの要点を知る	箇条書きや短い段落にまとめる指示を登録
専門用語を理解する	短く平易に説明する指示を登録
言語の違う文章を読む	翻訳タスクで元の言語を検出し，設定した言語へ翻訳
自分の用途に合わせる	仕事の文体や出力形式などを指示に書き，独自のタスクとして追加

タスクごとに指示と表示名を用意でき，ホットキーや使うモデルも分けられます。雛形のタスクから始め，よく使う作業だけを少しずつ追加できます。

最初にアプリと接続先を用意し，タスクに使うモデルを設定します。使い方の導入手順に沿って準備した後は，次の流れで使えます。

慣れてきたら，文章をコピーしてからメニューのタスクを選ぶと，入力の取り込みから実行までをまとめて行えます。タスクにホットキーを割り当てたり，完了した結果を自動でコピーしたりすることもできます。

結果はストリーミングで少しずつ表示されます。ウィンドウはほかの作業のそばに置ける浮動ウィンドウです。

文章を処理するモデルは，OllamaまたはクラウドのOpenAI・Anthropic APIに接続して利用します。

Ollamaのモデルを使う
自分のパソコンで動かすローカルモデルに加え，サインイン済みのOllamaを経由してクラウドモデルも利用できます。ローカル実行には，モデルの取得と必要なメモリの確保が必要です。クラウド利用の準備はOllamaの公式案内を参照してください。
クラウドAPIを使う
設定したAPIへ入力と指示を送り，結果を受け取ります。APIキーやサービス側の利用条件・料金を確認して使います。

タスクごとに接続先を選べるため，翻訳はOllamaのローカルモデル，文章の推敲はクラウド，という使い分けもできます。文章がどこで処理されるかは，接続先とモデルの両方で決まります。Ollama経由でも，クラウドモデルを選ぶとクラウドへ文章が送られます。

翻訳では元の言語を自動検出し，設定した言語へ振り分けます。たとえば，英語は日本語へ，日本語など英語以外は英語へ，という設定ができます。

TranslateGemma用の定型指示を使う方法に加え，別のモデル向けに翻訳の指示を自分で書く方法も選べます。画面の表示言語と，文章の翻訳先は別々に設定します。

プロバイダー，タスク，翻訳の設定は，メニューのSettings…から開けます。タスクの指示を文章で書き，名前やホットキーを付けて保存します。項目ごとの意味は設定リファレンスで説明します。

My LLMはMITライセンスで公開しています。現在の配布はmacOSとWindows向けです。

GitHub Releasesからダウンロードしてください。モデルはアプリとは別に用意します。Ollamaでローカルモデルを使う場合は，Ollama側の動作要件とモデルに必要なメモリも確認してください。

インストール後の接続設定や，最初のタスクを実行する手順は，My LLMの使い方で説明します。ソースコードも公開しています。

この紹介とマニュアルは，Rustで実装したデスクトップGUI版を対象にしています。