自作RSSリーダーにオンデバイスLLMを組み込んで、要約・シグナル分離・チャット・翻訳を全部端末内でやらせた話
https://capsaicin.site/blog/2026-05-10
TL;DR
・以前作ったセルフホスト型RSSリーダー「FeedOwn」に、完全オンデバイスのAI機能を追加した
・ライブラリは react-native-executorch（Meta ExecuTorch の React Native バインディング）
・機能は4つ：3視点要約 / シグナル分離 / 記事チャット / 翻訳
・LLM は LFM 2.5 (1.2B / 350M) と Qwen 3 (0.6B / 1.7B) から選択可
・記事本文は端末外に一切出ない。OpenAI API も Anthropic API も使っていない
・iOS 17+ / Android 13+ 必須（New Architecture + ExecuTorch ランタイム要件）
オンデバイスAI設定画面
使用するLLMとLLMが出力する言語を選ぶことができる
https://capsaicin.site/static/27a71c433287eca451570f00c4001211/cf84a/01_settings.png
機能1：3視点要約
brief:中立的な3〜5項目の要点
technical:技術スタック・実装詳細・トレードオフ・依存関係
critical:根拠の弱い主張・欠けている文脈・誇張・未検証の主張
要約生成中
https://capsaicin.site/static/1896238e553e3654c1eca7462f077627/536f2/02_summarize01_generating_summary.png
日本語記事の要約
https://capsaicin.site/static/5a2f69a156cbbc85ad5648f443649393/536f2/02_summarize02_japanese_article.png
英語記事の要約
https://capsaicin.site/static/b04c2d5e3d85f04c764b3fb55c8c20ca/536f2/02_summarize02_english_articla.png
機能2：シグナル分離
記事の各記述を「種別」で分類する
https://capsaicin.site/static/1b82f789a2b1b30832e8d359f53c2a61/385f2/03_signals.png
機能3：記事チャット
開いている記事1つにスコープしたチャット画面
https://capsaicin.site/static/6935a99beb0f7b81c2d3d03afed2723f/385f2/04_chat.png
機能4：翻訳
記事のソース言語と設定の出力言語が異なる場合のみ、Reader Mode のヘッダに「Translate」ボタンが出る。段落単位で JSON 配列に翻訳させる
https://capsaicin.site/static/a96a0128379f4f7863ea385ba194769a/d2cc9/05_translation.png