ハッカーと漫画家
2024-10-20
Tech
日常

近々やりたいこと2024年10月

近々やりたいこと

  • ClojureScript (Squint) 関係の動画
    • プログラミングしながら雑談するような、プログラミング Vlog 動画を作りたい
  • Ollama か llama-cpp-python をベースにしてローカル AI と日本語で音声通話できる仕組みを作りたい
    • 喋った言葉を whisper でテキスト化してローカルllm に認識させて、その結果を VOICEVOX で読み上げさせる
    • Ollama は JS 対応されているのでうまいことクライアント作れば良さそう
      • とりあえず Web ベースのクライアントで良い
      • コードも理解させるなら VS Code プラグインが理想かもしれない
    • 以前から作っているローカルAI: Poppins システムの発展型
  • Supabase (Self-host) + Deno Fresh + Squint でシステム構築
    • 以前から作っている FAM システムの作り直し
    • ロードバランサ (Kong か Caddy あたり) をうまく使って拡張できるようにしたい
    • 今まで特定のサービスに依存しないシステム開発を心がけてきたけど、次の理由でSupabase依存することにした
      • PGroonga が動くクラウドシステムは Supabase のみ
      • Supabase が self-host できるので必ずしもクラウド依存ではない
      • Supabase 使うほうが認証とかストレージとか楽そう
    • Deno Fresh について
      • React より Preact のほうが好み
      • Preact 前提なら vite で頑張るより Fresh 使うほうが楽かも
      • サーバーサイドが Supabase 前提で簡略化出来るなら backend と frontend を分けなくても良さそう
    • Squint について
      • Squint で js, jsx を出力してそれを Deno Fresh で動かせれば理想
      • もちろん Squint 使わないほうが一般的だし楽だけども、やはり Clojure を書きたい
  • 技術書典 (11/3) 参加予定
    • 自宅サーバー本が出ます
    • ローカル AI 本も出るかも？間に合えば…
  • ISUCON
    • 参加申込済みだけどいまいち練習できていない。やらねば。。。
  • Rust の勉強
    • ISUCON 終了後に着手できそう
    • 本を3冊買ってあるので勉強したい
    • 特に WASM とか Web 対応とかが気になる
  • 自宅サーバーに関する動画作成
    • 自宅サーバー + NextCloud の話をもう少ししたい
    • 自宅サーバー + Local LLM の話もしたい

上記の箇条書きを ChatGPT 4o with canvas で文章化しました。↓

やりたいことがたくさんあってワクワクしているので、近々取り組みたいプロジェクトについてまとめてみました。

ClojureScript (Squint) 関連の動画

ClojureScriptの一環として、特に"Squint"に関係するプログラミングのVlog動画を作りたいと思っています。プログラミングをしながら雑談をするような形式で、リラックスした雰囲気の動画になる予定です。技術的な内容と日常的な思考を共有することで、視聴者の皆さんと同じ熱意を共有できると嬉しいです。

ローカルAIと日本語で音声通話する仕組み

次に取り組みたいのが、Ollamaやllama-cpp-pythonをベースにして、ローカルAIと日本語で音声通話できる仕組みの開発です。これは、話した言葉をWhisperでテキスト化し、その内容をローカルのLLM（大規模言語モデル）に理解させ、その結果をVOICEVOXで読み上げる、という流れを想定しています。特にOllamaはJavaScript対応されているので、Webベースのクライアントを作ってテストしてみたいと思っています。最終的にはVS Codeプラグインとして、コードも理解する形に進化させるのが理想です。このアイデアは以前から作っているローカルAI、"Poppinsシステム"の発展型と考えています。

Supabase + Deno Fresh + Squint でシステム構築

次に、Supabase（Self-host）とDeno Fresh、そしてSquintを使って新たなシステム構築に取り組もうと思っています。このプロジェクトは、以前から作っているFAMシステムの改良版です。ロードバランサ（KongやCaddyなど）を使って、より拡張性のあるシステムにすることが目標です。

これまで私は、特定のサービスに依存しないシステム開発を心がけてきましたが、以下の理由でSupabaseを選びました。

  • PGroongaが動作するクラウドシステムはSupabaseのみ
  • Supabaseはセルフホスト可能で、必ずしもクラウドに依存しない
  • 認証やストレージなどが簡単に利用できる

Deno Freshを使う理由としては、Reactよりも軽量なPreactが好みであり、Preact前提ならFreshのほうがシンプルに開発できそうだからです。また、バックエンドとフロントエンドを分ける必要もないため、全体の開発が楽になると考えています。

Squintについては、JavaScriptやJSXを生成してDeno Freshで動かすことを目指しています。もちろんSquintを使わないほうが一般的ではありますが、それでもClojureを書く楽しさを手放したくない気持ちがあります。

技術書典への参加

11月3日に開催される技術書典に参加する予定です。そこで、自宅サーバーに関する本を出す予定です。さらに、ローカルAIに関する本も間に合えば出したいと考えています。

ISUCONの参加

ISUCONに申し込んでいますが、まだあまり練習できていません。本番に向けてもう少し頑張って準備しなければと感じています。

Rustの勉強

ISUCONが終わったら、Rustの勉強にも取り組みたいと思っています。すでに3冊の本を購入しているので、これらを活用して特にWASMやWeb関連の技術に注目しながら学んでいく予定です。

自宅サーバーに関する動画作成

最後に、自宅サーバーに関する動画も作成したいと考えています。特に、自宅サーバーとNextCloudの設定や、自宅サーバーとローカルLLMの連携についてもう少し掘り下げて共有したいです。

こうしてみると、たくさんのプロジェクトがありますが、どれも非常に楽しみで取り組むのが待ち遠しいです。少しずつ進めて、ブログや動画で進捗を共有していければと思っています。

kbaba1001 kbaba1001
普通に読める文章になっていて恐ろしい...

ちなみに、同じプロンプトで llama3-elyza-jp-8b を実行した結果は次:

タイトル: 近々やりたいことのまとめ - プログラミングとローカルAIの活用 -

近いうちに取り組みたいプロジェクトや活動について、箇条書きで整理してみました。以下はその内容です。

先日、技術書典11/3に参加し、自宅サーバー本を出します。同時に、ローカルAI本も出る予定です。他にも、ISUCONやRustの勉強、ClojureScriptやOllamaを活用したローカルAIと音声通話、SupabaseやDeno Freshを使用したシステム構築など多くのプロジェクトが控えています。

以下は、各プロジェクトの詳細です。

  1. ClojureScript関係の動画: プログラミングしながら雑談するVlog動画を作りたい。Ollamaやllama-cpp-pythonを使用し、ローカルAIと日本語で音声通話できる仕組みを構築します。

  2. Ollamaやllama-cpp-pythonのクライアント作成: Webベースのクライアントを作る予定です。VS Codeプラグインが理想かもしれません。

  3. Supabase、Deno Fresh、Squintでのシステム構築: 以前から作っているFAM システムをSupabaseで再構築します。ロードバランサを使って拡張できるようにし、認証やストレージを楽に設定したいです。

  4. Deno Freshについて: Preactを使用してFreshでアプリケーションを作成する予定です。サーバー側の設定が簡略化されるならば、backendとfrontendを分ける必要はなさそうです。

  5. Squintについて: Squintでjs,jsxを出力し、Deno Freshで動かすことが理想です。もちろん一般的にはClojureScriptを使わないほうが楽ですが、書きたいから使います。

  6. 技術書典11/3の参加と自宅サーバー本の出版: 自宅サーバー本を出します。ローカルAI本も出る予定です。

  7. ISUCONの参加申し込みとRustの勉強: ISUCONに参加申込済みですが、練習できていません。やらねばです。Rustの勉強は、ISUCON終了後から始める予定です。

  8. 自宅サーバーに関する動画作成: 自宅サーバーとNextCloudやローカルLLMについての話をまとめたいです。

以上が近々やりたいことの内容です。

kbaba1001 kbaba1001
要約してくれた感じだね

やはり llama2 系に比べれば圧倒的に進歩しているけど、 ChatGPT 4o にはもちろん及ばず。 でもこれくらい動けばなにかできそうではある。

掲示板にコメントする
※どの記事のコメントかわかるように本文に記事タイトルなどを入れてください。
一覧に戻る