さて、なかなか、バズらない Smart Video Editor ですが、目玉機能として、ローカルAIを搭載してやりましたよ。
Googleさんが、配布している LiteRT-LMを、アプリにねじ込んでやりました。
メモリがかつかつですが、4GB以上のメモリがある機種なら動作しましたよ。
モデルは、Gemma-4です。
Toolも使えるし、マルチ言語対応なので、なかなか使えますよね。
モバイル端末の中で動作させないとダメなんで、認識力が不足気味だし、会話も数ターンで破綻しますが、やってみることが大切ですよね。
LocalAIチャットアプリは、それなりにストアにあるようですが、こういったアプリに搭載しているのは、まだ、無いかも知れないですね。
ついでにRagも搭載させました。
これは、multilingual-e5-small という多言語対応のモデルを使ってエンベディングし、CoreML用に変換しアプリにねじ込みました。
ということで、使い方も、教えてくれるようになっているはずです。
取説を作成するのが、面倒だったので、AI搭載を搭載することで、ごまかしましたよ。
そもそも、クラウド型のAIを使う方が良いんですが、なかなか、ユーザーサイドの認証で利用出来るAIがなかったんで、ローカルAIを選択しました。
小さい機器でも動作するようなAIモデルや開発環境が整ってきたので、今後は、どんどんこういったアプリが出てくるでしょうね。
Appleさんも、iPhone自体にモデル搭載するような発表があったので、そうことが出来るようになれば、そっちに移行しましょうかね。
おまけで、smovieにllmフォルダを作成してあるんですが、そこに、litertlmに対応したモデルをセットすれば利用出来るになっています。
gpuで起動するようになっているので、gpu用のモデルで、たんまりメモリがあるiPhoneなら、もっと凄いモデルを起動出来るかもですよ。
