After Dify

Dify is all you needか？

RAGがこんなにも簡単にできてしまうDifyに驚きつつ、1か月過ぎまして。その後、ワークフローなどの機能も追加されたようですね。ワークフローは一部ではノーコードLLMなどという面白いネーミングを付けていることもあるようです。とはいえ、Dify is all you needではなかったです。

計算がとっても苦手というか事実上できない

LLMの使い方としては特に間違えてはないと思うのですが、決算書ではなく、決算データを与えておいて好きなように計算させることをしたい時、これが難しいです。
GPTsであれば、ファイルを渡すこととフォーマットを教えてることができれば、csvをpandasで読み込んで分析するためにpythonのコードを自動生成してデータ分析なんてことができるますよね。
ナレッジにファイルを入れた時点チャンクに分解されてしまうので、決算データなんてものを入れようにも、1チャンクが数行とかになってしまいます。チャンクも1000トークン（だと思われる）が上限なので、とても1年分なんていうデータは渡せません。私のやり方が悪いんだとも思うのですが、楽がしたい私からすると、これはGPTsの圧勝です。
アイディアとしてはワークフローを使ってSQLを出力させ、それを何らかの形でバックエンドに渡すとかもできるかもですが、まさかSQLを直接バックエンド渡すなんて危ないことはできませんし、集計オーダーをバックエンドにそのまま渡すだけなら、Difyを使う理由はない気もするわけで。。。

添付ファイルの取り扱いができない

ナレッジに簡単にデータを置けてしまう弊害か、GPTsのように添付ファイルを渡して分析ということが画像以外はできません。そうそう画像で気が付いたのですが、画像をそのまま貼り付けてOCRをするとうまくいことと、うまくいかないことがありました（Claude3 Sonnetを使用）画像はできるので、もうひと頑張りしてほしい気もしますが、実際には各LLMに添付ファイルを渡す方法が色々ありすぎて現時点ではというかロードマップでいうとウシローのほうにある気がします。
一方で添付ファイルの出力？日本語が変ですね。ファイルをファイルとして出力する方はなんか頑張ってほしいんですよね。チャンクにする前のデータをユーザーがダウンロードできたり、そういうのをURLではなくその場でダウンロードしたいという要望はままありますからね。。。データ加工した結果をダウンロードしたいなんて大げさなことは言いません。

マークダウンは使える

当たり前といえば当たり前なんですが、
下のMarkdownはRMSEの式としてきちんと機能します。実は私、フロントやったことがないので知らなかったんですが、MathMLっていうのがあるんですね。いや、これは知らなかった。といってもLaTeXのフォーマットなんてすべてAIに出力させていますけど。

$$\mathrm{RMSE} = \sqrt{\frac{1}{n}\sum_{i=1}^{n}(y_i - \hat{y}_i)^2}$$

うっかり、Difyが何かをしていると勘違いしそうですが、あくまで、出力されたものをそのまま出力させているだけなので、当たり前といえば当たり前です。逆に何もしていないからこそできるという言い方もできますね。

APIはよい

GPTsはAPIアクセスが出来ずに、GPTsと同じ機能を使う場合は、別途、Assistant機能を使うしかないようです。（確認方法が悪かったら申し訳ございません。）そのため、GPTsは完全に独立して機能させるしかなったのですが、Difyではアプリ毎にAPIキーがあってそれぞれリクエストできるのは良い機能です。そのため、RAGを構築することなく、カスタムアプリを作成することができるようになりました。いや、ほんと、去年の苦労を返してほしい。GPTsもコンシェルジェGPTsみたいのが作れて、それぞれ専門GPTsに問い合わせをしてくれるなんていうのが自動でできたらいいんですが。今は確か、ユーザーがメンションしないと呼び出せなかったような。

まとめ

RAGもフロントエンドもバックエンドも組まなくていいのは本当に助かるんですが、GPTsを使っているGPTsから入ってしまった社内のITメンバーではないユーザーからするとあまりありがたみがわからないかもしれませんね。とはいえ、有用なツールの一つであることは変わりなく、日本語対応しているのも大変ありがたい。そういえば、出資の話とか競合とかそういうニュースが見当たらないといえば、見当たりませんね。出資は私にはわかり兼ねますが、アイディア的には競合がいつ出てきてもおかしくはない気がしますけれども。