jetson-generative-ai-playground

githubで、NVIDIA-AI-IOTの jetson-generative-ai-playground というレポジトリを見つけたので、以前、勢いで購入したもののホコリがかぶったままにしてしまっていた（もったいない！）Jetson Orin Nano開発者キットの電源を久しぶりに入れて試してみました。

内容は以下の３つのテーマについて例題が示されています。

1. Text Generation（テキスト生成）
oobaboogaの text-generaton-webuiをDocker containerで起動するサンプル

vicuna-7b-v1.5 を load-in-4bit で読み込み

2. Image Generation（画像生成）
AUTOMATIC1111のstable-diffusion-webuiをDocker containerで起動するサンプル

3. Distillation（知識の蒸留）
OpenCLIPを例題にした知識蒸留についての解説。
かなり丁寧な解説なので、後日勉強しようと思います。

初代Jetson nano時代にNvidiaから提供されていた、画像認識を題材にしたディープラーニング入門コースのように、Orin世代にふさわしく生成ＡＩの体験コースを作った感じでしょうか。
他にも色々コンテナを公開してくれているので、色々遊べそうです。