関西最強LLMマシン？e-sports EKICHIKAでローカルLLMしてみた(RTX 3090 24GB/PCメモリ64GB)
大阪にいく機会があったので最近はまっている「ネカフェ・eSportカフェでローカルLLM」ができる店を探していたらeSportカフェで珍しく「ゲーム以外の利用もOK」と明記している素敵なeSportカフェがあったので行ってみました。
e-sports EKICHIKAの特徴
大阪市のど真ん中で梅田と難波の間。難波からは歩いて25分ぐらい
駅チカというか駅にでたらすぐ
24時間やっている素敵仕様
フリードリンクはない（自販機のみ
出入り自由なのでコンビニで飲食は買う
食べ物はデスクでは食えないのでフリーブースで食べる
ホテルビルの２フロアであり、ホテルを運営している会社がやっている
ホテルがついているのでホテルにとまって２４時間のe-Sportsマシンを楽しむのもありかもしれません
マシンスペック
何種類かありますがローカルLLMに向いているPCメモリ64GBのっているマシンは配信ブースマシンです
ビデオカードが１世代前の3090ですがGPUメモリが24GBのっているのでそちらはメリットに感じます。
PCメモリ64GBマシンは日本のネットカフェ/eSportsカフェではレアなのでこれは素晴らしいです。(快活クラブのハイスペックマシンは4080でPCメモリは32GB）
e-sports EKICHIKAにいってみた
驚くのがeSportsの受付がホテルのフロントなんですね。ホテルの運営会社がやっているとここで判明しました。下記の会社がやっているようです
料金は配信ブースは3時間で2100円。マシンスペックとネカフェの市場価格を考えると安いぐらいの値段です。
行ったのは日曜日でかなり盛況でした。受付に来ている人たちも「数時間町ですがよろしいでしょうか？」とフロントに言われていました。
私は前日に配信ブースを予約していたのですんなり入れました。
配信ブースは用途も限られており高いので比較的あいてるのかもしれません。
配信ブースの様子
配信ブースだけあって機材がすごいです
デスクは椅子が４つぐらい並べるぐらい広い
モニターは２つ
llama3.3をollamaで動かしてましたがRTX3090のGPUメモリが24GBもあるのでPCメモリが64GBあっても２４GBしかつかわれてないのには驚きました。かなり余裕があるのでさらに重いモデルを使えそうです
USB3のメモリをつかっていても何度指してもUSB2としての速度しかでなかったので私の差し込みしている口がわるいのかそもそも空きがなかったのでUSB3メモリは使うあてとして考えない方がよさそうです。
使ってみてわかった配信ブースのメリット・デメリット
メリット
かなり広い個室を独り占めできる
メモリ64GBなのでollamaでLLMモデルは70bでも動く
ただしサクサクといった感じではないので快活クラブの4080/4080Super+PCメモリ32GBと大差がないようにも感じた
メモリに空きがかなりあるので、かなり重いモデルも動かせそう
デメリット
ブースは内鍵があるが外鍵はないのでトイレいくにしてもちょっと荷物は不安
監視カメラで部屋は監視されている（おそらく台パン用
外にいくなら荷物はもっていかないと危険（そのためにカメラがあるのかもしれないが
USB3メモリがUBS3としての速度がでなかったのでLLMモデルの持ち運びはできない
ネット回線がアホみたいに早いわけではないためLLMモデルをダウンロードするのには10分ぐらいかかる
まとめ
24時間やっているeSportカフェは珍しいと思いますし、大阪の都心なのでオタク街なんばからもアクセスしやすいでかなりいいeSportsカフェではないでしょうか。カフェといいつつドリンクはないですが、大阪都心の快活クラブはドリンクないところ多かったのでそこはデメリットではないと思います。
大阪いくときはぜひまた利用したいと思います。