AIコンピュータについて

DX-M2300 という組み込み用のパソコンがあるらしい。 組み込み用というのはようするに Raspberry Pi みたいなやつの超すごいやつということらしい。 ロボットの制御なんかに使えるみたいなんだけど、 Jetson AGX Orin 64GB という CPU/GPU を搭載していて、 VRAM 64GB ということなのでかなり処理性能が高い。

最近のローカルLLM、例えば llama などでも 70B くらいのがあるわけだが、こういうのを動かす環境が結局 H100 みたいな超高級(500万円くらい) なマシンしかないという状況は結構きつくて、 DX-M2300 シリーズはオープン価格だがだいたい 40 万～ 100 万くらいのはずで、 比較的手が出しやすい。

むりにファンレスである必要はないと思うのだが（というかこのでかいヒートシンクつけるくらいならファンつけてくれたほうが。。。）、 たぶんそこはロボットとして音を出したくないみたいな需要があるのだろう。 たしかにドラえもんからファンの音がしていたら嫌だ。

ただいまいちこのマシンの購入方法がわからない。 代理店に問い合わせてくれとのことなのだが、１台だけの発注を受け入れているのかどうか。。。

RTXシリーズがなかなか5000系がでなくて Nvidia がもう個人向けの GPU に興味なさそうな気がするので、 Jetson シリーズにはちょっと期待している。

とにかく VRAM が大きい GPU がそれなりの値段で欲しい。。。