1. Mac Studio 2台をThunderbolt 5で連結、分散推論「exo」でLLMを爆速化する検証
macOS Tahoeで解禁されたRDMA（リモートダイレクトメモリアクセス）とTensor並列を組み合わせ、2台のMac StudioをThunderbolt 5で連結したクラスタ環境で大規模言語モデル（LLM）の推論速度を大幅に向上させる検証が行われた。複数デバイスのリソースを束ねてLLMを実行するフレームワーク「exo」を用いることで、合計128GBのメモリ環境を構築。120B（1200億）パラメータ級の大規模モデルの生成速度を、単体環境と比較して1.36倍に高めることに成功している。 この検証では、Apple Siliconを搭載したMac Studio 2台を、Thunderbolt 5ケーブルで直接接続し、単一の大規模...