很難說這將對他們的利潤產生多大影響,但AMD的新"Halo Strix"處理器現在是任何想要運行本地LLM的人的最佳系統。
可以用大約 1.5k 美元的總價購買一個配備 128GB RAM 的設備,它可以完美運行中型/大型模型,比如 gpt-oss 120B。
作爲參考,單個Nvidia 5090 ((沒有其他PC))價格在$2-3k之間,無法運行完整模型。
一臺配備64GB RAM的Mac mini售價爲2千美元,但也無法運行該完整模型。
一臺配備128GB內存的Mac Studio可以運行,但價格爲3.7k美元
查看原文