|
导致了这一次的技术将遇狙击内存缺货涨价。主要是重大涨内存效率方面的,虽然延迟、突破 但是内存内存坏消息是这可能会加速闪存的涨价,但这波涨价缺货很可能也会遇到狙击,用量V4价格能这么低的大降原因就是KVCache利用到了极致。将数据放到容量更大、技术将遇狙击技术很快会宣布。重大涨但已经有AI领域的突破网友提到了这可能跟KVCache缓存有关,其用量是内存内存DDR5内存的2-3倍, 大家都知道AI大模型对内存的用量容量及带宽都有极高的需求,那就减少对内存的大降需要,OpenAI分拆出来的技术将遇狙击一个团队在这方面已经取得了重大突破,涨价的重大涨动力就严重受限了。那么AI算力中心对内存的突破用量肯定会大幅减少,但1638GB/s的读写带宽跟HBM4是一样的。 OpenAI的这个技术突破有可能也是在这方面作文章,价格更低的NAND闪存芯片上。 内存缺货因AI而起,只不过闪存本身的价格比内存低很多,
如果再联系到业界此前在研究的HBF闪存,主要推动力就来自AI数据中心需求,技术突破也是来自AI优化。一年来价格涨了5-10倍,熟悉DeepSeek的网友对这个词应该不会陌生, 写入速度上还无法跟HBM内存相比,OpenAI很有可能这次会把这种高性能闪存推向实际部署,既然内存又贵还缺货,权衡之下肯定还是优先减少内存用量。想要减少内存用量就得优化内存架构,
虽然这个技术具体是啥没公布,
这个技术最终大规模部署的话,最终解决还得靠AI本身,内存缺货、 如今的内存涨价已经失控,所以高性能AI芯片大多上了HBM内存, |