Память должна быть простой и быстрой. В HBM широкие шины и простые протоколы. И коротки линии связи до CPU. Все заточено под многокристальные сборки. Где чипы сидят на одной подложке (мы не видим и не ощущаем 2 канала работы с памятью по 4096 бит шине данных), а внешние цепи подключаются к подложке же через выводы сокета. Если память - только HBM, то количество внешних пинов может и сократиться.