Ano, jde o rychlost komunikace. Klasické superpočítače jsou navrženy tak, aby uzel/CPU udělalo co nejvíc práce a jen pokud možno málo komunikovalo s jinými uzly/CPU třeba přes MPI. V tom neurálním je to naopak, málo práce na uzlu a hodně komunikace. To by klasický superpočítač zahltilo, uzly by nic nedělaly, jen čekali na dokončení komunikace, i když by tam byl třeba InfiniBand místo ethernetu.