Samsung показала память, которая садится прямо на ИИ-ускоритель

FMS - ежегодная конференция по памяти и накопителям, куда производители привозят то, что ещё не дошло до прилавка. Самсунг в этом году приехала в Санта-Клару с целой линейкой: концепты zHBM и zNAND-O, прототип флеш-памяти нового поколения и уже отгружаемые образцы HBM4E. Общая рамка анонса - переход к трёхмерным конструкциям, где память перестаёт стоять сбоку от процессора.
Память переезжает на процессор
Сегодня чипы HBM стоят вокруг ИИ-ускорителя на общей подложке, и данные идут к вычислительному ядру по горизонтали. zHBM у Samsung ставит стопку памяти вертикально, прямо над ускорителем. Путь данных сокращается, вместе с ним падают задержка и расход энергии на пересылку.
Отдельная деталь - промежуточный слой между памятью и ускорителем. Samsung предлагает встраивать туда логику заказчика, то есть отдавать клиенту место под собственные блоки внутри самой стопки.
Восьмикратный прирост пока на бумаге
Цифры Samsung называет в сравнении с поколением HBM5, которое само ещё не вышло:
- производительность интерфейса - примерно в 8 раз выше;
- плотность памяти - более чем в 10 раз;
- энергоэффективность - втрое лучше;
- тепловое сопротивление - меньше вдвое.
Всё это показано на концепт-модели, без даты выпуска и без имени партнёра по ускорителям. Ориентиры разрабатываемой технологии; товара, который можно заказать, за ними пока нет.
Более 400 слоёв и склейка пластин
Здесь Samsung перешла от концепта к железу. V10 BV-NAND - первая в отрасли флеш-память, где ячейки набираются склейкой отдельных пластин. Слоёв больше четырёхсот, плотность хранения выросла примерно на 58% относительно предыдущего поколения V9, чтение, запись и скорость ввода-вывода тоже подтянулись. Первую V-NAND компания показала на этой же конференции в 2013 году - тринадцать лет спустя принцип набора слоёв поменялся.
Рядом Samsung представила zNAND-O в четырёх- и восьмислойном исполнении. Эта память рассчитана на устройства, которые обрабатывают данные на месте, без отправки в дата-центр.
Что уже отгружается клиентам
На фоне концептов полезно смотреть, что у Samsung доехало до реальных поставок. HBM4 на 1c-DRAM пошла в серию в феврале, образцы HBM4E компания начала рассылать заказчикам в мае - первой на рынке. В экспозиции была и LPDDR5X-PIM, первая мобильная память со встроенными вычислениями: часть операций выполняется прямо в микросхеме, без пересылки данных в процессор. Плюс серверные накопители PM1763 и BM1773.
Обещание без даты выпуска
Пропускная способность памяти давно стала более узким местом ИИ-систем, чем скорость самих ускорителей: чип простаивает, дожидаясь данных. zHBM бьёт ровно в эту точку, и вертикальная сборка выглядит логичным продолжением того, куда движется упаковка чипов последние годы. Открытым остаётся главный вопрос - сроки. Пока Samsung не назвала ни года выпуска, ни партнёра по ускорителям, восьмикратный прирост живёт на конференционном слайде.