Инженеры решили проблему производительности и охлаждения ИИ-ускорителей

Основной текст статьи

Для повышения мощности ИИ-ускорителей инженеры стремятся разместить вычислительные кристаллы и память максимально близко друг к другу. Однако такое уплотнение создаёт серьёзные вызовы: необходимо прокладывать тысячи быстрых электрических каналов на ограниченной площади и эффективно отводить выделяемое тепло. Платформа BBCube предлагает комплексное решение этих проблем, позволяя устанавливать кристаллы с точностью до 10 микрометров.

Современные производители чипов всё чаще собирают вычислительные системы из нескольких микросхем вместо одного крупного процессора. В едином корпусе объединяются вычислительные модули, оперативная память и специализированные компоненты. Для искусственного интеллекта такой подход особенно эффективен, так как ИИ-ускорители постоянно получают огромные потоки информации из памяти и обмениваются результатами между различными вычислительными блоками.

Однако физические ограничения быстро стопорят процесс интеграции. Компоненты требуют установки с точностью в несколько микрометров, между ними нужно проложить множество электрических путей, а функционирующие блоки генерируют значительное количество тепла. Авторы BBCube одновременно работали над тремя направлениями: расположением компонентов, межсоединениями и системой охлаждения.

Платформа подходит для двумерной и трёхмерной интеграции. При двумерном подходе несколько кристаллов располагают рядом и объединяют через единую основу. При трёхмерном методе элементы можно укладывать в несколько слоёв. BBCube объединяет технологию прямого монтажа на пластину, соединения без припойных выступов и детальные расчёты теплораспределения.

Для достижения максимальной плотности монтажа инженеры применили способ установки микросхем непосредственно на полупроводниковую поверхность. На кремнии создаются точные углубления, фиксирующие компоненты в требуемом положении. Благодаря высокой точности соседние микросхемы размещаются всего в 10 микрометрах друг от друга.

Минимальный промежуток позволяет уменьшить протяжённость электрических путей и уместить больше соединительных линий на той же площади. Для ИИ-ускорителей это критически важно: производительность вычислительных блоков теряет смысл, если память не успевает передавать им требуемые данные. Увеличение количества каналов между компонентами прямо поднимает общую скорость обмена информацией.

Традиционные многокристальные системы обычно соединяют через микроскопические припойные контакты между элементами. Однако их размеры нельзя уменьшать бесконечно. При нагревании припоя металл деформируется, поэтому между соседними контактами необходимо сохранять промежутки во избежание коротких замыканий.

BBCube функционирует без припойных контактов. Электросигнал идёт по сквозным кремниевым каналам, вертикальным проводящим путям внутри кремния. Разработчики использовали метод Via-Last: отверстия и провода формируют после установки микросхем на место. Дополнительный распределительный слой направляет сигналы между необходимыми точками контакта.

Отсутствие выступающих контактов даёт возможность расположить электрические каналы намного плотнее. При промежутке в 10 микрометров между элементами расчёты показывают возможность увеличить общую пропускную способность в 16 раз на той же площади соединений. Параметры передаваемого сигнала остаются в норме, как в системах с обычными контактами.

Для ИИ-систем преимущество заключается прежде всего в обмене между запоминающим устройством и вычислительными блоками. Современный ускоритель постоянно загружает характеристики алгоритмов, промежуточные вычисления и новые блоки входящей информации. Узкий проход между отдельными микросхемами может замедлять вычисления, даже если сами процессорные блоки работают с высокой скоростью. Улучшенные соединения сокращают данное ограничение и одновременно уменьшают путь, который преодолевает электрический сигнал.

После уплотнения конструкции возникает новая сложность: тепловыделение нужно отводить из значительно меньшего объёма. Особенно затруднено охлаждение многослойных трёхмерных конструкций, поскольку внутренние элементы находятся дальше от поверхности корпуса. Избыточная температура ограничивает частоту работы и повышает риск сбоев компонентов.

Расчёты для BBCube показали, что применяемая конструкция пластины уменьшает тепловое сопротивление примерно на половину. Сниженное тепловое сопротивление означает, что выделяемая энергия эффективнее проходит через конструкцию к охладителю. Таким образом, более плотная компоновка не приводит к пропорциональному ухудшению отвода тепла.

Средний показатель температуры для оценки сложной конструкции недостаточен. На отдельных участках могут возникнуть области перегрева, в то время как общие параметры остаются в допустимых пределах. Чтобы определить подобные зоны на этапе проектирования, разработчики создали многоуровневую модель теплопередачи с детализацией до 1 микрометра.

Модель охватывает весь кристалл и содержит около 100 миллионов точек расчёта. Специалисты могут изучить распределение температуры на уровне микроскопических участков и выявить, где конкретная схема вызывает локальное перегревание. Такой анализ необходим до создания реального образца, когда расположение элементов можно ещё изменить без переделки серии чипов.

Тщательный тепловой анализ будет полезен и для процессоров, где энергоснабжение подводится с тыльной стороны кристалла. В обычной конструкции силовые и информационные проводники расположены с одной стороны кремния и занимают место в одних разводящих слоях. Перемещение энергоснабжения на противоположную сторону освобождает пространство для информационных путей, но одновременно изменяет направления тепловых потоков. Разрешение 1 микрометр позволяет учитывать локальные изменения температуры в подобных конструкциях.

В BBCube три инновации функционируют как единое целое. Высокоточный монтаж уменьшает промежуток между соседними кристаллами до 10 микрометров. Сквозные кремниевые проводники позволяют обойтись без припойных контактов и увеличить концентрацию информационных путей. Многоуровневая тепловая модель с 100 миллионами расчётных точек определяет участки, где плотная компоновка может привести к перегреву.

Платформа разрабатывается для ускорителей ИИ и высокопроизводительных вычислительных комплексов. На следующем этапе планируется объединить все три технологии и провести испытания на настоящих кристаллах вычислительных ускорителей и памяти. Проверка на реальном оборудовании должна подтвердить, насколько теоретические расчёты по пропускной способности и охлаждению соответствуют результатам в полноценных многокристальных системах.