Наряду со своей последней партией новых мобильных платформ для смартфонов среднего класса, компания Qualcomm сделала еще больший анонс на своем AI Day в Сан-Франциско. Гигант мобильных микросхем снова начинает играть за серверы, отказавшись от линейки Centriq в 2018 году. На этот раз компания использует свои технологии в области искусственного интеллекта, чтобы войти в облачные вычисления. Первый наш чип назвал платформу Qualcomm Cloud AI 100.
Платформа Cloud AI 100 - это не переупаковка мобильных чипов, это базовый 7-нм дизайн для задач логического вывода AI, а не для обучения. Это означает, что чип будет обрабатывать числа, проходящие через нейронные сети, а не использоваться для их обучения. Это, по-видимому, ставит Qualcomm в прямую конкуренцию с чипами Nvidia Tesla T4 и чипами логического вывода Google Edge TPU, предназначенными для серверов и облачных вычислений. Как и его конкуренты, Qualcomm осознал, что наиболее эффективная обработка AI не выполняется на процессорах, графических процессорах и FGPA, а требует специального ускорителя AI.
С точки зрения производительности, Qualcomm оценивает более чем 50-кратное увеличение производительности AI по сравнению с возможностями своего Snapdragon 855. Snapdragon 855 предлагает около 7TOPS производительности, что предполагает, что Cloud AI 100 находится в диапазоне 350TOPS. Это, безусловно, даст T4 Nvidia за свои деньги. Qualcomm полагает, что она также имеет преимущество в производительности на ватт, демонстрируя 10-кратное улучшение по сравнению с наиболее продвинутыми в отрасли решениями по выводу ИИ, развернутыми сегодня. Когда вы зарабатываете большие цифры, эффективность энергопотребления может сэкономить компаниям огромные суммы на счетах за электроэнергию. Кроме того, Qualcomm хочет использовать свой опыт в обработке сигналов и 5G, поэтому его облачная платформа может работать на грани в будущих сетях с очень низкой задержкой.
В ответ на вопрос Qualcomm не стал комментировать, является ли архитектура, используемая в Cloud AI 100, проприетарной или лицензированной из других источников. Интересно, это первое появление архитектуры Arm Trillium AI, которая также разработана специально для логических нагрузок с низким энергопотреблением. Но достаточно предположений, Qualcomm говорит, что в будущем она будет делиться дополнительной информацией о своей архитектуре ИИ.
Наконец, для поддержки разработчиков Qualcomm Cloud AI 100 работает с большинством, если не со всеми, ведущими в отрасли программными стеками. Поддерживаются платформы Caffe, Keras, mxnet, TensorFlow, PaddlePaddle и Cognitive Toolkit, а также среды выполнения Glow, OnnX и XLA.
Ожидается, что Qualcomm Cloud AI 100 начнет выборку для клиентов в
