caxapa.ru :: Чуток мыслей.

Evgeny_CD, Архитектор (07.01.2022 15:57, просмотров: 278) ответил Evgeny_CD на Новое расширение x86 Intel. AMX (Advanced Matrix Extension). 8 регистров, по килобайту каждый!

Чуток мыслей.

1. Возможно, это ответ на ARM SVE2. Даже с запасом ответ - ARM более 2 КБит регистры ниасилил :) причем у ARM 32 регистра по 256 байт, у Intel 8 регистров по килобайту.

https://developer.arm.com/documentation/102340/0001/Introducing-SVE2

Линусу с матюками 8 КБайт контекста переключать в обоих случаях (утрирование, контекст больше в обоих случаях).

2. Возможно, AVX уперся в масштабирование. AVX512 ни у Intel, ни у AMD просто и дешево не получился. То частоту ядра приходится опускать, то еще какой геморрой.

Возможно, AMX в силу каких-то причин удобнее в железе.

3. Возможно, AMX лучше ложится на программистские концепции. Типа умножить матрицы 4х4 и 1х4 одной командой.

Насчет отдельной железки - непонятно, какова архитектура видеокарт от Intel, которые вот вот выйдут. Может, это бекпорт части их архитектуры в процессор.

Ответить

- Если сравнивать с SVE2, то с AVX в целом, а не с AMX, созданной для ИИ. А для обычной арифметики AMX не годится - в ней "матричные" операции только с int-8 и float-16, а при такой низкой разрядности нигде, кроме ИИ, она не пригодится. Kceния(2 знак., 07.01.2022 16:28, ссылка, картинка)
  - Вы так говорите, как будто нейросети не есть бесконечная вселенная :) - Cкpипaч(07.01.2022 16:41)
    - Но численных методов ей не заменить, т.к. точность в 3 десятичных знака слишком мала даже для инженерных расчетов. Kceния(1 знак., 07.01.2022 16:50, ссылка)
      - Ссылка отчасти верная (неверная). AMX использует не числа с половинной точностью. Он использует формат bfloat16, SIGN:1 EXPONENT:8, FRACTION:7 По сравнению со стандартным сишным IEEE 754 single, полная экспонента, урезанная мантисса. - RxTx(07.01.2022 19:10)
        
        Так это же еще хуже - тогда мантисса и вовсе только 2 знака. - Kceния(07.01.2022 20:33)
        
        Ну да. Вот здесь подробности RxTx(1 знак., 07.01.2022 20:43, ссылка)
      - Логарифмическая линейка :) - Evgeny_CD(07.01.2022 17:28)

Средства и методы разработки