Затем, что ROCm, как и CUDA, побольше Вулкана умеет, т.к. не просто стандарт (API), а еще пачка интересных библиотек. Инференс делать на вулкане еще как-то можно, а вот трейнинг нейронок (я не про LLM сейчас, у меня задачи, с обработкой текста не связанные никак) уж очень больновато выходит.

Самое интересное, что с энвидией-то как раз все намного проще, даже если речь идет о потребительских видеокартах - там CUDA, cuDNN, и прочее "просто работает" (с). Да, FP64 работает сильно медленнее, чем FP32, но за вычетом этого, лично мне нафиг не нужного,  предъявить по факту просто нечего. У меня вон нвидиа в ноуте с гибридной графикой даже под вяленым/hyprland работает просто отлично. Впервые за 10 лет не тошнит от линукс десктопа.

У Амуды же и плясать с бубном надо ночами возле костра, т.к. их драйвера и все остальное как были фекашками 25 лет назад, так до сих пор ими и остались. Так еще и под ROCm, хоть он весь такой попенсорсный и открытый, поддержки потребительских видеокарт Амуда не обещает. Идите, инстинкты наши основные покупайте, дорогие линуксоиды. Свобода ведь самая дорогая вещь на свете.

Но Амуда - лучший друг попенсорса и линукса, а нвидия... ФАК Ю НВИДИЯ, так ведь тут принято, да?

Смотри не перепутай!

Куда же они делись? Просто полезный блоб ушёл в железо, а связующий разбили на архитектуры и сбросили в мусорное ведро. Теперь могут пилить фичи для куды и ии, и не отвлекаться от поддержки гпл-ядра. Заодно сделали хорошую мину.

Так в том и претензия к сторонникам GPL: не может свободный софт работать на несвободном железе. А другого и нет. Все заблобировано.

Сейчас интеграция такая, что внутри чипа может быть спрятана своя операционная система и она живет своей жизнью.
Сетевой чип, чипсет материнки, контроллер диска. Все это имеет доступ к шинам и может иметь недокументированные режимы.

Если бы только этим.
Но это в общем-то для невиднии не важно как его называть - дравером или прошивкой.
Главное что оно находится в самой видяхе, а значит гнурак ядра на него не распространяется.
Поэтому нате вам открытый драйвер, который просто из юзерспейса прошивке команды будет передавать. Кушайте, только не обляпайтесь.

Он почти ничего не стоит - все aux ядра процов отлиты на том же кристалле что и основной чип и занимают мизерный % его площади, не идущий ни в какое сравнение с кешами, массивами числокрушилок и проч.

И конечно фиг вам нвидия этот доллар подарит. Самим мало, новый триллион капитализации никак не набирается и яхта у хуанга коротковата.

Вулкан и прочие GL несколько более функциональны :). Вон там даже господа кипишуют что вулканом можно и LLM'ки считать. Более того. Valve прикололся и в llmcpp чтоли оптимизации тематичные впилил. Кто б его знает зачем оно им - но так можно было.

А зачем? АМДшный FSR точно также использует нейронки для генерации промежуточных кадров.

> Ты же понятия не имеешь, делает карта DLSS или нет на таких разрешениях
> весь софт закрыт и в самой карте своя собственная операционка,

Достаточно смотреть на fps и сравнить покадрово.
У софт амд типа открыт. И сильно тебе это помогло разобраться как именно оно кадр рисует?)

> которой может быть вообще пофигу на то, что ты там за ползунки дёргаешь.

А пофиг. Если оно дает лучший перформанс на рынке, то без разницы какие ползунки оно игнорит.