В теории возможно. Вы сначала попробуйте аппаратный h265 против программного h264, я пробовал, и размер файла у h265 получается больше, потому что у аппаратных кодеров нет тех оптимизаций которые применяются в программных кодеров. Даже элементарная запись экрана в obs с программным кодером h264 выдает запись с меньшим размером чем аппаратный h265.
Помню Google нахваливала vp9 когда внедряла его, типа вы сэкономите трафик и т.п., а на деле получилось что для одних и тех же видео если скачать h264 и vp9 последний получался больше по размеру.