Загружается ли код функции ядра CUDA в GPU-RAM сразу или для каждого обращения к ней?

Question

Загружается ли код функции ядра CUDA в GPU-RAM сразу или для каждого обращения к ней?

Загружается ли исполняемый код функции ядра CUDA в GPU сразу при запуске программы, или код загружается каждый раз при вызове функции ядра? Или в каких случаях может быть так или иначе?

Это может сильно повлиять на выбор методов программирования:

Много обращений к ядру-функции от CPU-host
Использование динамического параллелизма и множество обращений к ядру-функциям с GPU-устройства

0

cuda nvidia gpgpu

Источник

user1558037 10 окт '13 в 19:23

1 ответ

Решение

Другие вопросы по тегам cuda nvidia gpgpu

user780717 11 окт '13 в 17:22 2013-10-11 17:22 · Accepted Answer · 2013-10-11 17:22

При использовании API времени выполнения CUDA код ядра загружается на устройство один раз. Это происходит как неявное действие сразу после создания контекста CUDA. При использовании API драйвера CUDA приложение контролирует, когда ядра загружаются и как часто. Кажется, что в настоящее время это не охватывается документацией CUDA, я подам запрос на расширение для этого.