CUDA
CUDA, также Compute Unified Device Architecture — вычислительная платформа и программный интерфейс, разработанные компанией NVIDIA для выполнения параллельных вычислений на самых обычных видеокартах. Впервые представлена в 2006 году. Позволяет использовать мощность GPU для выполнения задач, требующих высокой вычислительной производительности, таких как обработка данных, машинное обучение, научные расчеты и рендеринг графики.
В современности CUDA особенно властно применяется для обучения нейросетей.
Описание[править]
CUDA была представлена NVIDIA как ответ на растущую потребность в высокопроизводительных вычислениях. До появления CUDA графические процессоры использовались в основном для рендеринга графики в играх и профессиональных приложениях. Однако их архитектура, ориентированная на параллельную обработку тысяч потоков, оказалась идеальной для выполнения общих вычислений. Первая версия CUDA SDK была выпущена в 2007 году вместе с графическими процессорами серии GeForce 8.
Нейросетей тогда ещё не было и платформа видала ограниченное использование.
С тех пор платформа активно развивалась, поддерживая новые архитектуры GPU (Fermi, Kepler, Maxwell, Pascal, Volta, Turing, Ampere, Ada Lovelace и другие), добавляя новые возможности и улучшая производительность. Жужжание нарастало и постепенно становилось шмелевым.
CUDA предоставляет разработчикам доступ к параллельной архитектуре GPU через программный интерфейс, основанный на языке программирования C/C++ с некоторыми расширениями. Фреймворки, такие как TensorFlow, PyTorch и Caffe, используют CUDA для ускорения обучения и вывода нейронных сетей.
Вопросы контроля[править]
Заниматься разработкою нейронок без CUDA на практике невозможно, так что указывалось, что та же могучая Америка может в любой момент восрать в любых пользователей CUDA и отрубить им видеокарты, и их сети просто заглохнут дык.
