Это понятно. Карты с 16 гигами слишком дорогие. Оно если б точно было мне нужно - купил бы. А для упражнений - ну блин как-то жаба давит. Тем более времени особо нет упражняться.
Nvidia tesla бренд. Это условные видеокарты, на самом деле это платформы для рассчетов. И желательно с поддержкой FP16 (не все теслы умеют)- это 16-битная арифметика с плавающей точкой, которую вобщем-то специально для ИИ делали. (модель ии тоже должна быть fp16). Арифметика не очень точная, для инженерных расчетов не подходит, но для ИИ самое то, и памяти жрет не так много.
NVIDIA Tesla T4 16GB - чуть больше 1100$ на алике. Есть и более крутые варианты.
опять же, платный чат гпт стоит 20$ в мес. Поэтому, если уж решено тратить 1000$, то еще неизвестно куда лучше их потратить - может лучше купить подписку.
Другое дело, если карточка все равно есть. Но у меня ее нет.
no subject
Карты с 16 гигами слишком дорогие.
Оно если б точно было мне нужно - купил бы. А для упражнений - ну блин как-то жаба давит.
Тем более времени особо нет упражняться.
Nvidia tesla бренд. Это условные видеокарты, на самом деле это платформы для рассчетов. И желательно с поддержкой FP16 (не все теслы умеют)- это 16-битная арифметика с плавающей точкой, которую вобщем-то специально для ИИ делали. (модель ии тоже должна быть fp16). Арифметика не очень точная, для инженерных расчетов не подходит, но для ИИ самое то, и памяти жрет не так много.
NVIDIA Tesla T4 16GB - чуть больше 1100$ на алике. Есть и более крутые варианты.
опять же, платный чат гпт стоит 20$ в мес. Поэтому, если уж решено тратить 1000$, то еще неизвестно куда лучше их потратить - может лучше купить подписку.
Другое дело, если карточка все равно есть. Но у меня ее нет.