Передові графічні карти Nvidia, процесори H100, мають ціни на північ від $40 000 на eBay, оскільки апетит до чіпів, необхідних для розробки та впровадження програмного забезпечення штучного інтелекту (ШІ), продовжує зростати. Джон Кармак, піонер у 3D-іграх і колишній керівник відділу технологій у Meta, звернув увагу на ціни процесорів H100 у Twitter. Станом на п’ятницю на eBay було розміщено щонайменше вісім моделей H100 за ціною від $39 995 до $46 000. Деякі роздрібні продавці раніше продавали H100 приблизно за $36 000.
H100, випущений минулого року, представляє найновіший флагманський чіп Nvidia зі штучним інтелектом, який замінив A100, чіп приблизно за $10 000, який часто називають «робочою конячкою» для програм AI. Розробники використовують H100 для створення великих мовних моделей (LLM), які лежать в основі програм ШІ, таких як ChatGPT OpenAI. Для роботи цих систем потрібні потужні комп’ютери, здатні обробляти терабайти даних протягом тривалого часу. Крім того, вони залежать від значної обчислювальної потужності для створення тексту, зображень або передбачень.
Nvidia H100 GPUs going for $40k on eBay. pic.twitter.com/7NOBI8cn3k
— John Carmack (@ID_AA_Carmack) April 14, 2023
Співпраця сотень графічних процесорів Nvidia найвищого рівня є важливою для навчання моделей штучного інтелекту, особливо таких великих, як GPT. Microsoft інвестувала сотні мільйонів доларів у десятки тисяч чіпів Nvidia A100 для розробки ChatGPT. Зараз Nvidia займає значну частку ринку чіпів штучного інтелекту. Пропозиції Nvidia також включають суперкомп’ютер DGX, який містить вісім графічних процесорів, що працюють разом. На початку цього року компанія оголосила про нові послуги, які дозволяють компаніям орендувати комп’ютери DGX за $37 000 на місяць.
Однак система використовує старіші процесори Nvidia A100 за цією ціною. За словами Nvidia, H100 є першим чіпом, адаптованим до конкретної архітектури штучного інтелекту, відповідальної за численні останні прориви штучного інтелекту, відомі як трансформатори. Інсайдери галузі передбачають потребу в ще потужніших чіпах для створення більших і більш інтенсивних моделей, ніж ті, що доступні зараз.