DeepSeek витратив $1,6 млрд на навчання своєї мовної моделі

Китайський стартап у сфері штучного інтелекту DeepSeek витратив приблизно $1,6 млрд на навчання своєї великої мовної моделі R1, яка має здатність до мислення, попри те, що раніше повідомлялося про значно менші витрати — всього $6 млн. Про це йдеться у звіті аналітичної компанії SemiAnalysis.

Вартість навчання моделі DeepSeek-R1 стала предметом активних обговорень, оскільки стартап досяг рівня компанії OpenAI, витративши значно менше коштів. Згідно з інформацією аналітиків, DeepSeek використовує близько 50 тисяч чипів Hopper від NVIDIA, а також очікує постачання ще 10 тисяч таких чипів.

Через американські експортні обмеження на технології для Китаю стартап змушений застосовувати не лише чипи H100, які до появи BlackWell вважалися лідерами в галузі, а й менш потужні чипи H800, а також спеціально розроблені для китайського ринку H20 та A100.

Серед використовуваних чипів найбільшу частку займають H20 — близько 30 тисяч, з урахуванням додаткових замовлень. Також у розпорядженні компанії перебуває приблизно по 10 тисяч чипів H100, H800 та A100.