Новини Xinshi 30 червня, чи це перша половина цього року, чи цей тиждень, Nvidia є великим переможцем.
На новій хвилі буму штучного інтелекту, спричиненого генеративним штучним інтелектом, Nvidia стала однією з найпопулярніших акцій.** Ціна акцій цього року злетіла на 185%, а ринкова вартість перевищила 1 трильйон доларів США. Це підтримує генеративний штучний інтелект і великі моделі Лідерство в гонці апаратного забезпечення для досліджень і розробок**.
** У зв’язку з інвестиціями в генеративні стартапи зі штучним інтелектом відчуття присутності Nvidia стає все складніше ігнорувати. ** Цього четверга Inflection AI, американський стартап чат-ботів зі штучним інтелектом, оголосив, що він отримав 1,3 мільярда доларів США у вигляді нового фінансування, а оцінка зросла приблизно до 4 мільярдів доларів США; Runway, американський відео-стартап на основі штучного інтелекту, оголосив про завершення інвестицій у 141 мільйон доларів США. у новому фінансуванні з підвищенням оцінки до 4 мільярдів доларів. Приблизно 1,5 мільярда доларів. ** Nvidia є серед інвесторів обох фінансувань. **
За даними дослідницької фірми TrendForce, очікується, що Nvidia замінить Qualcomm як найбільшу в світі компанію з розробки чіпів у другому кварталі 2023 року, оскільки розгортання чіпів, пов’язаних зі штучним інтелектом, стимулює зростання доходів. **
З одного боку, отримання замовлень на ринку чіпів штучного інтелекту є м’яким, а з іншого боку, він інвестує значні кошти в генеративний шлях штучного інтелекту.Nvidia видає бажане за дійсне ШІ стає все голоснішим і голоснішим.
01. Послідовні інвестиції в генеративних єдинорогів штучного інтелекту, блискавичне розширення Nvidia території інвестицій у штучний інтелект
Два останніх генеративних штучних єдинорога від Nvidia – Inflection AI, широкомасштабна модель мовної моделі, яка створює продукти, схожі на ChatGPT, і програмне забезпечення для редагування відео зі штучним інтелектом, яке дозволяє користувачам легко створювати короткі відео, вводячи текст Runway, обидва з цих двох зібрали дуже сильну зіркову інвестиційну лінійку.
Окрім Nvidia, новий раунд фінансування Inflection AI також виграв співзасновника LinkedIn Рейда Хоффмана, співзасновника Microsoft Білла Гейтса, колишнього генерального директора Google Еріка Шмідта та інших технологічних гігантів. вливання капіталу великого боса. Серед останніх фінансових інвесторів Runway — Google, Salesforce та інші технологічні гіганти, загальна сума фінансування яких становить близько 237 мільйонів доларів США.
Раніше, 9 червня цього року, Cohere, канадська стартап-компанія зі штучним інтелектом, яка також працює над чат-ботами, схожими на ChatGPT, оголосила про завершення фінансування серії C у розмірі 270 мільйонів доларів США з оцінкою приблизно 2,2 долара США. Nvidia,* Oracle*, Salesforce тощо взяли участь у цьому раунді фінансування.
Особливо варто зазначити, що компанія Inflection AI, співзасновником якої є співзасновник DeepMind Мустафа Сулейман і працював генеральним директором у 2022 році, отримала велику кількість пропозицій після запуску чат-бота Pi, а потім отримала таке високе фінансування, і Nvidia є єдиний новий інвестор у цьому раунді. Наразі ця компанія-єдиноріг перевершила Cohere, ставши третім у світі генеративним єдинорогом штучного інтелекту після OpenAI та Anthropic за оцінкою.
Inflection AI нещодавно запустив свою першу пропрієтарну мовну модель Inflection-1, яка, за його словами, була навчена за допомогою тисяч Nvidia H100 на дуже великих наборах даних, з продуктивністю, порівнянною з GPT-3.5, Chinchilla та еквівалентом PaLM -540B.
02. 11 хвилин на тренування GPT-3, графічний процесор Nvidia домінує в тесті бенчмарку великої моделі
Inflection AI співпрацює з NVIDIA над створенням одного з найбільших у світі кластерів GPU для навчання великих моделей AI. Завдяки партнерству з Nvidia та постачальником хмарних послуг CoreWeave його суперкомп’ютер буде розширено за рахунок 22 000 H100, що значно перевищує 16 000 A100 суперкомп’ютерного кластера Meta RSC.
Заснована в 2017 році компанія CoreWeave стверджує, що пропонує обчислювальну потужність «до 80% дешевше, ніж традиційні хмарні постачальники». Раніше Nvidia інвестувала 100 мільйонів доларів у CoreWeave. Згідно з повідомленнями іноземних ЗМІ в червні цього року, Microsoft погодилася інвестувати мільярди доларів у CoreWeave протягом наступних кількох років для будівництва інфраструктури хмарних обчислень.
В останньому авторитетному тесті продуктивності ШІ MLPerf, NVIDIA і CoreWeave спільно створили кластер із 3584 H100. На навчання великомасштабної мовної моделі GPT-3 знадобилося менше 11 хвилин.
▲Продуктивність Nvidia H100 в останньому GPT-3 контрольному тесті навчання
Не дивно, що Nvidia продовжує домінувати в тестах зі своїм флагманським обчислювальним чіпом H100 GPU.
▲Продуктивність Nvidia H100 у 8 порівняльних тестах MLPerf
Останнє навчання MLPerf 3.0 додало тест GPT-3 для великої моделі, і NVIDIA та Intel стали єдиними учасниками. Nvidia встановила рекорд найшвидшого навчання GPT-3 із 3584 графічним процесором, а чіп Intel AI Habana Gaudi2 продемонстрував свою конкурентоспроможність з точки зору простоти використання та економічності, запустивши GPT-3 на меншій системі, включаючи 384 Gaudi2. Загальний час навчання на чіп більше 5 годин, а загальний час навчання на 256 чіпах Gaudi2 більше 7 годин.
▲Порівняння результатів порівняльного тесту навчання GPT-3, темно-червона легенда — Nvidia H100, світло-червона — Intel Gaudi2 (Джерело: IEEE Spectrum)
У деяких тестах продуктивність навчання Gaudi2 перевищує продуктивність GPU Nvidia A100. Intel також планує ще більше скоротити розрив між Gaudi2 і H100 за допомогою оптимізації програмного забезпечення.У вересні вона випустить підтримку програмного забезпечення та нові функції для FP8 і прогнозує, що Gaudi2 перевершить H100 за продуктивністю та економічністю. Ще одна AMD, яка вважається сильним конкурентом Nvidia, не надала результати тестів.
▲ Gaudi2 використовує 4 моделі з продуктивністю, що перевищує A100 (Джерело: Intel)
Результати тесту MLPerf публікує MLCommons. За словами Девіда Кантера, виконавчого директора MLCommons, GPT-3 є найбільш вимогливим до обчислень серед тестів MLPerf, і більшість мереж тестів у MLPerf можуть працювати на одному процесорі, але GPT-3 вимагає щонайменше 64 процесорів.
**03.Гонка озброєнь великомасштабних моделей штучного інтелекту набирає обертів, і попит на мікросхеми ШІ з великою обчислювальною потужністю стрімко зростає
Технологічні компанії активно інтегрують штучний інтелект у свої продукти та послуги, а інвестори з ентузіазмом інвестують у генеративні стартапи штучного інтелекту. Очевидно, що ніхто не хоче пропустити цю хвилю потенційних історичних можливостей зростання через зворотну швидкість обчислень.
Лише цього тижня відбулося найбільше придбання генеративного штучного інтелекту вдома та за кордоном: американський суперєдиноріг з великими даними Databricks погодився придбати MosaicML, великий американський стартап з мовної моделі, за 1,3 мільярда доларів (приблизно 9,4 мільярда юанів) і американський Tuan. вчора оголосила про придбання Light Years Beyond, великомасштабного модельного стартапу, заснованого співзасновником Meituan Ван Хуйвенем, за 2,065 мільярда юанів.
**Навчання генеративних моделей штучного інтелекту невіддільне від дорогих обчислювальних мікросхем центрів обробки даних. На тлі запеклої гонки озброєнь великомасштабних моделей ринковий попит на чіпи ШІ з великою обчислювальною потужністю продовжує зростати. Наразі є лише один справжній переможець чіпа для навчання великих моделей штучного інтелекту – Nvidia. **
У листопаді минулого року Oracle оголосила про закупівлю десятків тисяч A100 і H100 для будівництва нового обчислювального центру. Google анонсувала A3, суперкомп’ютер зі штучним інтелектом із 26 000 H100, на своїй конференції розробників введення/виведення в травні цього року. Цього тижня іноземні ЗМІ повідомили, що Oracle витрачає мільярди доларів на придбання чіпів Nvidia для розширення хмарних обчислювальних послуг для нової хвилі ШІ.
Чи зможе Nvidia продовжувати перемагати в майбутньому, тісно пов’язано з китайським ринком. Згідно з фінансовим звітом, дохід від материкового Китаю та Гонконгу становив 22% доходу Nvidia минулого року. Згідно з повідомленнями "LatePost", після фестивалю весни цього року великі інтернет-компанії Китаю, які займаються хмарними обчисленнями, розмістили великі замовлення в Nvidia. Для Nvidia було розміщено замовлення рівня Wanka, вартість якого оцінюється в понад 1 мільярд юань на основі прейскурантної ціни. Один тільки Byte, можливо, розмістив замовлення цього року близько до загальної кількості комерційних графічних процесорів Nvidia, проданих у Китаї минулого року. Без урахування нових замовлень цього року загальна кількість Byte A100 і його попередника V100 наближається до 100 000 юанів; загальна кількість A100 і H800, які Byte надійшов і не надійшов, становить 100 000 юанів.
Після того, як цього тижня з’явилися чутки про те, що Міністерство торгівлі США розглядає подальші обмеження на експорт Nvidia A800 і H800 до Китаю, головний фінансовий директор Nvidia Колетт Кресс попередила: , це призведе до того, що промисловість США остаточно втратить можливість конкурувати та лідирувати в одному з найбільших ринків у світі та вплине на наш майбутній бізнес і фінансові показники».
**04.Висновок: це лише крок до досягнення вершини найбільшої у світі компанії з розробки мікросхем
Незалежно від продуктивності продукту, нових замовлень, прогресу продуктивності, показників фондового ринку, екологічного розширення чи планування інвестицій, Nvidia вже виграла, помітно неозброєним оком.
25 травня Nvidia опублікувала свій фінансовий звіт за перший квартал 2024 фінансового року, в якому вона досягла доходу в розмірі 7,19 мільярда доларів США за один квартал, і передбачила, що її дохід у другому кварталі досягне 11,00 мільярда доларів США. 12 червня, згідно з повідомленнями тайванських ЗМІ, завдяки збільшенню замовлень на чіпи Nvidia AI рівень використання вдосконаленого процесу TSMC значно зріс, а рівень використання виробничих потужностей 5-нм зріс з більш ніж 50% до 70% до 80%.
Відповідно до даних, нещодавно опублікованих дослідницькою організацією TrendForce, завдяки вибуховому попиту на потужність генеративного штучного інтелекту та хмарних обчислень, а також запуску нових продуктів серії GeForce RTX 40, дохід Nvidia у першому кварталі 2023 року зросте на 13,5% у порівнянні зі США. $6,73 млрд. Частка ринку дизайну чіпів зросла до 19,9%.
▲ Рейтинг десяти найкращих світових компаній з розробки чіпів у першому кварталі 2023 року, одиниця: мільйон доларів США (Джерело: TrendForce)
TrendForce прогнозує, що завдяки розгортанню чіпів, пов’язаних зі штучним інтелектом, стимулює зростання доходу, темпи зростання очевидні.Очікується, що у другому кварталі 2023 року Nvidia замінить Qualcomm і стане найбільшою у світі компанією з розробки безфабричних чіпів.
На тлі того, що Nvidia стала найбільшим бенефіціаром ери генеративного штучного інтелекту, такі гіганти чіпів, як Intel і AMD, намагаються поділити ринок обчислень штучного інтелекту за допомогою спільної оптимізації програмного та апаратного забезпечення. Водночас у центрі уваги галузі також опинилося питання про те, чи зможуть вітчизняні компанії-виробники чіпів штучного інтелекту підхопити цю хвилю великих дивідендів від навчання та розгортання моделей.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Nvidia божевільна! Послідовні інвестиції в трьох генеративних штучних єдинорогів, а також один ремінь для польоту на 5-нм виробничій потужності TSMC
Джерело: Core Things
Новини Xinshi 30 червня, чи це перша половина цього року, чи цей тиждень, Nvidia є великим переможцем.
На новій хвилі буму штучного інтелекту, спричиненого генеративним штучним інтелектом, Nvidia стала однією з найпопулярніших акцій.** Ціна акцій цього року злетіла на 185%, а ринкова вартість перевищила 1 трильйон доларів США. Це підтримує генеративний штучний інтелект і великі моделі Лідерство в гонці апаратного забезпечення для досліджень і розробок**.
** У зв’язку з інвестиціями в генеративні стартапи зі штучним інтелектом відчуття присутності Nvidia стає все складніше ігнорувати. ** Цього четверга Inflection AI, американський стартап чат-ботів зі штучним інтелектом, оголосив, що він отримав 1,3 мільярда доларів США у вигляді нового фінансування, а оцінка зросла приблизно до 4 мільярдів доларів США; Runway, американський відео-стартап на основі штучного інтелекту, оголосив про завершення інвестицій у 141 мільйон доларів США. у новому фінансуванні з підвищенням оцінки до 4 мільярдів доларів. Приблизно 1,5 мільярда доларів. ** Nvidia є серед інвесторів обох фінансувань. **
За даними дослідницької фірми TrendForce, очікується, що Nvidia замінить Qualcomm як найбільшу в світі компанію з розробки чіпів у другому кварталі 2023 року, оскільки розгортання чіпів, пов’язаних зі штучним інтелектом, стимулює зростання доходів. **
З одного боку, отримання замовлень на ринку чіпів штучного інтелекту є м’яким, а з іншого боку, він інвестує значні кошти в генеративний шлях штучного інтелекту.Nvidia видає бажане за дійсне ШІ стає все голоснішим і голоснішим.
01. Послідовні інвестиції в генеративних єдинорогів штучного інтелекту, блискавичне розширення Nvidia території інвестицій у штучний інтелект
Два останніх генеративних штучних єдинорога від Nvidia – Inflection AI, широкомасштабна модель мовної моделі, яка створює продукти, схожі на ChatGPT, і програмне забезпечення для редагування відео зі штучним інтелектом, яке дозволяє користувачам легко створювати короткі відео, вводячи текст Runway, обидва з цих двох зібрали дуже сильну зіркову інвестиційну лінійку.
Окрім Nvidia, новий раунд фінансування Inflection AI також виграв співзасновника LinkedIn Рейда Хоффмана, співзасновника Microsoft Білла Гейтса, колишнього генерального директора Google Еріка Шмідта та інших технологічних гігантів. вливання капіталу великого боса. Серед останніх фінансових інвесторів Runway — Google, Salesforce та інші технологічні гіганти, загальна сума фінансування яких становить близько 237 мільйонів доларів США.
Раніше, 9 червня цього року, Cohere, канадська стартап-компанія зі штучним інтелектом, яка також працює над чат-ботами, схожими на ChatGPT, оголосила про завершення фінансування серії C у розмірі 270 мільйонів доларів США з оцінкою приблизно 2,2 долара США. Nvidia,* Oracle*, Salesforce тощо взяли участь у цьому раунді фінансування.
Особливо варто зазначити, що компанія Inflection AI, співзасновником якої є співзасновник DeepMind Мустафа Сулейман і працював генеральним директором у 2022 році, отримала велику кількість пропозицій після запуску чат-бота Pi, а потім отримала таке високе фінансування, і Nvidia є єдиний новий інвестор у цьому раунді. Наразі ця компанія-єдиноріг перевершила Cohere, ставши третім у світі генеративним єдинорогом штучного інтелекту після OpenAI та Anthropic за оцінкою.
Inflection AI нещодавно запустив свою першу пропрієтарну мовну модель Inflection-1, яка, за його словами, була навчена за допомогою тисяч Nvidia H100 на дуже великих наборах даних, з продуктивністю, порівнянною з GPT-3.5, Chinchilla та еквівалентом PaLM -540B.
02. 11 хвилин на тренування GPT-3, графічний процесор Nvidia домінує в тесті бенчмарку великої моделі
Inflection AI співпрацює з NVIDIA над створенням одного з найбільших у світі кластерів GPU для навчання великих моделей AI. Завдяки партнерству з Nvidia та постачальником хмарних послуг CoreWeave його суперкомп’ютер буде розширено за рахунок 22 000 H100, що значно перевищує 16 000 A100 суперкомп’ютерного кластера Meta RSC.
Заснована в 2017 році компанія CoreWeave стверджує, що пропонує обчислювальну потужність «до 80% дешевше, ніж традиційні хмарні постачальники». Раніше Nvidia інвестувала 100 мільйонів доларів у CoreWeave. Згідно з повідомленнями іноземних ЗМІ в червні цього року, Microsoft погодилася інвестувати мільярди доларів у CoreWeave протягом наступних кількох років для будівництва інфраструктури хмарних обчислень.
В останньому авторитетному тесті продуктивності ШІ MLPerf, NVIDIA і CoreWeave спільно створили кластер із 3584 H100. На навчання великомасштабної мовної моделі GPT-3 знадобилося менше 11 хвилин.
Не дивно, що Nvidia продовжує домінувати в тестах зі своїм флагманським обчислювальним чіпом H100 GPU.
Останнє навчання MLPerf 3.0 додало тест GPT-3 для великої моделі, і NVIDIA та Intel стали єдиними учасниками. Nvidia встановила рекорд найшвидшого навчання GPT-3 із 3584 графічним процесором, а чіп Intel AI Habana Gaudi2 продемонстрував свою конкурентоспроможність з точки зору простоти використання та економічності, запустивши GPT-3 на меншій системі, включаючи 384 Gaudi2. Загальний час навчання на чіп більше 5 годин, а загальний час навчання на 256 чіпах Gaudi2 більше 7 годин.
У деяких тестах продуктивність навчання Gaudi2 перевищує продуктивність GPU Nvidia A100. Intel також планує ще більше скоротити розрив між Gaudi2 і H100 за допомогою оптимізації програмного забезпечення.У вересні вона випустить підтримку програмного забезпечення та нові функції для FP8 і прогнозує, що Gaudi2 перевершить H100 за продуктивністю та економічністю. Ще одна AMD, яка вважається сильним конкурентом Nvidia, не надала результати тестів.
Результати тесту MLPerf публікує MLCommons. За словами Девіда Кантера, виконавчого директора MLCommons, GPT-3 є найбільш вимогливим до обчислень серед тестів MLPerf, і більшість мереж тестів у MLPerf можуть працювати на одному процесорі, але GPT-3 вимагає щонайменше 64 процесорів.
**03.Гонка озброєнь великомасштабних моделей штучного інтелекту набирає обертів, і попит на мікросхеми ШІ з великою обчислювальною потужністю стрімко зростає
Технологічні компанії активно інтегрують штучний інтелект у свої продукти та послуги, а інвестори з ентузіазмом інвестують у генеративні стартапи штучного інтелекту. Очевидно, що ніхто не хоче пропустити цю хвилю потенційних історичних можливостей зростання через зворотну швидкість обчислень.
Лише цього тижня відбулося найбільше придбання генеративного штучного інтелекту вдома та за кордоном: американський суперєдиноріг з великими даними Databricks погодився придбати MosaicML, великий американський стартап з мовної моделі, за 1,3 мільярда доларів (приблизно 9,4 мільярда юанів) і американський Tuan. вчора оголосила про придбання Light Years Beyond, великомасштабного модельного стартапу, заснованого співзасновником Meituan Ван Хуйвенем, за 2,065 мільярда юанів.
**Навчання генеративних моделей штучного інтелекту невіддільне від дорогих обчислювальних мікросхем центрів обробки даних. На тлі запеклої гонки озброєнь великомасштабних моделей ринковий попит на чіпи ШІ з великою обчислювальною потужністю продовжує зростати. Наразі є лише один справжній переможець чіпа для навчання великих моделей штучного інтелекту – Nvidia. **
У листопаді минулого року Oracle оголосила про закупівлю десятків тисяч A100 і H100 для будівництва нового обчислювального центру. Google анонсувала A3, суперкомп’ютер зі штучним інтелектом із 26 000 H100, на своїй конференції розробників введення/виведення в травні цього року. Цього тижня іноземні ЗМІ повідомили, що Oracle витрачає мільярди доларів на придбання чіпів Nvidia для розширення хмарних обчислювальних послуг для нової хвилі ШІ.
Чи зможе Nvidia продовжувати перемагати в майбутньому, тісно пов’язано з китайським ринком. Згідно з фінансовим звітом, дохід від материкового Китаю та Гонконгу становив 22% доходу Nvidia минулого року. Згідно з повідомленнями "LatePost", після фестивалю весни цього року великі інтернет-компанії Китаю, які займаються хмарними обчисленнями, розмістили великі замовлення в Nvidia. Для Nvidia було розміщено замовлення рівня Wanka, вартість якого оцінюється в понад 1 мільярд юань на основі прейскурантної ціни. Один тільки Byte, можливо, розмістив замовлення цього року близько до загальної кількості комерційних графічних процесорів Nvidia, проданих у Китаї минулого року. Без урахування нових замовлень цього року загальна кількість Byte A100 і його попередника V100 наближається до 100 000 юанів; загальна кількість A100 і H800, які Byte надійшов і не надійшов, становить 100 000 юанів.
Після того, як цього тижня з’явилися чутки про те, що Міністерство торгівлі США розглядає подальші обмеження на експорт Nvidia A800 і H800 до Китаю, головний фінансовий директор Nvidia Колетт Кресс попередила: , це призведе до того, що промисловість США остаточно втратить можливість конкурувати та лідирувати в одному з найбільших ринків у світі та вплине на наш майбутній бізнес і фінансові показники».
**04.Висновок: це лише крок до досягнення вершини найбільшої у світі компанії з розробки мікросхем
Незалежно від продуктивності продукту, нових замовлень, прогресу продуктивності, показників фондового ринку, екологічного розширення чи планування інвестицій, Nvidia вже виграла, помітно неозброєним оком.
25 травня Nvidia опублікувала свій фінансовий звіт за перший квартал 2024 фінансового року, в якому вона досягла доходу в розмірі 7,19 мільярда доларів США за один квартал, і передбачила, що її дохід у другому кварталі досягне 11,00 мільярда доларів США. 12 червня, згідно з повідомленнями тайванських ЗМІ, завдяки збільшенню замовлень на чіпи Nvidia AI рівень використання вдосконаленого процесу TSMC значно зріс, а рівень використання виробничих потужностей 5-нм зріс з більш ніж 50% до 70% до 80%.
Відповідно до даних, нещодавно опублікованих дослідницькою організацією TrendForce, завдяки вибуховому попиту на потужність генеративного штучного інтелекту та хмарних обчислень, а також запуску нових продуктів серії GeForce RTX 40, дохід Nvidia у першому кварталі 2023 року зросте на 13,5% у порівнянні зі США. $6,73 млрд. Частка ринку дизайну чіпів зросла до 19,9%.
TrendForce прогнозує, що завдяки розгортанню чіпів, пов’язаних зі штучним інтелектом, стимулює зростання доходу, темпи зростання очевидні.Очікується, що у другому кварталі 2023 року Nvidia замінить Qualcomm і стане найбільшою у світі компанією з розробки безфабричних чіпів.
На тлі того, що Nvidia стала найбільшим бенефіціаром ери генеративного штучного інтелекту, такі гіганти чіпів, як Intel і AMD, намагаються поділити ринок обчислень штучного інтелекту за допомогою спільної оптимізації програмного та апаратного забезпечення. Водночас у центрі уваги галузі також опинилося питання про те, чи зможуть вітчизняні компанії-виробники чіпів штучного інтелекту підхопити цю хвилю великих дивідендів від навчання та розгортання моделей.