Нвидиа сошла с ума! Последовательные инвестиции в три единорога с генеративным искусственным интеллектом, а также один ремень для управления 5-нм производственными мощностями TSMC.
Новости Xinshi от 30 июня, будь то первая половина этого года или эта неделя, Nvidia - большой победитель.
В новой волне бума искусственного интеллекта, вызванного генеративным ИИ, Nvidia стала одной из самых популярных акций.** Цена акций выросла на 185% в этом году, а рыночная стоимость превысила 1 триллион долларов США. генеративный ИИ и большие модели Лидерство в аппаратной гонке за исследованиями и разработками**.
** Что касается инвестиций в стартапы в сфере генеративного ИИ, то ощущение присутствия Nvidia становится все труднее игнорировать. ** В этот четверг американский стартап чат-ботов Inflection AI объявил, что получил новое финансирование в размере 1,3 миллиарда долларов, а его оценка выросла примерно до 4 миллиардов долларов; Runway, американский видеостартап, основанный на искусственном интеллекте, объявил о завершении финансирования в размере 141 миллиона долларов. в новом финансировании, с оценкой, поднимающейся до $4 миллиардов Около $1,5 миллиардов. ** Nvidia входит в число инвесторов обоих проектов. **
По данным исследовательской компании TrendForce, Nvidia, как ожидается, заменит Qualcomm в качестве крупнейшей в мире компании по разработке чипов во втором квартале 2023 года, поскольку внедрение чипов, связанных с ИИ, стимулирует рост доходов. **
С одной стороны, прием заказов на рынке ИИ-чипов мягок, а с другой стороны, он вкладывает большие средства в генеративный трек ИИ.Выдача желаемого за действительное AI от Nvidia становится все громче и громче.
01. Последовательные инвестиции в генеративные ИИ-единороги, молниеносное расширение Nvidia территории инвестиций в ИИ
Два последних единорога генеративного ИИ, в которых Nvidia участвовала в инвестициях — Inflection AI, крупномасштабный стартап языковой модели, который создал продукты, подобные ChatGPT, и запуск программного обеспечения для редактирования видео ИИ, которое позволяет пользователям легко создавать короткие видеоролики, вводя текст * Подиум*, эти двое собрали очень сильную звездную инвестиционную линейку.
Помимо Nvidia, новый раунд финансирования Inflection AI также получил соучредитель LinkedIn Рейд Хоффман, соучредитель Microsoft Билл Гейтс, бывший генеральный директор Google Эрик Шмидт и другие технологические гиганты. вливание капитала большого босса. В число последних финансовых инвесторов Runway входят Google, Salesforce и другие технологические гиганты с совокупным финансированием около 237 миллионов долларов США.
Ранее, 9 июня этого года, Cohere, канадская стартап-компания в области искусственного интеллекта, которая также работает над чат-ботами, подобными ChatGPT, объявила о завершении финансирования серии C в размере 270 миллионов долларов США при оценке около 2,2 долларов США. млрд. Nvidia,* Oracle*, Salesforce и т. д. — все они участвовали в этом раунде финансирования.
Особо стоит отметить, что компания Inflection AI, соучредителем которой является соучредитель DeepMind Мустафа Сулейман и занимавшая пост генерального директора в 2022 году, получила большое количество предложений после запуска чат-бота Pi, а затем получила такое же высокое финансирование, и Nvidia единственный новый инвестор в этом раунде. На данный момент эта компания-единорог превзошла Cohere, став третьим по величине в мире единорогом генеративного ИИ после OpenAI и Anthropic по оценке.
Inflection AI недавно запустила свою первую проприетарную языковую модель Inflection-1, которая, по ее словам, была обучена с использованием тысяч Nvidia H100 на очень больших наборах данных, с производительностью, сравнимой с GPT-3.5, Chinchilla и PaLM-540B.
02. 11 минут на обучение GPT-3, графический процессор Nvidia лидирует в тесте производительности большой модели
Inflection AI работает с NVIDIA над созданием одного из крупнейших в мире кластеров графических процессоров для обучения больших моделей ИИ. Благодаря партнерству с Nvidia и поставщиком облачных услуг CoreWeave его суперкомпьютер будет расширен за счет включения 22 000 H100, что намного превышает 16 000 A100 суперкомпьютерного кластера Meta RSC.
CoreWeave, основанная в 2017 году, утверждает, что предлагает вычислительную мощность «до 80% дешевле, чем у традиционных облачных провайдеров». Nvidia ранее инвестировала 100 миллионов долларов в CoreWeave. Согласно сообщениям зарубежных СМИ в июне этого года, Microsoft согласилась инвестировать миллиарды долларов в CoreWeave в ближайшие несколько лет для построения инфраструктуры облачных вычислений.
В последнем авторитетном эталонном тесте производительности ИИ MLPerf, NVIDIA и CoreWeave совместно создали кластер с 3584 процессорами H100. Обучение крупномасштабной языковой модели GPT-3 заняло менее 11 минут.
▲Производительность Nvidia H100 в последнем тренировочном тесте GPT-3.
Неудивительно, что Nvidia продолжает доминировать в тестах благодаря своему флагманскому вычислительному чипу H100 GPU.
▲Производительность Nvidia H100 в 8 тестах производительности MLPerf
В последнюю версию MLPerf training 3.0 был добавлен бенчмарк-тест для больших моделей GPT-3, а NVIDIA и Intel стали единственными двумя участниками. Nvidia установила самый быстрый рекорд обучения GPT-3 с 3584 графическими процессорами, а чип Intel AI Habana Gaudi2 продемонстрировал свою конкурентоспособность с точки зрения простоты использования и экономической эффективности, запустив GPT-3 на меньшей системе, включая 384 Gaudi2. Общее время обучения на чипа составляет более 5 часов, а общее время обучения на 256 чипах Gaudi2 составляет более 7 часов.
▲Сравнение результатов тренировочного эталонного теста GPT-3, темно-красная легенда — Nvidia H100, а светло-красная — Intel Gaudi2 (Источник: IEEE Spectrum)
В некоторых тестах производительность обучения Gaudi2 превосходит производительность графического процессора Nvidia A100. Intel также планирует еще больше сократить разрыв между Gaudi2 и H100 за счет оптимизации программного обеспечения.В сентябре компания выпустит поддержку программного обеспечения и новые функции для FP8 и прогнозирует, что Gaudi2 превзойдет H100 с точки зрения производительности и стоимости. Еще одна AMD, считающаяся сильным конкурентом Nvidia, не представила результатов тестирования.
▲ Gaudi2 использует 4 модели с производительностью выше A100 (Источник: Intel)
Результаты теста MLPerf публикуются MLCommons. По словам Дэвида Кантера, исполнительного директора MLCommons, GPT-3 является наиболее требовательным к вычислительным ресурсам тестом MLPerf, и большинство тестовых сетей в MLPerf могут работать на одном процессоре, но для GPT-3 требуется как минимум 64 процессора.
**03.Гонка вооружений для крупномасштабных моделей ИИ накаляется, а спрос на чипы ИИ с большой вычислительной мощностью стремительно растет
Технологические компании активно интегрируют ИИ в свои продукты и услуги, а инвесторы с энтузиазмом вкладывают средства в генеративные стартапы ИИ.Очевидно, что никто не хочет упустить эту волну потенциальных исторических возможностей роста из-за отсталой скорости вычислений.
Буквально на этой неделе произошло крупнейшее приобретение генеративного ИИ в стране и за рубежом: американский суперединорог больших данных Databricks согласился приобрести MosaicML, крупный стартап по моделированию американского языка, за 1,3 миллиарда долларов (около 9,4 миллиарда юаней) и американскую компанию Tuan. вчера объявила о приобретении Light Years Beyond, крупномасштабного модельного стартапа, основанного соучредителем Meituan Ван Хуэйвэнем, за 2,065 млрд юаней.
**Обучение генеративных моделей искусственного интеллекта неотделимо от дорогостоящих вычислительных чипов центра обработки данных. На фоне ожесточенной гонки вооружений крупномасштабных моделей рыночный спрос на ИИ-чипы с большой вычислительной мощностью продолжает расти. В настоящее время есть только один настоящий чип-победитель для обучения больших моделей ИИ — Nvidia. **
В ноябре прошлого года Oracle объявила о закупке десятков тысяч компьютеров A100 и H100 для строительства нового вычислительного центра. Google анонсировала A3, суперкомпьютер с искусственным интеллектом с 26 000 H100, на своей конференции разработчиков ввода-вывода в мае этого года. На этой неделе иностранные СМИ сообщили, что Oracle тратит миллиарды долларов на покупку чипов Nvidia для расширения услуг облачных вычислений для новой волны ИИ.
Сможет ли Nvidia продолжать выигрывать в будущем, тесно связано с китайским рынком. Согласно финансовому отчету, доходы от материкового Китая и Гонконга составили 22% доходов Nvidia в прошлом году. Согласно сообщениям «LatePost», после Весеннего фестиваля в этом году крупные интернет-компании Китая, занимающиеся облачными вычислениями, разместили у Nvidia крупные заказы. Для Nvidia был размещен заказ уровня Wanka, и его стоимость оценивается в более чем 1 миллиард долларов. юаней по прейскуранту. Только Byte, возможно, разместила в этом году заказы, близкие к общему количеству коммерческих графических процессоров, проданных Nvidia в Китае в прошлом году. За исключением новых заказов этого года, общее количество Byte A100 и его предшественника V100 приближается к 100 000 юаней; общее количество A100 и H800, которые были доставлены и еще не поступили, составляет 100 000 юаней.
После того, как на этой неделе появились слухи о том, что Министерство торговли США рассматривает возможность введения дополнительных ограничений на экспорт Nvidia A800 и H800 в Китай, главный финансовый директор Nvidia Колетт Кресс предупредила: крупнейших рынках мира и повлияет на наши будущие деловые и финансовые показатели».
**04.Вывод: мы всего в одном шаге от достижения вершины крупнейшей в мире компании по разработке чипов
Независимо от производительности продукта, новых заказов, прогресса в производительности, показателей фондового рынка, экологического расширения или схемы инвестиций, Nvidia уже заметно выиграла.
25 мая Nvidia опубликовала свой финансовый отчет за первый квартал 2024 финансового года, в котором она достигла выручки в размере 7,19 млрд долларов США за один квартал и прогнозировала, что ее выручка во втором квартале достигнет 11,00 млрд долларов США. 12 июня, согласно сообщениям тайваньских СМИ, в связи с увеличением заказов на чипы Nvidia AI, коэффициент использования передового процесса TSMC значительно увеличился, а коэффициент использования 5-нм производственных мощностей увеличился с более чем 50% до 70%. 80%.
Согласно данным, недавно опубликованным организацией по исследованию рынка TrendForce, благодаря взрывному спросу на генеративный ИИ и мощность облачных вычислений, а также запуску новых продуктов серии GeForce RTX 40, выручка Nvidia в первом квартале 2023 года увеличится на 13,5% по сравнению с США. $6,73 млрд. Доля рынка чип-дизайна увеличилась до 19,9%.
▲ Рейтинг десяти ведущих мировых компаний по разработке микросхем в первом квартале 2023 года, единица измерения: млн долларов США (Источник: TrendForce)
TrendForce прогнозирует, что из-за внедрения чипов, связанных с ИИ, которые стимулируют рост доходов, темпы роста очевидны.Ожидается, что во втором квартале 2023 года Nvidia заменит Qualcomm и станет крупнейшей в мире компанией по разработке чипов без фабрик.
На фоне того, что Nvidia стала крупнейшим бенефициаром эпохи генеративного ИИ, чиповые гиганты, такие как Intel и AMD, присматриваются, пытаясь разделить рынок вычислений ИИ с помощью совместной оптимизации программного и аппаратного обеспечения. В то же время в центре внимания отрасли также стал вопрос о том, смогут ли отечественные производители чипов искусственного интеллекта поймать эту волну крупных дивидендов по обучению моделей и развертыванию.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Нвидиа сошла с ума! Последовательные инвестиции в три единорога с генеративным искусственным интеллектом, а также один ремень для управления 5-нм производственными мощностями TSMC.
Оригинальный источник: основные вещи
Новости Xinshi от 30 июня, будь то первая половина этого года или эта неделя, Nvidia - большой победитель.
В новой волне бума искусственного интеллекта, вызванного генеративным ИИ, Nvidia стала одной из самых популярных акций.** Цена акций выросла на 185% в этом году, а рыночная стоимость превысила 1 триллион долларов США. генеративный ИИ и большие модели Лидерство в аппаратной гонке за исследованиями и разработками**.
** Что касается инвестиций в стартапы в сфере генеративного ИИ, то ощущение присутствия Nvidia становится все труднее игнорировать. ** В этот четверг американский стартап чат-ботов Inflection AI объявил, что получил новое финансирование в размере 1,3 миллиарда долларов, а его оценка выросла примерно до 4 миллиардов долларов; Runway, американский видеостартап, основанный на искусственном интеллекте, объявил о завершении финансирования в размере 141 миллиона долларов. в новом финансировании, с оценкой, поднимающейся до $4 миллиардов Около $1,5 миллиардов. ** Nvidia входит в число инвесторов обоих проектов. **
По данным исследовательской компании TrendForce, Nvidia, как ожидается, заменит Qualcomm в качестве крупнейшей в мире компании по разработке чипов во втором квартале 2023 года, поскольку внедрение чипов, связанных с ИИ, стимулирует рост доходов. **
С одной стороны, прием заказов на рынке ИИ-чипов мягок, а с другой стороны, он вкладывает большие средства в генеративный трек ИИ.Выдача желаемого за действительное AI от Nvidia становится все громче и громче.
01. Последовательные инвестиции в генеративные ИИ-единороги, молниеносное расширение Nvidia территории инвестиций в ИИ
Два последних единорога генеративного ИИ, в которых Nvidia участвовала в инвестициях — Inflection AI, крупномасштабный стартап языковой модели, который создал продукты, подобные ChatGPT, и запуск программного обеспечения для редактирования видео ИИ, которое позволяет пользователям легко создавать короткие видеоролики, вводя текст * Подиум*, эти двое собрали очень сильную звездную инвестиционную линейку.
Помимо Nvidia, новый раунд финансирования Inflection AI также получил соучредитель LinkedIn Рейд Хоффман, соучредитель Microsoft Билл Гейтс, бывший генеральный директор Google Эрик Шмидт и другие технологические гиганты. вливание капитала большого босса. В число последних финансовых инвесторов Runway входят Google, Salesforce и другие технологические гиганты с совокупным финансированием около 237 миллионов долларов США.
Ранее, 9 июня этого года, Cohere, канадская стартап-компания в области искусственного интеллекта, которая также работает над чат-ботами, подобными ChatGPT, объявила о завершении финансирования серии C в размере 270 миллионов долларов США при оценке около 2,2 долларов США. млрд. Nvidia,* Oracle*, Salesforce и т. д. — все они участвовали в этом раунде финансирования.
Особо стоит отметить, что компания Inflection AI, соучредителем которой является соучредитель DeepMind Мустафа Сулейман и занимавшая пост генерального директора в 2022 году, получила большое количество предложений после запуска чат-бота Pi, а затем получила такое же высокое финансирование, и Nvidia единственный новый инвестор в этом раунде. На данный момент эта компания-единорог превзошла Cohere, став третьим по величине в мире единорогом генеративного ИИ после OpenAI и Anthropic по оценке.
Inflection AI недавно запустила свою первую проприетарную языковую модель Inflection-1, которая, по ее словам, была обучена с использованием тысяч Nvidia H100 на очень больших наборах данных, с производительностью, сравнимой с GPT-3.5, Chinchilla и PaLM-540B.
02. 11 минут на обучение GPT-3, графический процессор Nvidia лидирует в тесте производительности большой модели
Inflection AI работает с NVIDIA над созданием одного из крупнейших в мире кластеров графических процессоров для обучения больших моделей ИИ. Благодаря партнерству с Nvidia и поставщиком облачных услуг CoreWeave его суперкомпьютер будет расширен за счет включения 22 000 H100, что намного превышает 16 000 A100 суперкомпьютерного кластера Meta RSC.
CoreWeave, основанная в 2017 году, утверждает, что предлагает вычислительную мощность «до 80% дешевле, чем у традиционных облачных провайдеров». Nvidia ранее инвестировала 100 миллионов долларов в CoreWeave. Согласно сообщениям зарубежных СМИ в июне этого года, Microsoft согласилась инвестировать миллиарды долларов в CoreWeave в ближайшие несколько лет для построения инфраструктуры облачных вычислений.
В последнем авторитетном эталонном тесте производительности ИИ MLPerf, NVIDIA и CoreWeave совместно создали кластер с 3584 процессорами H100. Обучение крупномасштабной языковой модели GPT-3 заняло менее 11 минут.
Неудивительно, что Nvidia продолжает доминировать в тестах благодаря своему флагманскому вычислительному чипу H100 GPU.
В последнюю версию MLPerf training 3.0 был добавлен бенчмарк-тест для больших моделей GPT-3, а NVIDIA и Intel стали единственными двумя участниками. Nvidia установила самый быстрый рекорд обучения GPT-3 с 3584 графическими процессорами, а чип Intel AI Habana Gaudi2 продемонстрировал свою конкурентоспособность с точки зрения простоты использования и экономической эффективности, запустив GPT-3 на меньшей системе, включая 384 Gaudi2. Общее время обучения на чипа составляет более 5 часов, а общее время обучения на 256 чипах Gaudi2 составляет более 7 часов.
В некоторых тестах производительность обучения Gaudi2 превосходит производительность графического процессора Nvidia A100. Intel также планирует еще больше сократить разрыв между Gaudi2 и H100 за счет оптимизации программного обеспечения.В сентябре компания выпустит поддержку программного обеспечения и новые функции для FP8 и прогнозирует, что Gaudi2 превзойдет H100 с точки зрения производительности и стоимости. Еще одна AMD, считающаяся сильным конкурентом Nvidia, не представила результатов тестирования.
Результаты теста MLPerf публикуются MLCommons. По словам Дэвида Кантера, исполнительного директора MLCommons, GPT-3 является наиболее требовательным к вычислительным ресурсам тестом MLPerf, и большинство тестовых сетей в MLPerf могут работать на одном процессоре, но для GPT-3 требуется как минимум 64 процессора.
**03.Гонка вооружений для крупномасштабных моделей ИИ накаляется, а спрос на чипы ИИ с большой вычислительной мощностью стремительно растет
Технологические компании активно интегрируют ИИ в свои продукты и услуги, а инвесторы с энтузиазмом вкладывают средства в генеративные стартапы ИИ.Очевидно, что никто не хочет упустить эту волну потенциальных исторических возможностей роста из-за отсталой скорости вычислений.
Буквально на этой неделе произошло крупнейшее приобретение генеративного ИИ в стране и за рубежом: американский суперединорог больших данных Databricks согласился приобрести MosaicML, крупный стартап по моделированию американского языка, за 1,3 миллиарда долларов (около 9,4 миллиарда юаней) и американскую компанию Tuan. вчера объявила о приобретении Light Years Beyond, крупномасштабного модельного стартапа, основанного соучредителем Meituan Ван Хуэйвэнем, за 2,065 млрд юаней.
**Обучение генеративных моделей искусственного интеллекта неотделимо от дорогостоящих вычислительных чипов центра обработки данных. На фоне ожесточенной гонки вооружений крупномасштабных моделей рыночный спрос на ИИ-чипы с большой вычислительной мощностью продолжает расти. В настоящее время есть только один настоящий чип-победитель для обучения больших моделей ИИ — Nvidia. **
В ноябре прошлого года Oracle объявила о закупке десятков тысяч компьютеров A100 и H100 для строительства нового вычислительного центра. Google анонсировала A3, суперкомпьютер с искусственным интеллектом с 26 000 H100, на своей конференции разработчиков ввода-вывода в мае этого года. На этой неделе иностранные СМИ сообщили, что Oracle тратит миллиарды долларов на покупку чипов Nvidia для расширения услуг облачных вычислений для новой волны ИИ.
Сможет ли Nvidia продолжать выигрывать в будущем, тесно связано с китайским рынком. Согласно финансовому отчету, доходы от материкового Китая и Гонконга составили 22% доходов Nvidia в прошлом году. Согласно сообщениям «LatePost», после Весеннего фестиваля в этом году крупные интернет-компании Китая, занимающиеся облачными вычислениями, разместили у Nvidia крупные заказы. Для Nvidia был размещен заказ уровня Wanka, и его стоимость оценивается в более чем 1 миллиард долларов. юаней по прейскуранту. Только Byte, возможно, разместила в этом году заказы, близкие к общему количеству коммерческих графических процессоров, проданных Nvidia в Китае в прошлом году. За исключением новых заказов этого года, общее количество Byte A100 и его предшественника V100 приближается к 100 000 юаней; общее количество A100 и H800, которые были доставлены и еще не поступили, составляет 100 000 юаней.
После того, как на этой неделе появились слухи о том, что Министерство торговли США рассматривает возможность введения дополнительных ограничений на экспорт Nvidia A800 и H800 в Китай, главный финансовый директор Nvidia Колетт Кресс предупредила: крупнейших рынках мира и повлияет на наши будущие деловые и финансовые показатели».
**04.Вывод: мы всего в одном шаге от достижения вершины крупнейшей в мире компании по разработке чипов
Независимо от производительности продукта, новых заказов, прогресса в производительности, показателей фондового рынка, экологического расширения или схемы инвестиций, Nvidia уже заметно выиграла.
25 мая Nvidia опубликовала свой финансовый отчет за первый квартал 2024 финансового года, в котором она достигла выручки в размере 7,19 млрд долларов США за один квартал и прогнозировала, что ее выручка во втором квартале достигнет 11,00 млрд долларов США. 12 июня, согласно сообщениям тайваньских СМИ, в связи с увеличением заказов на чипы Nvidia AI, коэффициент использования передового процесса TSMC значительно увеличился, а коэффициент использования 5-нм производственных мощностей увеличился с более чем 50% до 70%. 80%.
Согласно данным, недавно опубликованным организацией по исследованию рынка TrendForce, благодаря взрывному спросу на генеративный ИИ и мощность облачных вычислений, а также запуску новых продуктов серии GeForce RTX 40, выручка Nvidia в первом квартале 2023 года увеличится на 13,5% по сравнению с США. $6,73 млрд. Доля рынка чип-дизайна увеличилась до 19,9%.
TrendForce прогнозирует, что из-за внедрения чипов, связанных с ИИ, которые стимулируют рост доходов, темпы роста очевидны.Ожидается, что во втором квартале 2023 года Nvidia заменит Qualcomm и станет крупнейшей в мире компанией по разработке чипов без фабрик.
На фоне того, что Nvidia стала крупнейшим бенефициаром эпохи генеративного ИИ, чиповые гиганты, такие как Intel и AMD, присматриваются, пытаясь разделить рынок вычислений ИИ с помощью совместной оптимизации программного и аппаратного обеспечения. В то же время в центре внимания отрасли также стал вопрос о том, смогут ли отечественные производители чипов искусственного интеллекта поймать эту волну крупных дивидендов по обучению моделей и развертыванию.