Подробное объяснение модели Pangu на 6000 слов: может ли она поддерживать другой полюс мирового ИИ?

Huawei продемонстрировала свои «мускулы» в области крупных моделей.

7 июля открылась конференция разработчиков Huawei 2023 (HDC 2023). В программной речи, которая длилась более двух часов во второй половине дня, HUAWEI CLOUD впервые подробно рассказал о развитии большой модели Pangu.Он не только выпустил отраслевую большую модель Pangu 3.0, но также подробно представил основные технические возможности Huawei для разработки крупных моделей.

Большая модель Pangu 3.0 включает в себя трехуровневую структуру «5 + N + X». Три уровня относятся к пяти основным крупным моделям уровня L0, N отраслевым крупным моделям уровня L1 и уровню L2. что позволяет пользователям самостоятельно обучать больше Уточнение модели сцены. Он использует полную многоуровневую развязку, и корпоративные пользователи могут выбрать подходящую крупномасштабную разработку, обновление или тонкую настройку модели в зависимости от своих бизнес-потребностей, чтобы адаптироваться к меняющимся потребностям тысяч отраслей.

Ху Хоукунь, постоянно меняющийся председатель Huawei, заявил на недавней конференции WAIC, что ядром модели развития Huawei является сосредоточение внимания на вычислительной мощности и приложениях**. С одной стороны, это углубление вычислительной мощности и создание мощной вычислительной базы для поддержки развития индустрии искусственного интеллекта в Китае. С другой стороны, необходимо объединить крупномасштабные модели, от крупномасштабных моделей общего назначения до широкомасштабных исследований и инноваций в масштабах всей отрасли, чтобы действительно заставить искусственный интеллект хорошо служить тысячам отраслей и научным исследованиям.

Huawei является одним из первых поставщиков облачных услуг в Китае, развернувших крупномасштабные модели, и выпустила крупномасштабную модель Pangu еще в 2021 году. На пути к разработке крупномасштабных моделей компания Huawei создала облачную платформу вычислительной мощности ИИ на основе Kunpeng и Ascend с нижнего уровня, а также технические возможности, такие как гетерогенная вычислительная архитектура CANN, полносценарная среда ИИ MindSpore, и производственная линия по разработке ИИ ModelArts.

В дополнение к большой модели и базе вычислительной мощности на встрече HUAWEI CLOUD также выделил типичные случаи сочетания большой модели Pangu и конкретных отраслей, включая государственные дела, метеорологию, железные дороги, производство и финансы, а также а также многочисленные обновления и перестройки Huawei.Кейсы применения облачных программных продуктов и услуг.

** Будь то базовые технические возможности, облачная сервисная система с искусственным интеллектом****+ или варианты применения в конкретных отраслях, HUAWEI CLOUD продемонстрировал очень зрелые и систематические бизнес-возможности, которые действительно впечатляют отрасль. **Пока все еще спорят о том, кто такой китайский OpenAI, HUAWEI CLOUD открыл довольно зрелый путь развития крупномасштабных моделей.

Huawei использует собственный опыт, чтобы доказать, что крупномасштабные модели важны, но, что более важно, это использование крупномасштабных моделей для решения болевых точек отраслей и продуктов, для создания продуктов и услуг, которые могут заставить предприятия и пользователей платить и действительно создавать ценность для тысяч отраслей.

01 Крупная модель Pangu 3.0: Архитектура многоуровневой развязки

Развязка — это ключевое слово модели Pangu 3.0, выпущенной сегодня. Это также распространенный призыв отраслевых клиентов, которые действительно использовали большие модели за последние несколько месяцев.

Ведущий поставщик SaaS сказал, выпуская собственное приложение для обновления крупномасштабной модели: «Мы не разрабатываем крупномасштабные модели сами, но в различных бизнес-сценариях, какая крупномасштабная модель хороша, мы берем эту модель». Чтобы иметь возможность переключаться между различными большими моделями, «наша собственная архитектура продукта должна быть независимой от основной большой модели или слабо связанной».

«Дизайн разъединения большой модели Pangu создан на благо всей отрасли». Его суть состоит в том, чтобы отделить различные слои и возможности модели Pangu, позволяя отраслевым пользователям развиваться в соответствии со своими потребностями.

В частности, крупномасштабная модель Pangu 3.0 представляет собой отраслевую серию крупномасштабных моделей, включающую трехуровневую структуру «5+N+X»:

«5» представляет пять основных больших моделей уровня L0: включая естественный язык, зрение, многомодальные модели, модели прогнозирования и научных вычислений, которые обеспечивают и удовлетворяют потребности различных навыков в отраслевых сценариях.

Pangu 3.0 предоставляет клиентам серийные базовые большие модели с 10 миллиардами параметров, 38 миллиардами параметров, 71 миллиардом параметров и 100 миллиардами параметров, что соответствует разнообразным потребностям клиентов в различных сценариях, с разными задержками и разной скоростью отклика. В то же время он предоставляет новый набор возможностей, включая ответы на вопросы о знаниях, генерацию копий и генерацию кода для больших моделей НЛП, а также генерацию изображений и понимание изображений для мультимодальных больших моделей.Эти навыки можно использовать напрямую. клиентами и компаниями-партнерами. Независимо от размера большой модели, Pangu предоставляет постоянный набор возможностей.

Буква N в трехуровневой структуре "5+N+X" представляет N крупных отраслевых моделей на уровне L1. Существует два способа предоставления отраслевых крупных моделей: с одной стороны, HUAWEI CLOUD может предоставлять общие отраслевые крупные модели, обученные с использованием общедоступных отраслевых данных, включая государственные, финансовые, производственные, горнодобывающие, погодные и другие крупные модели; с другой стороны, он может быть основан на отраслевых клиентах. Используя собственные данные на уровнях L0 и L1 большой модели Pangea, он обучает собственную собственную большую модель для клиентов.

Чжан Пинган сказал: «Pangu был создан, чтобы служить отрасли, предоставляя различные формы развертывания, разработки и рассуждений крупномасштабных моделей. нужно только ввести свои собственные личные данные.» Более того, обучающие данные также отделены от большой модели.

X в «5+N+X» означает, что уровень L2 предоставляет клиентам более подробные модели сцены, уделяя больше внимания горячим линиям по делам правительства, сетевым помощникам, ведущему скринингу на наркотики, обнаружению посторонних предметов на конвейерных лентах и тайфуну. пути Предоставьте клиентам готовые модели услуг для конкретных отраслевых приложений или конкретных бизнес-сценариев, таких как прогнозирование.

С помощью трехуровневой большой модели «**5+N+X» компания HUAWEI CLOUD создала собственную базу больших моделей.

На вчерашней Всемирной конференции по искусственному интеллекту Ху Хоукунь, постоянно меняющийся председатель Huawei, живо объяснил: «Самый базовый уровень бенчмаркинга — это общая крупномасштабная модель, которую мы называем базовой крупномасштабной моделью. Наш образ на этом уровне называется чтением». Тысячи книг, которые должны преуспеть. Изучается большое количество базовых знаний. На этом уровне также создаются отраслевые модели и модели сцены, называемые путешествием за тысячи миль. Есть еще много проблем, которые нужно преодолеть, прочитав тысячи книг. к путешествию на тысячи миль.Ключевым моментом является то, что Huawei работает с партнерами из разных отраслей, чтобы полностью сопоставить и интегрировать знания из разных отраслей с большими моделями».

**Кроме того, инновация большой модели — это не только инновация самой модели, но также зависит от инновации различных корневых технологий ИИ. На встрече Яо Цзюнь, директор лаборатории Huawei Noah’s Ark Laboratory, представил техническую базу модели Pangu.

Компания Huawei построила облачную платформу вычислительной мощности ИИ на основе Kunpeng и Ascend на нижнем уровне, а также гетерогенную вычислительную архитектуру CANN, полноценную среду ИИ MindSpore, производственную линию разработки ИИ ModelArts и т. д., чтобы предоставлять распределенные решения для разработки и эксплуатации больших моделей Ключевые возможности, такие как параллельное ускорение, оптимизация операторов и компиляции, а также оптимизация связи на уровне кластера. Благодаря корневой технологии искусственного интеллекта Huawei производительность обучения больших моделей может быть в 1,1 раза выше, чем у обычных графических процессоров в отрасли.

Вычислительная мощность является основой для обучения больших моделей. На этой конференции Чжан Пинань объявил, что облачный сервис Ascend AI с вычислительной мощностью одного кластера 2000P Flops будет запущен одновременно в центрах вычислительной мощности ИИ Huawei Cloud в Уланкабе и Гуйане. Помимо поддержки универсальной среды искусственного интеллекта Huawei Shengsi MindSpore, облачный сервис Shengteng AI также поддерживает основные среды искусственного интеллекта, такие как Pytorch и Tensorflow.

В то же время 90% операторов этих инфраструктур могут быть плавно перенесены на платформу Ascend с помощью инструмента комплексной миграции Huawei. Например, Meitu мигрировала 70 моделей на Ascend всего за 30 дней.При этом HUAWEI CLOUD и команда Meitu совместно оптимизировали более 30 операторов и параллельно ускорили процесс.По сравнению с исходным решением производительность ИИ улучшилась на 30%.

Кроме того, при обучении больших моделей часто возникают сбои графического процессора, и разработчикам приходится часто перезапускать обучение, что занимает много времени и дорого стоит. Облачный сервис Ascend AI может обеспечить более стабильный сервис вычислений AI.Показатель долгосрочной стабильности 30-дневной килокалорийной тренировки достигает 90%, а время восстановления точки останова не превышает 10 минут.

02 Расширение возможностей тысяч отраслей

Жэнь Чжэнфэй ранее сказал: «Прямой вклад компаний с программными платформами искусственного интеллекта в человеческое общество может составлять менее 2%, а 98% — это продвижение индустриального общества и сельскохозяйственного общества. Но платформа приложений — это не наш вариант, мы будем нижний слой мощной платформы AI Computing».

Использование крупных моделей в тысячах отраслей стало основной задачей Huawei в области разработки крупных моделей. На встрече HUAWEI CLOUD представила варианты применения большой модели Pangu в семи областях, включая государственные дела, железные дороги, метеорологию и финансы.

Государственные дела

В области государственных дел HUAWEI CLOUD и Бюро управления данными государственной службы округа Футянь Шэньчжэня запустили Xiaofu, интеллектуальный помощник по делам правительства Футянь, основанный на модели государственных дел Пангу, который может точно понять намерения людей консультироваться и изменить традиционное универсальное обслуживание. модель. Путем точной настройки более 200 000 единиц данных о государственных делах, включая 12345 горячих линий, программные документы, энциклопедию государственных дел и т. д., помощники по государственным делам овладели обширными отраслевыми знаниями, такими как законы и правила и процедуры обработки.

Согласно Huawei Cloud, ядром крупной модели государственных дел Pangu являются когнитивные способности. Пусть городская общественная система будет видна и понята, и завершите замкнутый цикл от восприятия к познанию и избавлению. И в соответствии с разными сценариями он предоставляет разные возможности, такие как ответы на вопросы, создание копий, восприятие видео и мультимодальное понимание.

HUAWEI CLOUD представила два типичных сценария: первый сценарий — это консультационный сценарий, в котором корпоративные пользователи консультируются с правительственными помощниками по поводу соответствующих политик поддержки инвестиций, а правительственные помощники могут вводить соответствующие правила и политики и давать соответствующие предложения консультантам; второй сценарий, как показано на рисунке на рисунке выше это сцена обработки государственных дел, основанная на диалоге и мультимодальных возможностях.Персонал может интеллектуально анализировать нарушения на изображениях на основе изображений, сделанных камерой.

Железнодорожный

В области железных дорог Huawei продемонстрировала случай применения помощника по проверке грузовых автомобилей.

Традиционные железнодорожные инспекторы должны каждый день проверять миллионы изображений поездов, чтобы определить, есть ли неисправности в грузовых вагонах, курсирующих по железнодорожной сети. После внедрения большой модели Pangu она может точно идентифицировать 67 видов грузовиков, работающих в сети, и более 430 видов неисправностей, а скорость проверки исправных изображений достигает 95%. Другими словами, поездным инспекторам нужно обнаружить только 1/20 изображений поездов в прошлом, что эквивалентно 20-кратному увеличению эффективности работы.

угольная шахта

В области угольных шахт крупномасштабная модель шахты Пангу использовалась на 8 шахтах по всей стране.Большая модель может охватывать более 1000 разделенных сценариев в рамках бизнес-процессов, таких как добыча, раскопки, машины, транспортировка, транспортировка, и промывка угольных шахт, что позволяет большему количеству шахтеров работать на земле, что не только делает рабочую среду шахтеров более комфортной, но и значительно снижает количество несчастных случаев.

метеорологический

Метеорологическая область была в центре внимания пресс-конференции Huawei Cloud.Всего несколько дней назад результаты исследования большой метеорологической модели Пангу были опубликованы в ведущем зарубежном журнале «Nature», и рецензенты прокомментировали: «Давайте еще раз рассмотрим будущее прогнозирования погоды.

Первоначально для прогнозирования траектории тайфуна в ближайшие 10 дней требовалось 5 часов моделирования на высокопроизводительном компьютерном кластере с 3000 серверов. Теперь, основываясь на предварительно обученной большой метеорологической модели Pangea с помощью рассуждений ИИ, исследователям нужно всего лишь настроить одну карту на одном сервере, и они могут получить более точные результаты прогноза в течение 10 секунд.

В настоящее время большую метеорологическую модель Пангеи можно использовать для прогнозирования таких погодных явлений, как волны, высокие температуры, тайфуны и холодные волны.По сравнению с традиционным прогнозированием погоды, она быстрее и точнее. Ранее Пангу сотрудничал с Метеорологическим бюро, чтобы предсказать путь «Мавы» на 10 дней вперед. Кроме того, Пангу также предсказал приход волны холода в Финляндию на два дня вперед по сравнению с прогнозом Европейского метеорологического агентства. Прогноз Пангу также ближе к реальной температуре,

финансы

В области финансов Pangu Large Model сотрудничала с ICBC для создания ряда исследовательских приложений.

Одним из типичных сценариев является повышение эффективности работы банковских кассиров. ICBC имеет десятки тысяч торговых точек по всей стране и 200 000 кассиров в торговых точках. Им нужно переключаться между различными сервисами, на что уходит много времени.

Финансовая большая модель Pangu предварительно обучает различные банковские операции, политики и документы по делу и может автоматически генерировать процедуры и оперативные инструкции для персонала стойки в соответствии с проблемами клиентов, сокращая среднюю операцию, которая первоначально требовала 5 операций, до 1. Время узла сократилось на более 5 минут.

И это только самое основное приложение. Huawei вместе с финансовой отраслью исследует возможность применения большой модели к большему количеству финансовых сценариев, таких как кредитный анализ в будущем.

производство

Сама Huawei также является производственной компанией, которая выпускает аппаратные продукты, включая базовые станции связи, мобильные телефоны, автомобили, чипы и другие области. Основываясь на опыте, накопленном в прошлом, компания Huawei внедрила большую модель Pangu в сферу производства и производства.

В прошлом на составление однодневного производственного плана для одной производственной линии часто уходило более 3 часов, чтобы составить план распределения устройств. Изучив различные данные об устройствах, бизнес-процессы и правила производственной линии Huawei, производственная крупная модель Pangu может точно понять потребности бизнеса и вызвать подключаемый модуль решения Tianchou AI, чтобы сделать следующие 3 дня за одну минуту План производства.

Открытие наркотиков

В области исследования и разработки лекарственных средств оригинальные исследования и разработка нового лекарства занимают в среднем 10 лет и стоят 1 миллиард долларов США. Большая молекулярная модель препаратов Pangu помогла команде профессора Лю Бина из Первой дочерней больницы Сианьского университета Цзяотун открыть первую в мире новую мишень и новый класс антибиотиков за 40 лет, а также сократить цикл разработки ведущего препарата до одного месяца. и снизить стоимость разработки на 70%.

03 Крупная модель интегрирована в систему продуктов Huawei Cloud

Помимо практики в тысячах отраслей, модель HUAWEI CLOUD Pangu также была глубоко интегрирована в сервисы продуктов HUAWEI CLOUD для реструктуризации инновационных продуктов.

Большая модель Pangu + облачный сервис Huawei

С благословением модели Pangu ряд продуктов и услуг B-end Huawei Cloud был обновлен и реконструирован. На встрече HUAWEI CLOUD представила детали четырех обновлений сервисов: службы данных, облачного обслуживания клиентов, BI и облачного поиска.

* В службе данных благодаря копирайтингу и технологии генерации кода большой модели Pangu можно повысить эффективность записи данных и написания внешнего кода, а также значительно сократить цикл запуска нового продукта.

• В облачной службе поддержки клиентов благодаря диалоговым вопросам и ответам, встроенным в отраслевую базу знаний, и возможности анализа намерений реализуется весь процесс приоритетного ответа ИИ, а эффективность обслуживания клиентов повышается на 30%.
• В BI с помощью интеллектуальной маршрутизации NL2SQL и AutoGraph реализованы автоматические рекомендации от SQL к визуальным диаграммам, а благодаря многократным этапам взаимодействия на естественном языке каждый может легко получить представление о бизнес-деталях из данных.
• В облачном поиске с помощью мультимодального встраивания и технологии NL2API он реализует широкий поиск видео, текста, карты и других сцен.Благодаря мощным возможностям семантического понимания и обобщения точность поиска увеличивается на 15%.

Большая модель Pangu + инструмент кода CodeArts

HUAWEI CLOUD объединяет инструменты исследования и разработки CodeArts с большой моделью Pangu и официально выпустила CodeArts Snap, интеллектуальный помощник по программированию для разработчиков.

Инструмент обучил 76 миллиардов строк выбранных кодов и 13 миллионов технических документов.Он имеет три основные функции: интеллектуальная генерация, интеллектуальные вопросы и ответы и интеллектуальное сотрудничество.Он может реализовать генерацию кода в одном предложении диалога, а также автоматическую аннотацию и генерацию. тестовых случаев одним щелчком мыши.Одна команда может быть развернута разумно, так что у каждого разработчика программного обеспечения есть свой помощник по программированию.

Большая модель Pangu + цифровой человек

HUAWEI CLOUD расширяет возможности линии по производству цифрового контента MetaStudio с помощью базовой большой модели Pangu, создает модель Pangu Digital Human Congress, предоставляет две основные услуги по созданию моделей и управлению моделями и использует 200 000 часов аудио- и видеоданных для предварительного обучения.

На основе этих двух основных сервисов разработчики могут быстро создавать и управлять цифровыми моделями человека, расширяя возможности онлайн-образования, развлекательных прямых трансляций, корпоративных конференций и других отраслевых приложений, чтобы каждый сотрудник предприятия мог реализовать «цифровую человеческую свободу». Например, пользователям нужно всего лишь загрузить 20-секундное личное видео на служебной странице HUAWEI CLOUD MetaStudio, чтобы быстро создать персонализированное цифровое видео с объяснением человека. всего три минуты.

Большая модель Pangu + воплощенный интеллект

На встрече Huawei Cloud также упомянул о применении модели Pangu в сфере робототехники и продемонстрировал видео.

В прошлом отдача команд роботам требовала от разработчиков программирования, но, основываясь на способности модели Pangu понимать естественный язык, роботы могут распознавать естественный язык, выполнять команды и иметь автономный интеллект, управляемый глобальным восприятием. На встрече Huawei продемонстрировала видео, в котором пользователям не нужно вводить команды программы, а нужно только отдавать приказы роботу на естественном языке, и робот может выполнять команды, такие как сбор предметов, и будет принимать автономные решения на основе на окружающую среду в процессе (например, перемещение открытых всякой всячины, которые блокируют целевой объект), чтобы выполнить задачу.

По заявлению Huawei, приведенная выше демонстрация — не концептуальный ролик, а реальный продукт, который демонстрировался на площадке во время конференции HDC.

**04 Резюме и размышления: может ли Huawei стать другим полюсом ИИ? **

Чжан Пинган сказал: «Чтобы помочь глобальным клиентам, партнерам и разработчикам обучать и использовать большие модели, мы стремимся создать мир для глобальных клиентов ИИ **Еще один полюс, предоставляющий новых разработчиков ИИ с Выбор». **

Еще раньше, еще в марте этого года, Жэнь Чжэнфэй выразил то же самое в компании. Он сказал, что будет всплеск моделей ИИ, а не только Microsoft. Причина Жэнь Чжэнфэя на самом деле является направлением усилий Huawei Cloud сегодня, то есть прямой вклад компаний, занимающихся программной платформой искусственного интеллекта, в человеческое общество может составлять менее 2%, а 98% - это продвижение индустриального общества и сельскохозяйственного общества.

Например, фабрики в Китае и Германии продвигают искусственный интеллект в отрасли, чтобы реализовать беспилотное производство, например, пристань в порту Тяньцзиня также пробовала беспилотную погрузку и разгрузку грузов. Контейнер будет автоматически удален с корабля.Перевозите его, а затем увозите на машине, например, в угольной шахте в Шаньси после внедрения искусственного интеллекта 5G+ под землей количество персонала сократилось на 60-70%, и большинство людей работают в костюмах в диспетчерской на земле.

Это примеры крупномасштабного применения ИИ в промышленности за последние несколько лет.Общим для этих отраслей является то, что они имеют огромные масштабы и ценность продукции, а небольшое повышение эффективности может принести огромные выгоды.

**Появление больших моделей, по сути, обеспечивает более эффективные инструменты повышения производительности. **С одной стороны, для тех отраслей, которые уже внедряют ИИ, это означает более высокую эффективность и более быстрый процесс трансформации; а более высокая эффективность также означает, что большему количеству отраслей легче рассчитать «экономический счет», ИИ обладает потенциалом перейти от нескольких так называемых крупных отраслей к преобразованию тысяч отраслей.

Это причина, по которой Huawei решительно входит в отрасль.На самом деле, крупные отечественные компании, предоставляющие облачные услуги, такие как Alibaba Cloud, Tencent Cloud, Volcano Cloud и Baidu Cloud, имеют схожие идеи. В случае одинакового направления и близкой отправной точки, кто может работать быстрее в этом соревновании, это вся цепочка возможностей от вычислительной мощности, большой модельной базы, платформы, продуктов до конкретных решений.

По известным причинам Huawei не может получить самый передовой в мире вычислительный чип, который признан в настоящее время, и кажется, что он по своей сути недостаточен в этой конкуренции. Но, судя по сегодняшней пресс-конференции, Huawei не видит, что отстает из-за ограничений верхнего течения.В ключевой цепочке большой модели она придумала зрелые продукты и корпуса, а развязанный Pangu большой Архитектура модели еще более привлекательна. **На самом деле, учитывая потребности локализации сегодня, Huawei, не отстающая по вычислительной мощности, скорее всего, станет самостоятельным и управляемым преимуществом. **

Большие модели стали новой возможностью для Huawei, и, похоже, она становится реальностью.