"Wenxinyiyan dường như được tung ra một cách vội vàng. Tôi nghĩ thứ này hoàn toàn không phải để kiếm tiền, mà là để bắt kịp sự bùng nổ của ChatGPT. Mô hình lớn của ngành mới là thứ thực sự có thể tạo ra giá trị thương mại." Ngay sau khi phát hành Baidu Wenxinyiyan, Một cựu nhân viên của Baidu nói với Titanium Media, "Khi OpenAI chưa phổ biến vào năm ngoái, ông Wang (CTO của Baidu Wang Haifeng) đã lãnh đạo một nhóm xây dựng 10 mô hình quy mô lớn, bao gồm cả các mô hình ngành quy mô lớn. Vào thời điểm đó , không có nhiều sự chú ý bên ngoài ngành, nhưng nếu bạn nhìn vào bố cục của Baidu bây giờ, mô hình ngành lớn thực sự là một bố cục hướng tới tương lai, sớm hơn cả OpenAI và Microsoft."
Ngày nay, sau sự hối hả và nhộn nhịp của các mô hình quy mô lớn đa năng, các mô hình công nghiệp đang dần có được sức hút, điều này cũng khẳng định thực tế này: Các mô hình quy mô lớn cơ bản như ChatGPT kiếm được "khóc thét", phần lớn đóng vai trò giáo dục thị trường và định hình nhận thức, Trí tuệ nhân tạo thực sự sẽ được triển khai và kiếm được số tiền như hiện tại, nhưng cũng phụ thuộc vào mô hình lớn của ngành.
Ngay cả ở thị trường nước ngoài, ChatGPT, như một phần thuộc tính của các sản phẩm C-end, đã dần suy yếu.Theo dữ liệu của SimilarWeb, tốc độ tăng trưởng lượt truy cập của ChatGPT trong giai đoạn đầu là đáng kinh ngạc.Tốc độ tăng trưởng hàng tháng là 131,6 % vào tháng 1 và 62,5% vào tháng 2. Con số này là 55,8% vào tháng 3 và chậm lại đáng kể vào tháng 4, với tốc độ tăng trưởng hàng tháng là 12,6%. Đến tháng 5, con số này đã thay đổi thành 2,8% và nó dự kiến tốc độ tăng trưởng theo tháng trong tháng 6 có thể âm.
"Tôi tin rằng nhiều người trong chúng ta đã dùng thử ChatGPT và tôi tin rằng nhiều người đã bỏ nó sang một bên sau khi dùng thử, bởi vì nó cơ bản tách biệt với công việc của chúng tôi hiện tại, vì vậy chúng tôi đã bỏ nó xuống sau khi sử dụng. Nhưng tôi vẫn hy vọng rằng mọi người sẽ không “dậy sớm mà bắt chuyện muộn”, bởi đây là một cuộc cách mạng về mô hình sẽ mang lại những thay đổi mang tính chất lật đổ.” Giám đốc Công nghệ (CTO) Wei Qing của Microsoft (Trung Quốc) trước đây cho biết.
Giải pháp B-side dựa trên ChatGPT hoặc các mô hình lớn là một cách tốt để giải quyết sự tách biệt giữa các mô hình lớn và cảnh.
Trên bình diện quốc tế, các công ty lớn như Microsoft và Amazon cũng đã bắt đầu tìm kiếm con đường thương mại hóa từ các dịch vụ cấp doanh nghiệp và bắt đầu khám phá nhiều ngành công nghiệp; trong nước, Baidu, Alibaba, Tencent và Huawei đều đang tăng tốc đầu tư vào ngành công nghiệp quy mô lớn người mẫu. Ngoài ra, nhiều nhà lãnh đạo ngành và công ty mới thành lập trên toàn thế giới cũng đang khám phá triển vọng của các mô hình công nghiệp quy mô lớn.Mới đây, Ủy ban Khoa học và Công nghệ Thành phố Bắc Kinh và Ủy ban Quản lý Zhongguancun cũng đã công bố đợt đầu tiên gồm 10 trường hợp ứng dụng của các mô hình công nghiệp trí tuệ nhân tạo quy mô lớn ở Bắc Kinh. Ngoài ra, số lượng sáp nhập và mua lại các tuyến công nghệ liên quan cũng đạt mức cao mới...
Nhưng đường đua mô hình quy mô lớn còn lâu mới đông đúc — với sự phát triển nhanh chóng của quá trình lặp lại công nghệ, mọi tầng lớp xã hội đang tích lũy lại kiến thức kỹ thuật và định hình mô hình kinh doanh, và mọi thứ chỉ mới bắt đầu.
Nâng cấp: Cuộc chiến ngàn mô hình
Nếu mô hình cơ bản là "cuộc chiến trăm mô hình" thì mô hình quy mô lớn của ngành là "cuộc chiến nghìn mô hình", giống như thân cây mọc cành, mỗi nhà sản xuất mô hình quy mô lớn cơ bản có thể ươm tạo một số mô hình quy mô lớn trong ngành .nhất trí.
"Mặc dù mọi người đều đặt nhiều kỳ vọng vào mô hình quy mô lớn cho mục đích chung, nhưng nó không nhất thiết là giải pháp tối ưu để đáp ứng nhu cầu của các tình huống trong ngành." Chủ tịch Tập đoàn Tencent, Cloud và Tang Daosheng, Giám đốc điều hành của Tập đoàn Kinh doanh Công nghiệp Thông minh, cho biết.
Trong trường hợp Hunyuan Assistant không phát hành ra công chúng, Tencent đã đi đầu trong việc phát hành các mô hình công nghiệp quy mô lớn. Dựa trên nền tảng Tencent Cloud TI để xây dựng tuyển chọn các mô hình công nghiệp quy mô lớn, nó cung cấp cho khách hàng một- dừng dịch vụ MaaS và giúp khách hàng doanh nghiệp xây dựng các mô hình quy mô lớn độc quyền và ứng dụng Thông minh. Được biết từ Tencent, Tencent sẽ công bố thông tin chính thức về mô hình chung của C-end trong tương lai.
Một loạt các biện pháp này có thể được hiểu là, bất kể hiệu quả và tiến độ của mô hình quy mô lớn cơ bản Hunyuan, việc ưu tiên phát hành mô hình quy mô lớn trong ngành là một động thái cần thiết để Tencent đảm bảo danh tiếng của chính mình và giành lấy khách hàng trên thị trường khi khách hàng đang cần gấp.
Trước đó, Tian Qi, nhà khoa học trưởng trong lĩnh vực trí tuệ nhân tạo tại Huawei Cloud, đã đề cập rằng Huawei chia mô hình lớn thành ba cấp độ, L0, L1, L2 và L0 là cái mà mọi người gọi là mô hình chung cơ bản, giống như GPT-3 , trong mô hình cơ bản L0 Trên cơ sở , cộng với dữ liệu ngành, mô hình lớn của ngành thu được từ đào tạo hỗn hợp là L1.
Sau đó, L1 được triển khai cho các kịch bản phân khu cụ thể của hàng nghìn ngành công nghiệp phía dưới và thu được mô hình nhiệm vụ L2 của các kịch bản phân khu. mô hình công nghiệp L1 và Triển khai mô hình L2 cho phía thiết bị, phía cạnh và phía đám mây là một vấn đề rất quan trọng.
Có thể thấy trong chương trình nghị sự của Hội nghị các nhà phát triển Huawei sắp tới vào tháng 7 rằng Huawei Cloud sẽ tiến hành một loạt các diễn giải và công bố về cách mô hình Pangu được tinh chỉnh từ mô hình cơ bản thành mô hình công nghiệp.
Tại Hội nghị thượng đỉnh về đám mây của Alibaba năm nay, Zhou Jingren, CTO của Alibaba về đám mây, cũng cho biết: "Ngày nay, không phải tất cả các công ty đều cần bắt đầu đào tạo từ đầu, bạn cũng không cần mọi người bắt đầu từ đầu để tạo ra nhiều kho dữ liệu, bao gồm một số lượng lớn sức mạnh tính toán tài nguyên, để phát triển lại từ đầu. Một loạt các tùy chỉnh của mô hình, chúng tôi hy vọng rằng dựa trên mô hình Tongyi Qianwen ngày nay, kết hợp với kịch bản của doanh nghiệp, hệ thống kiến thức doanh nghiệp và nhu cầu đặc biệt của doanh nghiệp trong ngành, từng mô hình dành riêng cho doanh nghiệp sẽ được tạo ra."
Microsoft cũng đang tạo ra mô hình công nghiệp của riêng mình. Vào tháng 4, tại Trung Quốc, phiên bản quốc tế của Dịch vụ Microsoft Azure OpenAI đã phát hành ba bộ kịch bản Azure toàn cầu đầu tiên về ngành đổi mới cho thương mại điện tử bán lẻ, sản xuất và các lĩnh vực kỹ thuật số bản địa, tích hợp GPT-3 và GPT-4 cho người dùng doanh nghiệp địa phương. ở nước ngoài. , Codex, DALL-E và ChatGPT cấp doanh nghiệp, năm dịch vụ mô hình quy mô lớn, để giúp khách hàng doanh nghiệp Trung Quốc ở nước ngoài đẩy nhanh quá trình mở rộng ra thị trường toàn cầu.
"Cuộc chiến nghìn mô hình" sắp nổ ra nhưng vẫn còn quá sớm để thực sự bước vào giai đoạn sóng lớn cuốn trôi cát bụi, nhìn chung các mô hình quy mô lớn vẫn đang trong giai đoạn phát triển khá sơ khai, mặc dù các mô hình quy mô lớn trong ngành được tập trung, rõ ràng là có nhiều chỗ hơn cho đường đua này .
Lấy mô hình lớn của ngành tài chính làm ví dụ, nó được chia thành các lĩnh vực khác nhau như công ty chứng khoán, bảo hiểm, ngân hàng và tài chính mới, các nhiệm vụ hạ nguồn của mỗi lĩnh vực được chia thành hàng chục hoặc hàng trăm nhiệm vụ con.
"Thời điểm quan trọng hơn là khi dựa trên mô hình cơ bản, SFT và các cơ chế và cấu trúc khác có thể được điều chỉnh một cách hiệu quả cho các nhiệm vụ hạ nguồn và khi các nhiệm vụ hạ nguồn của ngành tài chính hoặc các mô hình ngành khác có tác động quy mô." Trong Alibaba Theo Chen Haiqing, người đứng đầu Trung tâm Kinh doanh Đổi mới Moyuan, đây chỉ là bước khởi đầu của các mô hình và kịch bản lớn của ngành để đào tạo liên tục thông qua một số dữ liệu phi cấu trúc phổ quát.
Lựa chọn hợp lý và thực tế
Nếu một doanh nghiệp muốn tạo một mô hình quy mô lớn cơ bản với hàng trăm tỷ tham số, thì doanh nghiệp đó cần sức mạnh tính toán hơn 10.000 thẻ trong một cụm máy, không chỉ thẻ GPU mà còn cả việc sử dụng tài nguyên cụm GPU. , điều mà hầu hết các công ty không làm được.
Mô hình công nghiệp lớn rõ ràng là dễ nhận ra hơn và nó cũng có triển vọng ứng dụng rộng hơn.
"Các mô hình lớn có thể trao quyền cho hàng nghìn ngành, nhưng bạn phải hiểu rõ về kịch bản của hàng nghìn ngành và bạn không thể mong đợi đào tạo hàng trăm tỷ hoặc hàng nghìn tỷ mô hình lớn mà người dùng doanh nghiệp có thể dễ dàng sử dụng. " Zhou Ming, người sáng lập Lanzhou Technology cho biết. "Từ mô hình chung đến mô hình công nghiệp, cần phải thực hiện chặng đường cuối cùng cho kịch bản của người dùng."
Sau khi đánh giá khoản đầu tư cần thiết cho mô hình quy mô lớn cơ bản và cân nhắc những ưu và nhược điểm cũng như lãi và lỗ, khách hàng doanh nghiệp nhanh chóng chuyển sang mô hình công nghiệp quy mô lớn và các nhà sản xuất dành nhiều tâm sức hơn cho mô hình này.
Tang Daosheng thẳng thắn nói rằng các mô hình quy mô lớn có mục đích chung hiện nay thường được đào tạo dựa trên tài liệu công khai rộng rãi và thông tin mạng. Thông tin trên Internet có thể chứa sai sót, tin đồn và thành kiến. Nhiều kiến thức chuyên môn và dữ liệu ngành chưa được tích lũy đầy đủ, dẫn đến đặc thù ngành của mô hình Độ chính xác và độ chính xác là không đủ và dữ liệu "nhiễu" quá lớn.
Tuy nhiên, trong nhiều tình huống công nghiệp, người dùng có yêu cầu cao đối với các dịch vụ chuyên nghiệp do doanh nghiệp cung cấp và khả năng chịu lỗi của họ thấp. Một khi công ty cung cấp thông tin sai, nó có thể gây ra trách nhiệm pháp lý lớn hoặc khủng hoảng quan hệ công chúng. Do đó, các mô hình quy mô lớn mà các doanh nghiệp sử dụng phải có thể kiểm soát được, có thể theo dõi và có thể sửa chữa được, đồng thời phải được thử nghiệm nhiều lần và đầy đủ trước khi có thể tung ra thị trường.
"Chúng tôi tin rằng khách hàng cần nhiều mô hình công nghiệp cụ thể hơn, cùng với dữ liệu riêng của công ty để đào tạo hoặc tinh chỉnh, nhằm tạo ra các dịch vụ thông minh có tính thực tiễn cao. Điều mà các công ty cần là thực sự giải quyết vấn đề trong các tình huống thực tế. thay vì giải quyết 70%-80% vấn đề trong 100 cảnh." Tang Daosheng nói.
Zhu Yong, phó chủ tịch của Baidu Smart Cloud, cũng cho biết: "Từ tình hình trong và ngoài nước, chúng ta có thể thấy rằng không có nhiều mô hình đa năng như vậy. Một số nhà sản xuất trên thị trường thực sự sản xuất các mô hình tương đối nhỏ. Ngược lại, , mô hình miền đặc biệt quan trọng, bởi vì mô hình chung chỉ có khả năng kiến thức chung, mô hình miền có thể phù hợp với kỳ vọng nhiệm vụ của các ngành và lĩnh vực cụ thể và giải quyết các vấn đề thực tế của doanh nghiệp.Quá trình này rất quan trọng, nhưng chi phí và nguồn lực cần thiết cho quá trình này ít hơn nhiều so với bắt đầu từ đầu Thực hiện mô hình chung cơ bản."
Đồng thời, ông cũng nhận định rằng có thể chỉ có một số mô hình cơ bản (underlying general models) trong tương lai, nhưng kết hợp với dữ liệu trong lĩnh vực chuyên môn và ngành biết bao, nhiều loại mô hình miền khác nhau sẽ phát triển trên đó. Các mô hình miền này sẽ rất thịnh vượng trong tương lai và hỗ trợ các lớp trên Ứng dụng miền thịnh vượng.
Lấy mô hình lớn của ngành năng lượng "Lưới nhà nước-Baidu Wenxin" do Baidu Smart Cloud và State Grid tạo ra làm ví dụ, Baidu Smart Cloud, cùng với các chuyên gia của State Grid, đã giới thiệu các mẫu được tích lũy bởi State Grid trong ngành kinh doanh điện năng vào mô hình quy mô lớn chung Dữ liệu và kiến thức độc đáo, và trong quá trình đào tạo, kết hợp kinh nghiệm của cả hai bên trong thuật toán đào tạo trước và kinh doanh và thuật toán trong lĩnh vực năng lượng, các thuật toán thiết kế như phân biệt thực thể trong trường năng lượng và phân biệt tài liệu trong lĩnh vực năng lượng như các nhiệm vụ đào tạo trước, để mô hình lớn Wenxin có thể học sâu về kiến thức chuyên môn về sức mạnh, để thực sự giải quyết các vấn đề kinh doanh thực tế trong lĩnh vực năng lượng và đạt được mục đích giảm chi phí và tăng hiệu quả.
Zhu Yong nói rằng sự khác biệt giữa mô hình chung và mô hình miền có thể được so sánh với một người có kiến thức rộng rãi đã học đại học, anh ta có thể biết một số kiến thức y tế, nhưng anh ta không thể chẩn đoán bệnh nhân và không phải là bác sĩ chuyên nghiệp . Mô hình miền là học kiến thức y khoa chuyên sâu trên cơ sở năng lực tổng quát vững vàng, trở thành bác sĩ chuyên nghiệp có thể đóng góp giá trị trong lĩnh vực y tế.
Từ một mô hình chung với nhiều kiến thức đến một mô hình y tế chuyên nghiệp, chi phí tài nguyên cần thiết trong quá trình này ít hơn nhiều so với việc xây dựng một mô hình lớn nói chung từ đầu, nhưng nó nhấn mạnh rằng có dữ liệu chuyên nghiệp, phải có Nó được thúc đẩy bởi các nhiệm vụ trong lĩnh vực chuyên môn để kích thích nó sản sinh ra những khả năng như vậy.
Cách làm mô hình ngành
Bản thân mô hình lớn đã là một thứ mới, nó đã thay đổi mô hình phát triển phần mềm trước đây, các nhà sản xuất cần một chuỗi công cụ và nền tảng mới để giúp khách hàng đánh bóng mô hình lớn của ngành sớm hơn và nhanh hơn.
Với sự ra đời của kỷ nguyên mô hình lớn, hiệu quả của dặm cuối cùng sẽ được cải thiện rất nhiều. Zhou Ming đã đề cập rằng một thế hệ mô hình phát triển phần mềm mới đang hình thành, chủ yếu dựa trên việc các doanh nghiệp cung cấp nhiều công cụ chức năng và người dùng hiện là trợ lý để nâng cao hiệu quả.Trên cơ sở này, thật dễ dàng để xây dựng một ứng dụng mới.
Lấy nền tảng mô hình quy mô lớn Wenxin Qianfan làm ví dụ, đây là nền tảng vận hành dịch vụ và phát triển mô hình quy mô lớn một cửa dành cho các nhà phát triển doanh nghiệp. Nó không chỉ cung cấp mô hình cơ bản (ERNIE-Bot) và các mô hình lớn nguồn mở của bên thứ ba, mà còn cung cấp nhiều công cụ phát triển AI khác nhau và môi trường phát triển hoàn chỉnh để tạo điều kiện cho khách hàng dễ dàng sử dụng và phát triển các ứng dụng mô hình lớn.
Đối với quản lý dữ liệu, SFT mô hình tự động và triển khai đám mây các dịch vụ lý luận, các nhà sản xuất hy vọng nhận ra các dịch vụ tùy chỉnh mô hình quy mô lớn một cửa. Khả năng của các nền tảng xây dựng mô hình quy mô lớn của các nhà sản xuất khác nhau về cơ bản là giống nhau và sự khác biệt nằm ở mức độ dễ sử dụng, chất lượng hiệu ứng cũng như phần mềm và phần cứng được hỗ trợ.
“Làm mô hình lớn quả thực không rẻ, nhưng cuối cùng dịch vụ mô hình lớn có thể phát huy được chỉ có hai nguyên nhân: thứ nhất là hiệu quả của mô hình tốt hơn, hai là hiệu quả của mô hình không tốt. Không cần phải nói, thứ hai là chi phí." Baidu Xin Zhou, tổng giám đốc của Smart Cloud AI và Nền tảng dữ liệu lớn, cho biết.
Trên thực tế, mô hình ngành nên dựa trên mô hình chung. Ví dụ như giáo dục phổ thông, nếu không có mô hình chung nào tốt hơn thì không thể nói đến hiệu ứng ứng dụng trong một ngành cụ thể. Bloomberg GPT do Bloomberg và Johns Hopkins đồng phát hành là một ví dụ, trong phân phối dữ liệu của nó, dữ liệu mô hình cơ bản chung chiếm một nửa, dữ liệu công khai của ngành tài chính chiếm một nửa và dữ liệu của riêng Bloomberg chiếm 0,6%.
"Để bất kỳ mô hình nào đạt được mức độ thông minh hoặc khả năng cơ bản tốt hơn, nó phải đào tạo mô hình cơ bản với số lượng tham số tương đối tốt, sau đó tích hợp một số dữ liệu chuyên môn của ngành vào mô hình cơ bản để tạo thành mô hình công nghiệp." Xin Châu nói.
Ý tưởng của Baidu là tung ra một "ông lớn" (Wenxin Yiyan) và một nền tảng công cụ rất hoàn chỉnh (Wenxin Qianfan), sau đó cung cấp các dịch vụ mô hình khác biệt theo nhu cầu thực tế của khách hàng để giúp khách hàng đưa ra lựa chọn hiệu quả nhất về chi phí. tin rằng giá sẽ không trở thành điểm nghẽn để các hãng đón nhận các mẫu xe lớn.
Ngoài chi phí gọi mô hình và chi phí đào tạo, Baidu cũng đang giúp các công ty giảm chi phí hơn nữa, nếu các công ty chỉ tập trung vào các lĩnh vực tương đối hẹp của họ, Baidu cũng có phiên bản với các thông số tương đối thấp, để vẫn đảm bảo hiệu quả của mô hình. sử dụng hoặc Chi phí đào tạo các mô hình sẽ giảm đáng kể.
Trên thực tế, không có một tiêu chuẩn chung nào cho chi phí xây dựng mô hình công nghiệp lớn.
Trước hết, các mô hình lớn cơ bản khác nhau có các thông số kỹ thuật tham số khác nhau và việc đầu tư vào phần mềm và phần cứng phải thay đổi linh hoạt theo các thông số và khả năng cơ bản của mô hình. Nếu thông số là hàng chục tỷ thì một chiếc card A100 cũng có thể chạy và bắt đầu các tác vụ hạ nguồn.
Các yêu cầu kịch bản ứng dụng tương đối tập trung hiện tại thuộc loại này, chẳng hạn như trả lời câu hỏi thông minh, viết thông minh và sáng tạo thông minh trong quản lý tri thức, cũng như các kịch bản tiếp thị toàn Internet và yêu cầu tạo mã.
Thứ hai, chi phí liên quan đến lượng dữ liệu và hướng ứng dụng. Việc định giá mô hình quy mô lớn toàn cầu hiện tại dựa trên 1000 Token làm đơn vị cơ bản. Nếu các tác vụ hạ nguồn của một doanh nghiệp rất đơn giản và có thể được thực hiện chỉ với hàng chục nghìn mã thông báo, thì chi phí của nó rất thấp và yêu cầu rất ít thẻ GPU. Lượng dữ liệu cần thiết để xây dựng một mô hình công nghiệp lớn thường ở dạng G hoặc thậm chí T, vì vậy chi phí đào tạo ngoại tuyến của nó sẽ rất cao.
**Ai đang chạy cuộc đua? **
Người chơi đổ xô đến đường đua mô hình quy mô lớn, lần này không chỉ có các công ty Internet hạng nhất mà còn có nhiều nhà lãnh đạo ngành và các công ty mới thành lập tham gia.
Ngành nào có thể đi đầu bứt phá? Có lẽ nó có thể được nhìn thấy từ ngành mà trường hợp hợp tác được đặt, như trong bảng ở đầu bài viết, tài chính, chăm sóc y tế, giáo dục, lái xe tự hành và các lĩnh vực khác thường được sử dụng.
Ví dụ: khi Alibaba Cloud phát hành mô hình lớn Tongyi vào tháng 4, họ đã thông báo rằng họ đã tiến hành khám phá hợp tác với một số công ty, đợt hợp tác đầu tiên của các công ty bao gồm OPPO Andes Smart Cloud, Geely Ô tô, Ô tô Zhiji, Chery New Energy, Momo Zhixing, Swire Coca-Cola, Bosideng, Palm Technology, v.v. Theo các báo cáo, ngành tài chính, ngành bán lẻ và một số kịch bản và ngành hướng đến người tiêu dùng quy mô lớn đã tích lũy được rất nhiều dữ liệu công khai và dữ liệu kịch bản, thuận tiện cho việc xây dựng các mô hình doanh nghiệp hoặc ngành cụ thể.
Theo thông tin công khai, số lượng mô hình công nghiệp quy mô lớn của Baidu Wenxin đã lên tới 11, bao gồm năng lượng và điện, tài chính, hàng không vũ trụ, truyền thông, phim và truyền hình, ô tô, quản lý đô thị, khí đốt, bảo hiểm, sản xuất điện tử và khoa học xã hội.
Lô đầu tiên gồm mười trường hợp ứng dụng mô hình quy mô lớn trong ngành trí tuệ nhân tạo ở Bắc Kinh được phát hành vào ngày 27 tháng 6 liên quan đến các lĩnh vực năng lượng và điện, y tế, tài chính, lái xe tự hành, xây dựng, nghiên cứu khoa học, cuộc sống và câu hỏi và câu trả lời. Được biết, trong khoảng thời gian từ ngày 27 tháng 6 đến ngày 30 tháng 7, Ủy ban Khoa học và Công nghệ Bắc Kinh và Ủy ban Quản lý Zhongguancun cũng sẽ tập trung vào các lĩnh vực chính như quản trị đô thị, y tế, nghiên cứu khoa học, tài chính thông minh, cuộc sống thông minh và thông minh. thành phố, và các đối tượng đổi mới mục tiêu trong thành phố. , sẽ thu thập hơn 80 dự án trường hợp ứng dụng mô hình quy mô lớn trong ngành.
Nhưng nhiều khách hàng đang phải đối mặt với một làn sóng tích lũy kiến thức và quá trình học tập mới.
"Khi chúng tôi trao đổi với khách hàng, chúng tôi nhận thấy rằng nhiều khách hàng không biết nhiều về các mô hình ngành, nhưng họ sẽ chủ động hỏi các mô hình ngành của Baidu." Li Jingqiu, phó tổng giám đốc Nền tảng Trí tuệ nhân tạo đám mây thông minh của Baidu, cho biết lúc này sẽ cụ thể kết hợp với thực tế sử dụng của doanh nghiệp, phân tích nhu cầu của sản phẩm và khách hàng, chẳng hạn như bạn muốn mô hình ngành có những năng lực gì, sử dụng hệ thống hay ứng dụng gì, ai sẽ sử dụng những ứng dụng này và bạn hy vọng đạt được những hiệu ứng nào... Sau khi đặt những câu hỏi này, bạn sẽ thực sự tìm thấy khách hàng Điều cần thiết là một mô hình lớn dựa trên chuỗi công cụ SFT của Wenxin Qianfan hoặc một mô hình được đào tạo trước cho ngành. Cái sau cần ít nhất vài tháng, hoặc thậm chí cả năm ngoái, để xây dựng và triển khai—từ các vấn đề kỹ thuật như xử lý dữ liệu, phân bổ tài nguyên ở lớp sức mạnh tính toán, đến đào tạo dài hạn về dữ liệu phổ biến trong ngành.
Từ sự hối hả và nhộn nhịp của mô hình quy mô lớn cơ bản đến sự khởi đầu của mô hình quy mô lớn của ngành, bước vào nửa cuối năm 2023, một quá trình chuyển đổi kinh doanh thực sự sẽ được đẩy nhanh.
Cũng rất thú vị khi so sánh con đường của các nhà sản xuất trong nước như Baidu và OpenAI/Microsoft trong lĩnh vực mô hình quy mô lớn. là một môi trường kỹ thuật Cuối cùng, nhiều người vẫn có một sự đồng thuận hời hợt - "AI của Trung Quốc thiên về ứng dụng kinh doanh và khả năng thương mại hóa." Nói thẳng ra, AI của Trung Quốc ít kiên nhẫn hơn và muốn kiếm tiền .
Nhưng mặt khác, thị trường là động lực lớn nhất để công nghệ phát triển, việc nắm bắt thời cuộc và nhịp điệu đã tạo nên những kết quả khác biệt. Lấy mô hình công nghiệp quy mô lớn làm ví dụ, Microsoft đang chờ đợi sự trưởng thành hơn nữa của công nghệ hoặc cảm thấy rằng thời điểm chưa đến và đã quá muộn. mô hình quy mô sang mô hình công nghiệp quy mô lớn, có sức sống lâu bền.
Mất mùa đông, được mùa dâu tằm, xét về kết quả, việc các mô hình lớn của ngành nội địa chạy nhanh không phải là điều xấu.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Mô hình công nghiệp, mở cuốn sách!
Nguồn: Titanium Media, Tác giả: Zhang Shuai
"Wenxinyiyan dường như được tung ra một cách vội vàng. Tôi nghĩ thứ này hoàn toàn không phải để kiếm tiền, mà là để bắt kịp sự bùng nổ của ChatGPT. Mô hình lớn của ngành mới là thứ thực sự có thể tạo ra giá trị thương mại." Ngay sau khi phát hành Baidu Wenxinyiyan, Một cựu nhân viên của Baidu nói với Titanium Media, "Khi OpenAI chưa phổ biến vào năm ngoái, ông Wang (CTO của Baidu Wang Haifeng) đã lãnh đạo một nhóm xây dựng 10 mô hình quy mô lớn, bao gồm cả các mô hình ngành quy mô lớn. Vào thời điểm đó , không có nhiều sự chú ý bên ngoài ngành, nhưng nếu bạn nhìn vào bố cục của Baidu bây giờ, mô hình ngành lớn thực sự là một bố cục hướng tới tương lai, sớm hơn cả OpenAI và Microsoft."
Ngày nay, sau sự hối hả và nhộn nhịp của các mô hình quy mô lớn đa năng, các mô hình công nghiệp đang dần có được sức hút, điều này cũng khẳng định thực tế này: Các mô hình quy mô lớn cơ bản như ChatGPT kiếm được "khóc thét", phần lớn đóng vai trò giáo dục thị trường và định hình nhận thức, Trí tuệ nhân tạo thực sự sẽ được triển khai và kiếm được số tiền như hiện tại, nhưng cũng phụ thuộc vào mô hình lớn của ngành.
Ngay cả ở thị trường nước ngoài, ChatGPT, như một phần thuộc tính của các sản phẩm C-end, đã dần suy yếu.Theo dữ liệu của SimilarWeb, tốc độ tăng trưởng lượt truy cập của ChatGPT trong giai đoạn đầu là đáng kinh ngạc.Tốc độ tăng trưởng hàng tháng là 131,6 % vào tháng 1 và 62,5% vào tháng 2. Con số này là 55,8% vào tháng 3 và chậm lại đáng kể vào tháng 4, với tốc độ tăng trưởng hàng tháng là 12,6%. Đến tháng 5, con số này đã thay đổi thành 2,8% và nó dự kiến tốc độ tăng trưởng theo tháng trong tháng 6 có thể âm.
"Tôi tin rằng nhiều người trong chúng ta đã dùng thử ChatGPT và tôi tin rằng nhiều người đã bỏ nó sang một bên sau khi dùng thử, bởi vì nó cơ bản tách biệt với công việc của chúng tôi hiện tại, vì vậy chúng tôi đã bỏ nó xuống sau khi sử dụng. Nhưng tôi vẫn hy vọng rằng mọi người sẽ không “dậy sớm mà bắt chuyện muộn”, bởi đây là một cuộc cách mạng về mô hình sẽ mang lại những thay đổi mang tính chất lật đổ.” Giám đốc Công nghệ (CTO) Wei Qing của Microsoft (Trung Quốc) trước đây cho biết.
Giải pháp B-side dựa trên ChatGPT hoặc các mô hình lớn là một cách tốt để giải quyết sự tách biệt giữa các mô hình lớn và cảnh.
Trên bình diện quốc tế, các công ty lớn như Microsoft và Amazon cũng đã bắt đầu tìm kiếm con đường thương mại hóa từ các dịch vụ cấp doanh nghiệp và bắt đầu khám phá nhiều ngành công nghiệp; trong nước, Baidu, Alibaba, Tencent và Huawei đều đang tăng tốc đầu tư vào ngành công nghiệp quy mô lớn người mẫu. Ngoài ra, nhiều nhà lãnh đạo ngành và công ty mới thành lập trên toàn thế giới cũng đang khám phá triển vọng của các mô hình công nghiệp quy mô lớn.Mới đây, Ủy ban Khoa học và Công nghệ Thành phố Bắc Kinh và Ủy ban Quản lý Zhongguancun cũng đã công bố đợt đầu tiên gồm 10 trường hợp ứng dụng của các mô hình công nghiệp trí tuệ nhân tạo quy mô lớn ở Bắc Kinh. Ngoài ra, số lượng sáp nhập và mua lại các tuyến công nghệ liên quan cũng đạt mức cao mới...
Nâng cấp: Cuộc chiến ngàn mô hình
Nếu mô hình cơ bản là "cuộc chiến trăm mô hình" thì mô hình quy mô lớn của ngành là "cuộc chiến nghìn mô hình", giống như thân cây mọc cành, mỗi nhà sản xuất mô hình quy mô lớn cơ bản có thể ươm tạo một số mô hình quy mô lớn trong ngành .nhất trí.
"Mặc dù mọi người đều đặt nhiều kỳ vọng vào mô hình quy mô lớn cho mục đích chung, nhưng nó không nhất thiết là giải pháp tối ưu để đáp ứng nhu cầu của các tình huống trong ngành." Chủ tịch Tập đoàn Tencent, Cloud và Tang Daosheng, Giám đốc điều hành của Tập đoàn Kinh doanh Công nghiệp Thông minh, cho biết.
Trong trường hợp Hunyuan Assistant không phát hành ra công chúng, Tencent đã đi đầu trong việc phát hành các mô hình công nghiệp quy mô lớn. Dựa trên nền tảng Tencent Cloud TI để xây dựng tuyển chọn các mô hình công nghiệp quy mô lớn, nó cung cấp cho khách hàng một- dừng dịch vụ MaaS và giúp khách hàng doanh nghiệp xây dựng các mô hình quy mô lớn độc quyền và ứng dụng Thông minh. Được biết từ Tencent, Tencent sẽ công bố thông tin chính thức về mô hình chung của C-end trong tương lai.
Một loạt các biện pháp này có thể được hiểu là, bất kể hiệu quả và tiến độ của mô hình quy mô lớn cơ bản Hunyuan, việc ưu tiên phát hành mô hình quy mô lớn trong ngành là một động thái cần thiết để Tencent đảm bảo danh tiếng của chính mình và giành lấy khách hàng trên thị trường khi khách hàng đang cần gấp.
Trước đó, Tian Qi, nhà khoa học trưởng trong lĩnh vực trí tuệ nhân tạo tại Huawei Cloud, đã đề cập rằng Huawei chia mô hình lớn thành ba cấp độ, L0, L1, L2 và L0 là cái mà mọi người gọi là mô hình chung cơ bản, giống như GPT-3 , trong mô hình cơ bản L0 Trên cơ sở , cộng với dữ liệu ngành, mô hình lớn của ngành thu được từ đào tạo hỗn hợp là L1.
Sau đó, L1 được triển khai cho các kịch bản phân khu cụ thể của hàng nghìn ngành công nghiệp phía dưới và thu được mô hình nhiệm vụ L2 của các kịch bản phân khu. mô hình công nghiệp L1 và Triển khai mô hình L2 cho phía thiết bị, phía cạnh và phía đám mây là một vấn đề rất quan trọng.
Có thể thấy trong chương trình nghị sự của Hội nghị các nhà phát triển Huawei sắp tới vào tháng 7 rằng Huawei Cloud sẽ tiến hành một loạt các diễn giải và công bố về cách mô hình Pangu được tinh chỉnh từ mô hình cơ bản thành mô hình công nghiệp.
Tại Hội nghị thượng đỉnh về đám mây của Alibaba năm nay, Zhou Jingren, CTO của Alibaba về đám mây, cũng cho biết: "Ngày nay, không phải tất cả các công ty đều cần bắt đầu đào tạo từ đầu, bạn cũng không cần mọi người bắt đầu từ đầu để tạo ra nhiều kho dữ liệu, bao gồm một số lượng lớn sức mạnh tính toán tài nguyên, để phát triển lại từ đầu. Một loạt các tùy chỉnh của mô hình, chúng tôi hy vọng rằng dựa trên mô hình Tongyi Qianwen ngày nay, kết hợp với kịch bản của doanh nghiệp, hệ thống kiến thức doanh nghiệp và nhu cầu đặc biệt của doanh nghiệp trong ngành, từng mô hình dành riêng cho doanh nghiệp sẽ được tạo ra."
Microsoft cũng đang tạo ra mô hình công nghiệp của riêng mình. Vào tháng 4, tại Trung Quốc, phiên bản quốc tế của Dịch vụ Microsoft Azure OpenAI đã phát hành ba bộ kịch bản Azure toàn cầu đầu tiên về ngành đổi mới cho thương mại điện tử bán lẻ, sản xuất và các lĩnh vực kỹ thuật số bản địa, tích hợp GPT-3 và GPT-4 cho người dùng doanh nghiệp địa phương. ở nước ngoài. , Codex, DALL-E và ChatGPT cấp doanh nghiệp, năm dịch vụ mô hình quy mô lớn, để giúp khách hàng doanh nghiệp Trung Quốc ở nước ngoài đẩy nhanh quá trình mở rộng ra thị trường toàn cầu.
"Cuộc chiến nghìn mô hình" sắp nổ ra nhưng vẫn còn quá sớm để thực sự bước vào giai đoạn sóng lớn cuốn trôi cát bụi, nhìn chung các mô hình quy mô lớn vẫn đang trong giai đoạn phát triển khá sơ khai, mặc dù các mô hình quy mô lớn trong ngành được tập trung, rõ ràng là có nhiều chỗ hơn cho đường đua này .
Lấy mô hình lớn của ngành tài chính làm ví dụ, nó được chia thành các lĩnh vực khác nhau như công ty chứng khoán, bảo hiểm, ngân hàng và tài chính mới, các nhiệm vụ hạ nguồn của mỗi lĩnh vực được chia thành hàng chục hoặc hàng trăm nhiệm vụ con.
"Thời điểm quan trọng hơn là khi dựa trên mô hình cơ bản, SFT và các cơ chế và cấu trúc khác có thể được điều chỉnh một cách hiệu quả cho các nhiệm vụ hạ nguồn và khi các nhiệm vụ hạ nguồn của ngành tài chính hoặc các mô hình ngành khác có tác động quy mô." Trong Alibaba Theo Chen Haiqing, người đứng đầu Trung tâm Kinh doanh Đổi mới Moyuan, đây chỉ là bước khởi đầu của các mô hình và kịch bản lớn của ngành để đào tạo liên tục thông qua một số dữ liệu phi cấu trúc phổ quát.
Lựa chọn hợp lý và thực tế
Nếu một doanh nghiệp muốn tạo một mô hình quy mô lớn cơ bản với hàng trăm tỷ tham số, thì doanh nghiệp đó cần sức mạnh tính toán hơn 10.000 thẻ trong một cụm máy, không chỉ thẻ GPU mà còn cả việc sử dụng tài nguyên cụm GPU. , điều mà hầu hết các công ty không làm được.
Mô hình công nghiệp lớn rõ ràng là dễ nhận ra hơn và nó cũng có triển vọng ứng dụng rộng hơn.
"Các mô hình lớn có thể trao quyền cho hàng nghìn ngành, nhưng bạn phải hiểu rõ về kịch bản của hàng nghìn ngành và bạn không thể mong đợi đào tạo hàng trăm tỷ hoặc hàng nghìn tỷ mô hình lớn mà người dùng doanh nghiệp có thể dễ dàng sử dụng. " Zhou Ming, người sáng lập Lanzhou Technology cho biết. "Từ mô hình chung đến mô hình công nghiệp, cần phải thực hiện chặng đường cuối cùng cho kịch bản của người dùng."
Sau khi đánh giá khoản đầu tư cần thiết cho mô hình quy mô lớn cơ bản và cân nhắc những ưu và nhược điểm cũng như lãi và lỗ, khách hàng doanh nghiệp nhanh chóng chuyển sang mô hình công nghiệp quy mô lớn và các nhà sản xuất dành nhiều tâm sức hơn cho mô hình này.
Tang Daosheng thẳng thắn nói rằng các mô hình quy mô lớn có mục đích chung hiện nay thường được đào tạo dựa trên tài liệu công khai rộng rãi và thông tin mạng. Thông tin trên Internet có thể chứa sai sót, tin đồn và thành kiến. Nhiều kiến thức chuyên môn và dữ liệu ngành chưa được tích lũy đầy đủ, dẫn đến đặc thù ngành của mô hình Độ chính xác và độ chính xác là không đủ và dữ liệu "nhiễu" quá lớn.
Tuy nhiên, trong nhiều tình huống công nghiệp, người dùng có yêu cầu cao đối với các dịch vụ chuyên nghiệp do doanh nghiệp cung cấp và khả năng chịu lỗi của họ thấp. Một khi công ty cung cấp thông tin sai, nó có thể gây ra trách nhiệm pháp lý lớn hoặc khủng hoảng quan hệ công chúng. Do đó, các mô hình quy mô lớn mà các doanh nghiệp sử dụng phải có thể kiểm soát được, có thể theo dõi và có thể sửa chữa được, đồng thời phải được thử nghiệm nhiều lần và đầy đủ trước khi có thể tung ra thị trường.
"Chúng tôi tin rằng khách hàng cần nhiều mô hình công nghiệp cụ thể hơn, cùng với dữ liệu riêng của công ty để đào tạo hoặc tinh chỉnh, nhằm tạo ra các dịch vụ thông minh có tính thực tiễn cao. Điều mà các công ty cần là thực sự giải quyết vấn đề trong các tình huống thực tế. thay vì giải quyết 70%-80% vấn đề trong 100 cảnh." Tang Daosheng nói.
Zhu Yong, phó chủ tịch của Baidu Smart Cloud, cũng cho biết: "Từ tình hình trong và ngoài nước, chúng ta có thể thấy rằng không có nhiều mô hình đa năng như vậy. Một số nhà sản xuất trên thị trường thực sự sản xuất các mô hình tương đối nhỏ. Ngược lại, , mô hình miền đặc biệt quan trọng, bởi vì mô hình chung chỉ có khả năng kiến thức chung, mô hình miền có thể phù hợp với kỳ vọng nhiệm vụ của các ngành và lĩnh vực cụ thể và giải quyết các vấn đề thực tế của doanh nghiệp.Quá trình này rất quan trọng, nhưng chi phí và nguồn lực cần thiết cho quá trình này ít hơn nhiều so với bắt đầu từ đầu Thực hiện mô hình chung cơ bản."
Đồng thời, ông cũng nhận định rằng có thể chỉ có một số mô hình cơ bản (underlying general models) trong tương lai, nhưng kết hợp với dữ liệu trong lĩnh vực chuyên môn và ngành biết bao, nhiều loại mô hình miền khác nhau sẽ phát triển trên đó. Các mô hình miền này sẽ rất thịnh vượng trong tương lai và hỗ trợ các lớp trên Ứng dụng miền thịnh vượng.
Lấy mô hình lớn của ngành năng lượng "Lưới nhà nước-Baidu Wenxin" do Baidu Smart Cloud và State Grid tạo ra làm ví dụ, Baidu Smart Cloud, cùng với các chuyên gia của State Grid, đã giới thiệu các mẫu được tích lũy bởi State Grid trong ngành kinh doanh điện năng vào mô hình quy mô lớn chung Dữ liệu và kiến thức độc đáo, và trong quá trình đào tạo, kết hợp kinh nghiệm của cả hai bên trong thuật toán đào tạo trước và kinh doanh và thuật toán trong lĩnh vực năng lượng, các thuật toán thiết kế như phân biệt thực thể trong trường năng lượng và phân biệt tài liệu trong lĩnh vực năng lượng như các nhiệm vụ đào tạo trước, để mô hình lớn Wenxin có thể học sâu về kiến thức chuyên môn về sức mạnh, để thực sự giải quyết các vấn đề kinh doanh thực tế trong lĩnh vực năng lượng và đạt được mục đích giảm chi phí và tăng hiệu quả.
Zhu Yong nói rằng sự khác biệt giữa mô hình chung và mô hình miền có thể được so sánh với một người có kiến thức rộng rãi đã học đại học, anh ta có thể biết một số kiến thức y tế, nhưng anh ta không thể chẩn đoán bệnh nhân và không phải là bác sĩ chuyên nghiệp . Mô hình miền là học kiến thức y khoa chuyên sâu trên cơ sở năng lực tổng quát vững vàng, trở thành bác sĩ chuyên nghiệp có thể đóng góp giá trị trong lĩnh vực y tế.
Từ một mô hình chung với nhiều kiến thức đến một mô hình y tế chuyên nghiệp, chi phí tài nguyên cần thiết trong quá trình này ít hơn nhiều so với việc xây dựng một mô hình lớn nói chung từ đầu, nhưng nó nhấn mạnh rằng có dữ liệu chuyên nghiệp, phải có Nó được thúc đẩy bởi các nhiệm vụ trong lĩnh vực chuyên môn để kích thích nó sản sinh ra những khả năng như vậy.
Cách làm mô hình ngành
Bản thân mô hình lớn đã là một thứ mới, nó đã thay đổi mô hình phát triển phần mềm trước đây, các nhà sản xuất cần một chuỗi công cụ và nền tảng mới để giúp khách hàng đánh bóng mô hình lớn của ngành sớm hơn và nhanh hơn.
Với sự ra đời của kỷ nguyên mô hình lớn, hiệu quả của dặm cuối cùng sẽ được cải thiện rất nhiều. Zhou Ming đã đề cập rằng một thế hệ mô hình phát triển phần mềm mới đang hình thành, chủ yếu dựa trên việc các doanh nghiệp cung cấp nhiều công cụ chức năng và người dùng hiện là trợ lý để nâng cao hiệu quả.Trên cơ sở này, thật dễ dàng để xây dựng một ứng dụng mới.
Lấy nền tảng mô hình quy mô lớn Wenxin Qianfan làm ví dụ, đây là nền tảng vận hành dịch vụ và phát triển mô hình quy mô lớn một cửa dành cho các nhà phát triển doanh nghiệp. Nó không chỉ cung cấp mô hình cơ bản (ERNIE-Bot) và các mô hình lớn nguồn mở của bên thứ ba, mà còn cung cấp nhiều công cụ phát triển AI khác nhau và môi trường phát triển hoàn chỉnh để tạo điều kiện cho khách hàng dễ dàng sử dụng và phát triển các ứng dụng mô hình lớn.
Đối với quản lý dữ liệu, SFT mô hình tự động và triển khai đám mây các dịch vụ lý luận, các nhà sản xuất hy vọng nhận ra các dịch vụ tùy chỉnh mô hình quy mô lớn một cửa. Khả năng của các nền tảng xây dựng mô hình quy mô lớn của các nhà sản xuất khác nhau về cơ bản là giống nhau và sự khác biệt nằm ở mức độ dễ sử dụng, chất lượng hiệu ứng cũng như phần mềm và phần cứng được hỗ trợ.
“Làm mô hình lớn quả thực không rẻ, nhưng cuối cùng dịch vụ mô hình lớn có thể phát huy được chỉ có hai nguyên nhân: thứ nhất là hiệu quả của mô hình tốt hơn, hai là hiệu quả của mô hình không tốt. Không cần phải nói, thứ hai là chi phí." Baidu Xin Zhou, tổng giám đốc của Smart Cloud AI và Nền tảng dữ liệu lớn, cho biết.
Trên thực tế, mô hình ngành nên dựa trên mô hình chung. Ví dụ như giáo dục phổ thông, nếu không có mô hình chung nào tốt hơn thì không thể nói đến hiệu ứng ứng dụng trong một ngành cụ thể. Bloomberg GPT do Bloomberg và Johns Hopkins đồng phát hành là một ví dụ, trong phân phối dữ liệu của nó, dữ liệu mô hình cơ bản chung chiếm một nửa, dữ liệu công khai của ngành tài chính chiếm một nửa và dữ liệu của riêng Bloomberg chiếm 0,6%.
"Để bất kỳ mô hình nào đạt được mức độ thông minh hoặc khả năng cơ bản tốt hơn, nó phải đào tạo mô hình cơ bản với số lượng tham số tương đối tốt, sau đó tích hợp một số dữ liệu chuyên môn của ngành vào mô hình cơ bản để tạo thành mô hình công nghiệp." Xin Châu nói.
Ý tưởng của Baidu là tung ra một "ông lớn" (Wenxin Yiyan) và một nền tảng công cụ rất hoàn chỉnh (Wenxin Qianfan), sau đó cung cấp các dịch vụ mô hình khác biệt theo nhu cầu thực tế của khách hàng để giúp khách hàng đưa ra lựa chọn hiệu quả nhất về chi phí. tin rằng giá sẽ không trở thành điểm nghẽn để các hãng đón nhận các mẫu xe lớn.
Ngoài chi phí gọi mô hình và chi phí đào tạo, Baidu cũng đang giúp các công ty giảm chi phí hơn nữa, nếu các công ty chỉ tập trung vào các lĩnh vực tương đối hẹp của họ, Baidu cũng có phiên bản với các thông số tương đối thấp, để vẫn đảm bảo hiệu quả của mô hình. sử dụng hoặc Chi phí đào tạo các mô hình sẽ giảm đáng kể.
Trên thực tế, không có một tiêu chuẩn chung nào cho chi phí xây dựng mô hình công nghiệp lớn.
Trước hết, các mô hình lớn cơ bản khác nhau có các thông số kỹ thuật tham số khác nhau và việc đầu tư vào phần mềm và phần cứng phải thay đổi linh hoạt theo các thông số và khả năng cơ bản của mô hình. Nếu thông số là hàng chục tỷ thì một chiếc card A100 cũng có thể chạy và bắt đầu các tác vụ hạ nguồn.
Các yêu cầu kịch bản ứng dụng tương đối tập trung hiện tại thuộc loại này, chẳng hạn như trả lời câu hỏi thông minh, viết thông minh và sáng tạo thông minh trong quản lý tri thức, cũng như các kịch bản tiếp thị toàn Internet và yêu cầu tạo mã.
Thứ hai, chi phí liên quan đến lượng dữ liệu và hướng ứng dụng. Việc định giá mô hình quy mô lớn toàn cầu hiện tại dựa trên 1000 Token làm đơn vị cơ bản. Nếu các tác vụ hạ nguồn của một doanh nghiệp rất đơn giản và có thể được thực hiện chỉ với hàng chục nghìn mã thông báo, thì chi phí của nó rất thấp và yêu cầu rất ít thẻ GPU. Lượng dữ liệu cần thiết để xây dựng một mô hình công nghiệp lớn thường ở dạng G hoặc thậm chí T, vì vậy chi phí đào tạo ngoại tuyến của nó sẽ rất cao.
**Ai đang chạy cuộc đua? **
Người chơi đổ xô đến đường đua mô hình quy mô lớn, lần này không chỉ có các công ty Internet hạng nhất mà còn có nhiều nhà lãnh đạo ngành và các công ty mới thành lập tham gia.
Ngành nào có thể đi đầu bứt phá? Có lẽ nó có thể được nhìn thấy từ ngành mà trường hợp hợp tác được đặt, như trong bảng ở đầu bài viết, tài chính, chăm sóc y tế, giáo dục, lái xe tự hành và các lĩnh vực khác thường được sử dụng.
Ví dụ: khi Alibaba Cloud phát hành mô hình lớn Tongyi vào tháng 4, họ đã thông báo rằng họ đã tiến hành khám phá hợp tác với một số công ty, đợt hợp tác đầu tiên của các công ty bao gồm OPPO Andes Smart Cloud, Geely Ô tô, Ô tô Zhiji, Chery New Energy, Momo Zhixing, Swire Coca-Cola, Bosideng, Palm Technology, v.v. Theo các báo cáo, ngành tài chính, ngành bán lẻ và một số kịch bản và ngành hướng đến người tiêu dùng quy mô lớn đã tích lũy được rất nhiều dữ liệu công khai và dữ liệu kịch bản, thuận tiện cho việc xây dựng các mô hình doanh nghiệp hoặc ngành cụ thể.
Theo thông tin công khai, số lượng mô hình công nghiệp quy mô lớn của Baidu Wenxin đã lên tới 11, bao gồm năng lượng và điện, tài chính, hàng không vũ trụ, truyền thông, phim và truyền hình, ô tô, quản lý đô thị, khí đốt, bảo hiểm, sản xuất điện tử và khoa học xã hội.
Lô đầu tiên gồm mười trường hợp ứng dụng mô hình quy mô lớn trong ngành trí tuệ nhân tạo ở Bắc Kinh được phát hành vào ngày 27 tháng 6 liên quan đến các lĩnh vực năng lượng và điện, y tế, tài chính, lái xe tự hành, xây dựng, nghiên cứu khoa học, cuộc sống và câu hỏi và câu trả lời. Được biết, trong khoảng thời gian từ ngày 27 tháng 6 đến ngày 30 tháng 7, Ủy ban Khoa học và Công nghệ Bắc Kinh và Ủy ban Quản lý Zhongguancun cũng sẽ tập trung vào các lĩnh vực chính như quản trị đô thị, y tế, nghiên cứu khoa học, tài chính thông minh, cuộc sống thông minh và thông minh. thành phố, và các đối tượng đổi mới mục tiêu trong thành phố. , sẽ thu thập hơn 80 dự án trường hợp ứng dụng mô hình quy mô lớn trong ngành.
"Khi chúng tôi trao đổi với khách hàng, chúng tôi nhận thấy rằng nhiều khách hàng không biết nhiều về các mô hình ngành, nhưng họ sẽ chủ động hỏi các mô hình ngành của Baidu." Li Jingqiu, phó tổng giám đốc Nền tảng Trí tuệ nhân tạo đám mây thông minh của Baidu, cho biết lúc này sẽ cụ thể kết hợp với thực tế sử dụng của doanh nghiệp, phân tích nhu cầu của sản phẩm và khách hàng, chẳng hạn như bạn muốn mô hình ngành có những năng lực gì, sử dụng hệ thống hay ứng dụng gì, ai sẽ sử dụng những ứng dụng này và bạn hy vọng đạt được những hiệu ứng nào... Sau khi đặt những câu hỏi này, bạn sẽ thực sự tìm thấy khách hàng Điều cần thiết là một mô hình lớn dựa trên chuỗi công cụ SFT của Wenxin Qianfan hoặc một mô hình được đào tạo trước cho ngành. Cái sau cần ít nhất vài tháng, hoặc thậm chí cả năm ngoái, để xây dựng và triển khai—từ các vấn đề kỹ thuật như xử lý dữ liệu, phân bổ tài nguyên ở lớp sức mạnh tính toán, đến đào tạo dài hạn về dữ liệu phổ biến trong ngành.
Từ sự hối hả và nhộn nhịp của mô hình quy mô lớn cơ bản đến sự khởi đầu của mô hình quy mô lớn của ngành, bước vào nửa cuối năm 2023, một quá trình chuyển đổi kinh doanh thực sự sẽ được đẩy nhanh.
Cũng rất thú vị khi so sánh con đường của các nhà sản xuất trong nước như Baidu và OpenAI/Microsoft trong lĩnh vực mô hình quy mô lớn. là một môi trường kỹ thuật Cuối cùng, nhiều người vẫn có một sự đồng thuận hời hợt - "AI của Trung Quốc thiên về ứng dụng kinh doanh và khả năng thương mại hóa." Nói thẳng ra, AI của Trung Quốc ít kiên nhẫn hơn và muốn kiếm tiền .
Nhưng mặt khác, thị trường là động lực lớn nhất để công nghệ phát triển, việc nắm bắt thời cuộc và nhịp điệu đã tạo nên những kết quả khác biệt. Lấy mô hình công nghiệp quy mô lớn làm ví dụ, Microsoft đang chờ đợi sự trưởng thành hơn nữa của công nghệ hoặc cảm thấy rằng thời điểm chưa đến và đã quá muộn. mô hình quy mô sang mô hình công nghiệp quy mô lớn, có sức sống lâu bền.
Mất mùa đông, được mùa dâu tằm, xét về kết quả, việc các mô hình lớn của ngành nội địa chạy nhanh không phải là điều xấu.