Nakikipagsosyo ang MediaTek sa Alibaba Cloud para sa malalaking modelo ng mga mobile chip

Pinagmulan:www.ichunt.com

Ayon sa Sci-Tech Innovation Board Daily, ang MediaTek, isang tagagawa ng smartphone chip, ay matagumpay na nag-deploy ng malalaking modelo na may 1.8 bilyon at 4 na bilyong parameter sa mga flagship chip nito tulad ng Dimensity 9300, na nakakamit ng malalim na adaptasyon ng malaking modelo sa mga mobile chip at pagpapagana kay Tongyi Qianwen na magpatakbo ng maraming round ng AI dialogue kahit na sa mga offline na sitwasyon. Sa hinaharap, aangkop din ng dalawang partido ang mas malalaking modelo ng iba't ibang laki, kabilang ang isa na may 7 bilyong parameter, batay sa Dimensity chip.

Sinabi ng Alibaba Cloud na makikipagtulungan ito nang malapit sa MediaTek upang magbigay ng mga end-side na malalaking modelong solusyon sa mga pandaigdigang tagagawa ng mobile phone.

Sa kasalukuyan, ang MediaTek ay ang semiconductor company na may pinakamataas na dami ng shipment ng mga smartphone chips sa buong mundo. Ayon sa pinakahuling data mula sa Canalys, nagpadala ito ng higit sa 117 milyong mga yunit sa ikaapat na quarter ng 2023, na nangunguna sa ranggo, na sinusundan ng Apple na may 78 milyong mga pagpapadala at Qualcomm na may 69 milyong mga pagpapadala. Ang Tongyi Qianwen ay isang pangunahing malaking modelo na binuo ng Alibaba Cloud. Sa ngayon, naglunsad ito ng mga bersyon na may hanggang 100 bilyong parameter at open-source na bersyon na may 72 bilyon, 14 bilyon, 7 bilyon, 4 bilyon, 1.8 bilyon, at 500 milyong parameter, pati na rin ang mga multi-modal na malalaking modelo tulad ng visual na pang-unawa modelo Qwen-VL at ang audio malaking modelo Qwen-Audio.

Sa panahon ng MWC2024, ipinakita ng MediaTek ang iba't ibang mga application ng artificial intelligence, kabilang ang Dimensity 9300 at 8300 chips. Nauunawaan na ang Dimensity 9300 chip ay sumuporta na sa aplikasyon ng 7-bilyong-parameter na malaking modelo ng Meta Llama 2 sa ibang bansa, at ito ay ipinatupad sa mga vivo X100 series na telepono sa China na may 7-bilyon-parameter na malaking modelo ng wika sa dulong bahagi, at matagumpay ding nagpatakbo ng 13-bilyong parameter na modelo sa isang end-side na pang-eksperimentong kapaligiran.

Ang pakikipagtulungan sa pagitan ng MediaTek at Alibaba Cloud ay nagmamarka sa unang pagkakataon na ang malaking modelo ng Tongyi ay nakamit ang chip-level na hardware at software adaptation. Ipinaliwanag ni Xu Dong, ang pinuno ng negosyo ng Tongyi Lab ng Alibaba, "Ang end-side AI ay isa sa mga mahahalagang senaryo para sa aplikasyon ng malalaking modelo, ngunit nahaharap ito sa maraming hamon tulad ng mga paghihirap sa hardware at software adaptation at hindi kumpletong development environment. Nalampasan ng Cloud at MediaTek ang isang serye ng mga hamon sa teknikal at engineering na may kaugnayan sa pinagbabatayan na adaptasyon at pag-unlad sa itaas na antas, tunay na pinagsama-sama ang malaking modelo sa mobile chip at nag-explore ng isang bagong deployment model ng Model-on-Chip para sa end-side AI."

Bilang karagdagan sa MediaTek, aktibong isinusulong din ng Qualcomm ang pagpapatupad ng malalaking modelo sa mga mobile device. Noong ika-18 ng Marso, inanunsyo ng Qualcomm ang paglulunsad ng pangatlong henerasyong Snapdragon 8s mobile platform, na sumusuporta sa malalaking modelo ng wika na may hanggang 10 bilyong parameter at maaari ding suportahan ang mga multi-modal generative AI models, kabilang ang Baichuan-7B, Gemini Nano, Llama 2 , at Zhipu ChatGLM mula sa mga kumpanya tulad ng Baidu Xiriver, Google, at META. Naiulat na ang Xiaomi Civi 4 Pro ang unang magkakaroon ng Snapdragon 8s mobile platform.

Sinabi ng isang consumer electronics industry analyst na ang pakikipagtulungan sa pagitan ng Alibaba Cloud at MediaTek ay nangangahulugan na ang mga domestic mobile phone manufacturer ay mayroon na ngayong alternatibo sa Baidu.

Ayon sa pag-unawa ng reporter, ang Honor at Samsung ay dati nang nag-anunsyo ng pakikipagtulungan sa Baidu Wenxin Yiyan. Halimbawa, ang pinakabagong flagship na telepono ng Samsung, ang serye ng Galaxy S24, ay nagsasama ng maraming kakayahan ng malaking modelo ng Wenxin, kabilang ang pagtawag, pagsasalin, at matalinong pagbubuod. Bukod pa rito, isiniwalat ng isang source na kasalukuyang nakikipag-ugnayan ang Apple sa Baidu, umaasa na gamitin ang teknolohiya ng artificial intelligence ng Baidu, at naganap na ang mga paunang pag-uusap sa pagitan ng dalawang partido.

Si Lin Dahua, isang nangungunang siyentipiko sa Shanghai Artificial Intelligence Laboratory, ay nagsabi na sa exponential growth ng cloud-based na malalaking modelo, ang dulong bahagi ay malapit nang pumasok sa isang ginintuang panahon ng paglago. Ang pakikipagtulungan sa cloud-end ay magiging isang mahalagang trend sa hinaharap, kung saan ang cloud-side computing ay nagtatatag ng ceiling at end-side computing na sumusuporta sa malakihang paggamit ng user.

Ayon sa mga hula mula sa consulting firm na IDC, ang dami ng shipment ng mga smartphone sa Chinese market ay aabot sa 277 milyong mga yunit sa 2024, na may year-on-year growth rate na 2.3%. Kabilang sa mga ito, aabot sa 36.6 milyon ang shipment volume ng mga AI phone, na may year-on-year growth rate na lampas sa tatlong digit. Ang aplikasyon ng malalaking modelo ng AI sa mga mobile phone ay magiging mas laganap.