Kasus Lilli dari McKinsey memberikan pemikiran perkembangan kunci untuk pasar AI perusahaan: peluang pasar potensial dari Komputasi Edge + model kecil. Asisten AI yang mengintegrasikan 100.000 dokumen internal ini tidak hanya mencapai tingkat adopsi 70% di antara karyawan, tetapi juga digunakan rata-rata 17 kali setiap minggu, yang menunjukkan daya tarik produk yang jarang terjadi dalam alat perusahaan. Berikut adalah pemikiran saya:
1）Keamanan data perusahaan adalah titik nyeri: Aset pengetahuan inti yang terakumulasi selama 100 tahun oleh McKinsey serta beberapa data spesifik yang terakumulasi oleh usaha kecil dan menengah memiliki sensitivitas data yang sangat tinggi, dan tidak boleh diproses di cloud publik. Bagaimana mengeksplorasi keadaan keseimbangan "data tidak keluar dari lokal, kemampuan AI tidak terpengaruh" adalah kebutuhan mendesak di pasar saat ini. Komputasi Edge adalah arah eksplorasi;
2）Model kecil profesional akan menggantikan model besar umum: Pengguna perusahaan tidak memerlukan model umum "seratus miliar parameter, serba bisa", tetapi asisten profesional yang dapat menjawab dengan tepat masalah di bidang tertentu. Sebaliknya, terdapat konflik alami antara universalitas model besar dan kedalaman profesional, dalam skenario perusahaan seringkali lebih mengutamakan model kecil;
3）Keseimbangan biaya pembangunan infrastruktur AI sendiri dan pemanggilan API: Meskipun kombinasi komputasi edge dan model kecil memerlukan investasi awal yang besar, biaya operasi jangka panjang akan berkurang secara signifikan. Bayangkan jika 45000 karyawan sering menggunakan model AI besar yang berasal dari pemanggilan API, ketergantungan yang dihasilkan, peningkatan skala penggunaan dan opini akan membuat pembangunan infrastruktur AI sendiri menjadi pilihan yang rasional bagi perusahaan besar dan menengah;
4）Peluang baru di pasar perangkat keras tepi: Pelatihan model besar membutuhkan GPU berkinerja tinggi, tetapi persyaratan perangkat keras untuk inferensi tepi sangat berbeda. Produsen chip seperti Qualcomm dan MediaTek yang mengoptimalkan prosesor untuk AI tepi sedang menghadapi peluang pasar yang baik. Ketika setiap perusahaan ingin menciptakan "Lilli" mereka sendiri, chip AI tepi yang dirancang khusus untuk efisiensi tinggi dan daya rendah akan menjadi kebutuhan infrastruktur.
5）Pasar AI web3 yang terdesentralisasi juga akan diperkuat: setelah permintaan daya komputasi, penyetelan halus, dan algoritma pada model kecil oleh perusahaan mulai meningkat, bagaimana menyeimbangkan penjadwalan sumber daya akan menjadi masalah. Penjadwalan sumber daya yang terpusat secara tradisional akan menjadi tantangan, yang secara langsung akan menciptakan permintaan pasar yang besar untuk jaringan penyetelan halus model kecil web3AI yang terdesentralisasi, platform layanan daya komputasi terdesentralisasi, dan sebagainya.
Ketika pasar masih membahas batas kemampuan umum AGI, sangat menyenangkan melihat banyak pengguna dari kalangan perusahaan telah menggali nilai praktis AI. Jelas, dibandingkan dengan kemajuan monopoli sumber daya yang bersaing dalam hal daya komputasi dan algoritma di masa lalu, ketika pasar memfokuskan perhatian pada Komputasi Edge + model kecil, itu akan membawa lebih banyak vitalitas pasar.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Analisis Singkat tentang Lilli McKinsey: Apa Pandangan Perkembangan yang Diberikan untuk Pasar AI Perusahaan?
Kasus Lilli dari McKinsey memberikan pemikiran perkembangan kunci untuk pasar AI perusahaan: peluang pasar potensial dari Komputasi Edge + model kecil. Asisten AI yang mengintegrasikan 100.000 dokumen internal ini tidak hanya mencapai tingkat adopsi 70% di antara karyawan, tetapi juga digunakan rata-rata 17 kali setiap minggu, yang menunjukkan daya tarik produk yang jarang terjadi dalam alat perusahaan. Berikut adalah pemikiran saya:
1）Keamanan data perusahaan adalah titik nyeri: Aset pengetahuan inti yang terakumulasi selama 100 tahun oleh McKinsey serta beberapa data spesifik yang terakumulasi oleh usaha kecil dan menengah memiliki sensitivitas data yang sangat tinggi, dan tidak boleh diproses di cloud publik. Bagaimana mengeksplorasi keadaan keseimbangan "data tidak keluar dari lokal, kemampuan AI tidak terpengaruh" adalah kebutuhan mendesak di pasar saat ini. Komputasi Edge adalah arah eksplorasi;
2）Model kecil profesional akan menggantikan model besar umum: Pengguna perusahaan tidak memerlukan model umum "seratus miliar parameter, serba bisa", tetapi asisten profesional yang dapat menjawab dengan tepat masalah di bidang tertentu. Sebaliknya, terdapat konflik alami antara universalitas model besar dan kedalaman profesional, dalam skenario perusahaan seringkali lebih mengutamakan model kecil;
3）Keseimbangan biaya pembangunan infrastruktur AI sendiri dan pemanggilan API: Meskipun kombinasi komputasi edge dan model kecil memerlukan investasi awal yang besar, biaya operasi jangka panjang akan berkurang secara signifikan. Bayangkan jika 45000 karyawan sering menggunakan model AI besar yang berasal dari pemanggilan API, ketergantungan yang dihasilkan, peningkatan skala penggunaan dan opini akan membuat pembangunan infrastruktur AI sendiri menjadi pilihan yang rasional bagi perusahaan besar dan menengah;
4）Peluang baru di pasar perangkat keras tepi: Pelatihan model besar membutuhkan GPU berkinerja tinggi, tetapi persyaratan perangkat keras untuk inferensi tepi sangat berbeda. Produsen chip seperti Qualcomm dan MediaTek yang mengoptimalkan prosesor untuk AI tepi sedang menghadapi peluang pasar yang baik. Ketika setiap perusahaan ingin menciptakan "Lilli" mereka sendiri, chip AI tepi yang dirancang khusus untuk efisiensi tinggi dan daya rendah akan menjadi kebutuhan infrastruktur.
5）Pasar AI web3 yang terdesentralisasi juga akan diperkuat: setelah permintaan daya komputasi, penyetelan halus, dan algoritma pada model kecil oleh perusahaan mulai meningkat, bagaimana menyeimbangkan penjadwalan sumber daya akan menjadi masalah. Penjadwalan sumber daya yang terpusat secara tradisional akan menjadi tantangan, yang secara langsung akan menciptakan permintaan pasar yang besar untuk jaringan penyetelan halus model kecil web3AI yang terdesentralisasi, platform layanan daya komputasi terdesentralisasi, dan sebagainya.
Ketika pasar masih membahas batas kemampuan umum AGI, sangat menyenangkan melihat banyak pengguna dari kalangan perusahaan telah menggali nilai praktis AI. Jelas, dibandingkan dengan kemajuan monopoli sumber daya yang bersaing dalam hal daya komputasi dan algoritma di masa lalu, ketika pasar memfokuskan perhatian pada Komputasi Edge + model kecil, itu akan membawa lebih banyak vitalitas pasar.