Melangkah Maju Saat Belajar Di Tepi

“Dengan kekuasaan tepi AI di telapak tangan Anda, bisnis Anda tidak akan terhentikan.”

Itulah yang tampaknya dibaca oleh pemasaran untuk perusahaan kecerdasan buatan. Semua orang tampaknya memiliki analitik intelijen bisnis bertenaga AI skala cloud di ujung tombak. Meskipun terdengar mengesankan, kami tidak yakin bahwa omong kosong pemasaran berarti apa-apa. Tapi seperti apa AI pada perangkat edge akhir-akhir ini?

Menjadi yang terdepan hanya berarti bahwa evaluasi AI yang sebenarnya dan bahkan mungkin penyempurnaan berjalan secara lokal di perangkat pengguna daripada di beberapa lingkungan cloud. Ini adalah kemenangan ganda, baik untuk bisnis maupun pengguna. Privasi dapat lebih mudah dipertahankan karena lebih sedikit informasi yang dikirimkan kembali ke lokasi pusat. Selain itu, AI dapat bekerja dalam skenario di mana server di suatu tempat mungkin tidak dapat diakses atau memberikan respons dengan cukup cepat.

Google dan Apple masing-masing memiliki perpustakaan AI, ML Kit dan Core ML. Ada alat untuk mengonversi model Tensorflow, PyTorch, XGBoost, dan LibSVM ke dalam format yang dipahami CoreML dan ML Kit. Tetapi solusi lain mencoba menyediakan lapisan platform-agnostik untuk pelatihan dan evaluasi. Kami sebelumnya juga telah membahas Tensorflow Lite (TFL), versi Tensorflow yang telah dipangkas, yang telah matang secara signifikan sejak 2017.

Untuk artikel ini, kita akan melihat PyTorch Live (PTL), kerangka kerja yang lebih ramping untuk menambahkan model PyTorch ke smartphone. Tidak seperti TFL (yang dapat berjalan di RPi dan di browser), PTL berfokus sepenuhnya pada Android dan iOS dan menawarkan integrasi yang erat. Ia menggunakan lingkungan yang didukung reaksi-asli yang berarti bahwa ia sangat diarahkan ke dunia node.js.

Tidak Perlu Awan

Saat ini, PTL sangat awal. Ini berjalan di macOS (meskipun tidak ada dukungan Apple Silicon), tetapi kompatibilitas Windows dan Linux tampaknya akan datang. Muncul dengan CLI praktis yang membuat memulai proyek baru relatif tidak menyakitkan. Setelah menginstal dan membuat proyek baru, pengalamannya lancar, dengan beberapa perintah menangani semuanya. Tutorialnya sangat mudah, dan segera kami memiliki demo yang dapat mengenali angka.

Sudah waktunya untuk mengambil tutorial lebih jauh dan membuat model khusus. Dengan menggunakan kumpulan data EMNIST, kami membuat model resnet9 terlatih dengan kumpulan data huruf menggunakan bantuan dari repo GitHub yang bermanfaat. Setelah kami memiliki model, cukup sederhana untuk menggunakan utilitas PyTorch untuk mengekspor model ke lingkungan lite. Dengan beberapa penyesuaian pada kode (yang dimuat ulang secara langsung di simulator), ia mengenali karakter alih-alih angka.

Kami menduga seseorang yang sedikit lebih mendalami dunia pembelajaran mesin akan dapat mengambil ini lebih jauh dari kami. PTL memiliki demo menarik lainnya, seperti pengenalan suara di perangkat serta segmentasi dan pengenalan video langsung. Secara keseluruhan pengalamannya mudah, dan skenario yang kami coba relatif mudah diterapkan.

Jika Anda sudah berada di dunia reaksi-asli ponsel cerdas, PTL tampaknya mudah diintegrasikan dan digunakan. Di luar itu, banyak yang tidak didukung. Tensorflow Lite juga dibatasi ketika kami pertama kali membahasnya dan sejak itu telah matang dan memperoleh platform dan fitur baru, menjadi perpustakaan yang kuat dengan banyak platform yang didukung. Pada akhirnya, kita akan melihat seperti apa PyTorch Live tumbuh. Sudah ada dukungan untuk GPU dan mesin saraf di cabang beta.