DünyaİşTeknoloji

MIT Sistemi Derin Öğrenme AI’yi “Nesnelerin İnterneti” Cihazlarına Getiriyor

MIT araştırmacıları mikrodenetleyicilere makine öğrenimi getiren MCUNet adında bir sistem geliştirdiler. İlerleme, Nesnelerin İnterneti’ne (IoT) bağlı cihazların işlevini ve güvenliğini artırabilir. Kredi: MIT

İlerleme, ev aletleri üzerinde yapay zeka sağlarken, veri güvenliğini ve enerji verimliliğini de arttırabilir.

Derin öğrenme her yerde. Yapay zekanın bu dalı sosyal medyanıza küratörlük eder ve Google arama sonuçlarınızı sunmaktadır. Yakında, derin öğrenme de hayati kontrol edebilir veya termostat ayarlayabilirsiniz. MIT araştırmacıları, giyilebilir tıbbi cihazlardaki küçük bilgisayar çipleri, ev aletleri ve “nesnelerin interneti” (IoT) oluşturan 250 milyar diğer nesne gibi, derin öğrenme sinir ağlarını yeni ve çok daha küçük yerlere getirebilecek bir sistem geliştirdiler.

MCUNet adı verilen sistem, sınırlı bellek ve işlem gücüne rağmen IoT cihazlarında derin öğrenme için eşi görülmemiş hız ve doğruluk sağlayan kompakt sinir ağları tasarlar. Bu teknoloji, enerji tasarrufu ve veri güvenliğini artırırken IoT evreninin genişlemesini kolaylaştırabilir.

Araştırma, gelecek ay yapılacak Nöral Bilgi İşlem Sistemleri Konferansı’nda sunulacak. Baş yazar Ji Lin, MIT Elektrik Mühendisliği ve Bilgisayar Bilimleri Bölümü’nde Song Han laboratuvarında doktora öğrencisi. Ortak yazarlar arasında MIT’den Han ve Yujun Lin, MIT ve Tayvan Ulusal Üniversitesi’nden Wei-Ming Chen ve MIT-IBM Watson AI Lab’dan John Cohn ve Chuang Gan yer almaktadır.

Nesnelerin İnterneti

IoT 1980’lerin başında doğdu. Mike Kazar ’78 de dahil olmak üzere Carnegie Mellon Üniversitesi’nde yüksek lisans öğrencileri, internete bir Cola-Cola makine bağlı. Grubun motivasyonu basitti: tembellik. Bilgisayarlarını kullanarak makinenin satın almak için ofislerinden ayrılmadan önce stoklandığını doğrulamak istediler. Dünyanın internete bağlı ilk cihazıydı. “Bu hemen hemen bir şaka punchline olarak kabul edildi,” Kazar, şimdi bir Microsoft mühendisi diyor. “Kimse internette milyarlarca cihaz beklemiyordu.”

Bu kola makinesinden bu yana, günlük nesneler giderek büyüyen IoT içine ağ haline gelmiştir. Buna giyilebilir kalp monitörlerinden sütünün ne zaman azaldığını gösteren akıllı buzdolaplarına kadar her şey dahildir. IoT aygıtları genellikle mikrodenetleyicilerle çalışır — işletim sistemi olmayan basit bilgisayar yongaları, minimum işlem gücü ve tipik bir akıllı telefonun belleğinden binde birinden daha az. Bu nedenle, derin öğrenme gibi örüntü tanıma görevleri IoT aygıtlarında yerel olarak çalıştırmak zordur. Karmaşık analizler için, IoT tarafından toplanan veriler genellikle buluta gönderilir ve bu da onu korsanlık yapmaya karşı savunmasız hale getirir.

“Bu küçük cihazlara doğrudan sinir ağları nasıl yerleştireceğiz? Bu çok sıcak oluyor yeni bir araştırma alanı,” Han diyor. “Google ve ARM gibi şirketlerin hepsi bu yönde çalışıyor.” Han da öyle.

MCUNet ile Han’ın grubu mikrodenetleyiciler üzerindeki sinir ağlarının çalışması olan “küçük derin öğrenme” için gereken iki bileşeni birlikte tasarladı. Bir bileşen TinyEngine, kaynak yönetimi yönlendiren bir çıkarım motoru, bir işletim sistemine benzer. TinyEngine, MCUNet’in diğer bileşeni olan, sinirsel mimari arama algoritması TinyNAS tarafından seçilen belirli bir sinirsel ağ yapısını çalıştırmak için optimize edilmiştir.

Sistem algoritması codesign

Mikrodenetleyiciler için derin bir ağ tasarlamak kolay değildir. Mevcut nöral mimari arama teknikleri önceden tanımlanmış bir şablona dayalı olası ağ yapıları büyük bir havuz ile başlar, sonra yavaş yavaş yüksek doğruluk ve düşük maliyetli bir bulabilirsiniz. Yöntem çalışırken, en verimli değil. “Bu GPU’lar veya akıllı telefonlar için oldukça iyi çalışabilir,” Lin diyor.

Böylece Lin TinyNAS’ı geliştirdi, özel boyutlu ağlar oluşturan bir sinirsel mimari arama yöntemi. “Farklı güç kapasiteleri ve farklı bellek boyutlarıile gelen bir çok mikrodenetleyicimiz var,” diyor Lin. “Bu yüzden farklı mikrodenetleyiciler için arama alanını optimize etmek için algoritmayı [TinyNAS] geliştirdik.” TinyNAS’ın özelleştirilmiş yapısı, gereksiz parametreler olmadan belirli bir mikrodenetleyici için mümkün olan en iyi performansla kompakt sinir ağları oluşturabileceği anlamına gelir. “Sonra mikrodenetleyici için son, verimli modeli teslim,” Lin diyor.

Bu küçük sinir ağını çalıştırmak için bir mikrodenetleyicinin yalın bir çıkarım motoruna da ihtiyacı vardır. Tipik bir çıkarım motoru bazı ölü ağırlık taşır – nadiren çalıştırabilirsiniz görevler için talimatlar. Ekstra kod bir dizüstü bilgisayar veya akıllı telefon için sorun teşkil etmez, ancak kolayca bir mikrodenetleyici ezmek olabilir. Han, “Çipten uzak belleği yok ve diski de yok” diyor. “Her şey bir araya flaş sadece bir megabayt, bu yüzden gerçekten dikkatle böyle küçük bir kaynak yönetmek zorunda.” Cue TinyEngine.

Araştırmacılar, çıkarım motorlarını TinyNAS ile birlikte geliştirdiler. TinyEngine, TinyNAS’ın özelleştirilmiş sinir ağını çalıştırmak için gerekli olan temel kodu oluşturur. Herhangi bir deadweight kodu atılır, hangi derleme-zaman aşağı keser. “Biz sadece ihtiyacımız olanı saklıyoruz,” Diyor Han. “Ve sinir ağını tasarladığımızdan beri, neye ihtiyacımız olduğunu biliyoruz. Sistem algoritması işbirliğinin avantajı budur.” TinyEngine grubun testlerinde, derlenmiş ikili kodun boyutu 1,9 ve beş kat arasında Google ve ARM karşılaştırılabilir mikrodenetleyici çıkarım motorları daha küçüktü. TinyEngine ayrıca, en yüksek bellek kullanımını neredeyse yarıya indiren yerinde derinlemesine kıvrım da dahil olmak üzere çalışma süresini azaltan yenilikler de içerir. TinyNAS ve TinyEngine’i kodladıktan sonra, Han’ın ekibi MCUNet’i test etti.

MCUNet’in ilk mücadelesi görüntü sınıflandırmasıydı. Araştırmacılar, sistemi etiketli görüntülerle eğitmek, daha sonra yeni lerini sınıflandırma yeteneğini test etmek için ImageNet veritabanını kullandılar. Test ettikleri ticari bir mikrodenetleyicide, MCUNet yeni görüntülerin yüzde 70,7’sini başarıyla sınıflandırdı — önceki son teknoloji sinir ağı ve çıkarım motoru buydu sadece yüzde 54 doğruydu. “Hatta yüzde 1’lik bir iyileşme önemli kabul edilir,” Lin diyor.

Ekip, diğer üç mikrodenetleyicinin ImageNet testlerinde de benzer sonuçlar elde etti. Ve hem hız hem de doğruluk, MCUNet ses ve görsel “uyandırma kelime” görevleri için rekabet yendi, bir kullanıcı ses ipuçları kullanarak bir bilgisayar ile etkileşim başlatır nerede (düşünün: “Hey, Siri”) ya da sadece bir odaya girerek. Deneyler, MCUNet’in çok sayıda uygulamaya uyarlanabilirliğini vurgular.

“Büyük potansiyel”

Umut verici test sonuçları Han’a mikrodenetleyiciler için yeni endüstri standardı olacağı umudunu veriyor. “Bu büyük bir potansiyele sahip,” diyor.

Berkeley’deki California Üniversitesi’nde bilgisayar bilimcisi olan ve çalışmaya dahil olmayan Kurt Keutzer, ilerlemenin “derin sinir ağı tasarımının sınırlarını, küçük enerji tasarruflu mikrodenetleyicilerin hesaplama lı etki alanına daha da genişletdiğini” söylüyor. MCUNet’in “en basit mutfak aletlerine bile akıllı bilgisayar görme yetenekleri getirebileceğini veya daha akıllı hareket sensörlerine olanak sağlayacağını” da ekliyor.

MCUNet, IoT aygıtlarını da daha güvenli hale getirebilir. “Önemli bir avantajı gizliliği korumaktır,” Han diyor. “Verileri buluta aktarmanız gerekmez.”

Verilerin yerel olarak analiz edilmesi, kişisel sağlık verileri de dahil olmak üzere kişisel bilgilerin çalınma riskini azaltır. Han, MCUNet ile sadece kullanıcıların kalp atışlarını, kan basıncını ve oksijen seviyelerini algılamayan değil, aynı zamanda bu bilgiyi analiz edip anlamalarına yardımcı olan akıllı saatler öngörüyor. MCUNet ayrıca, sınırlı internet erişimine sahip araçlarda ve kırsal alanlardaki IoT cihazlarına derin öğrenme getirebilir.

Ayrıca, MCUNet’in ince bilgi işlem ayak izi ince karbon ayak izine dönüşür. “Bizim büyük hayalyeşil AI için,” Han, büyük bir sinir ağı eğitim beş araba ömür boyu emisyon eşdeğer karbon yakabilir sözlerine ekledi. Mikrodenetleyicideki MCUNet bu enerjinin küçük bir kısmını gerektirir. Han, “Nihai hedefimiz, daha az hesaplamalı kaynak, daha az insan kaynağı ve daha az veriyle verimli ve küçük bir bilgi sağlamaktır.” diyor.

İlgili Makaleler

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Başa dön tuşu