Uç cihazlarda cihaz içi üretken yapay zeka
Her yıl iki milyardan fazla bağlantılı uç cihaza güç sağlayan lider bir küresel “fabless” yarı iletken şirketi olan MediaTek, şirketin yeni nesil açık kaynaklı Büyük Dil Modeli (LLM) olan Meta’s Llama 2 ile yakın bir şekilde çalıştığını duyurdu. En son APU’ları ve NeuroPilot AI Platformunun yanı sıra Meta’nın LLM’sini kullanan MediaTek; akıllı telefonlar, nesnelerin interneti, araçlar, akıllı ev ve diğer uç cihazlarda yapay zekâ uygulama geliştirmeyi hızlandırmak için tasarlanmış eksiksiz bir uç bilgi işlem ekosistemi oluşturmayı hedefliyor.
Şu anda büyük kısmı bulut bilgi işlem aracılığıyla gerçekleştirilen üretici yapay zekâ işlemlerinin MediaTek’in Llama 2 modellerini kullanmaya başlamasıyla birlikte cihaz üzerinde doğrudan üretici yapay zekâ uygulamalarının çalışmaya başlayacağı belirtiliyor. Böylece, geliştiricilere ve kullanıcılara sorunsuz performans, daha fazla gizlilik, daha iyi güvenlik ve güvenilirlik, daha düşük gecikme süresi, çok az veya hiç bağlantı olmayan alanlarda çalışabilme ve daha düşük işletme maliyeti gibi avantajlar sağlanacak.
Cihaz üzerindeki üretici yapay zeka teknolojisinden tam olarak yararlanmak için uç cihaz üreticilerinin, bilgi işlem yeteneklerini geliştirecek yüksek bilgi işleme, düşük güçlü AI işlemcilere ve daha hızlı, daha güvenilir bağlantıya sahip olmaları gerekecek. Bugün yola çıkan her MediaTek destekli 5G akıllı telefon SoC’si, AI Gürültü Azaltma, AI Süper Çözünürlük, AI MEMC ve daha fazlası gibi çok çeşitli üretken AI özelliklerini gerçekleştirmek için tasarlanmış APU’larla donatıldı.
Ayrıca, bu yıl içinde tanıtılacak olan MediaTek’in bir sonraki nesil amiral gemisi yonga seti, Llama 2’yi çalıştırmak için optimize edilmiş bir yazılımın yanı sıra Transformer omurgası hızlandırması, azaltılmış izin erişimi ve DRAM bant genişliği kullanımı gibi gelişmiş bir APU’ya sahip olacak, böylece LLM ve AIGC performansı daha da artırılacak. Bu gelişmeler, cihazda üretici yapay zekâ kullanım senaryoları için gereken hızı sağlıyor.
MediaTek’in Kablosuz İletişim İş Birimi Kurumsal Üst Düzey Başkan Yardımcısı ve Genel Müdürü JC Hsu, “Üretici yapay zekanın artan popülaritesi, dijital dönüşümde önemli bir trend… Biz de Llama 2 geliştiricileri ve kullanıcılarının AI alanında tam anlamıyla yenilik yapabilmeleri için gereken araçları sağlamayı amaçlıyoruz. Meta ile iş birliğimiz sayesinde, uç cihazlarda artık daha fazla donanım ve yazılım sunabiliyoruz” dedi. Öte yandan MediaTek, SoC tarafından güçlendirilen en iyi yeni nesil akıllı telefonlar için geliştirilecek Llama 2 tabanlı AI uygulamalarını yıl sonuna kadar pazara sunmayı planlıyor.
