V Teknoloji Jeopolitiği ve Yapay Zekâ
Model damıtma
Büyük bir yapay zekâ modelinin cevaplarını toplayıp daha küçük bir modeli bu cevaplarla eğiterek büyük modelin davranışını taklit ettirme yöntemi.
Nasıl işler
Damıtmada iki model vardır: bilgiyi veren büyük model öğretmen, onu taklit eden küçük model öğrenci olarak adlandırılır. Google'ın makine öğrenmesi sözlüğü bunu, öğretmenin tahminlerini olabildiğince sadık biçimde taklit eden daha küçük bir model kurma süreci olarak tanımlar.
Mekanizma basittir. Öğretmen modele çok sayıda soru sorulur, cevapları kaydedilir ve bu cevaplar öğrenci model için eğitim verisine dönüştürülür. OpenAI'nin geliştirici belgesi yöntemi dört adımda anlatır: büyük modeli ayarla, çıktılarını yakala, uygun cevaplardan veri seti kur, küçük modeli bu veriyle ince ayara sok.
Meşru kullanımı maliyet içindir. Öğrenci model daha hızlı çalışır, daha az bellek ve enerji harcar; karşılığında doğruluğu genellikle öğretmenin gerisinde kalır. Şirketler bu yolu kendi modellerinden ucuz sürümler türetmek için kullanır.
Tartışmalı kullanımı ise izinsiz olanıdır. Bir şirket rakibin ticari arayüzüne çok sayıda hesapla soru sorup cevapları kendi modelini eğitmek için toplarsa, öğretmenin geliştirme maliyetini ödemeden yeteneğini kopyalamış olur. OpenAI bunu çekişmeli damıtma olarak adlandırıyor; tespit istek kalıplarına dayanır ve kanıtlamak zordur.
Bizim için neden önemli
Çip ihracat kontrolü donanımın sınırı geçmesini denetler; damıtmada sınırı geçen tek şey metindir. Bu yüzden ABD'nin lisans rejimi, Çinli bir laboratuvarın ABD modellerinin cevaplarıyla kendi modelini eğitmesini durduramaz. Teknoloji rekabeti çipten model çıktısına kaydıkça kontrolün yükü devletten model sağlayıcılarının hesap ve erişim denetimine geçer; bu, ihracat kontrolünün kapsamını ve uygulanabilirliğini yeniden tartışmaya açar.