Çin'deki bir araştırmacı ekibi, kullanıcının bir sonraki sorusunu daha o sorulmadan tahmin etmek için kendi boş zamanını kullanan bir yapay zeka modeli geliştirdi. Bu yaklaşım, sorgular arasındaki gecikmeyi azaltarak konuşma ajanlarının daha hızlı ve daha sezgisel hissettirmesini sağlayabilir.
Boş döngüleri avantaja dönüştürmek
Çoğu yapay zeka sohbet robotu sorguları sırayla işler. Dinler, hesaplar ve yanıt verir. Bu, arada hiçbir iş yapılmayan boşluklar bırakır. Çinli araştırmacılar, bu boşlukları kullanıcının bir sonraki sorabileceği şeyi tahmin ederek ve olası yanıtları önceden hesaplayarak dolduran bir model tasarladı.
Yapay zeka bir soruyu yanıtlamayı bitirdiğinde boşta kalmak yerine, konuşmanın bağlamına dayalı olarak olası bir sonraki soru senaryolarını çalıştırmaya başlar. Kullanıcı bir sonraki sorguyu yazdığında veya söylediğinde, model işin bir kısmını zaten yapmış olur. Sonuç, yanıt süresinde belirgin bir düşüştür.
Kesin mimari hakkında detaylar az olsa da, araştırmacılar bulgularını bir ön baskıda paylaştılar. Modeli standart sohbet robotlarına karşı test ettiler ve ön hesaplamanın ortalama yanıt gecikmesini anlamlı bir oranda düşürdüğünü buldular. Ekip, kullanılan belirli veri setlerini veya donanımı açıklamadı.
Modelin bir sonraki hamleyi nasıl tahmin ettiği
Sistem rastgele tahmin yapmaz. Konuşmanın geçmişini ve son kullanıcı mesajını kullanarak olası takip sorularını sıralar. Örneğin, biri hava durumu tahminini sorarsa, model "Yarına ne dersin?" veya "Bu hafta sonu yağmur yağar mı?" gibi sorular için yanıtları önceden hesaplayabilir.
Bu tahmin yeteneği, ana sohbet motoruyla paralel çalışan hafif bir sinir ağına dayanır. Araştırmacılar ek yükün küçük olduğunu söylüyor – ek hesaplama, ana modelin kullandığı kaynakların yalnızca bir kısmını tüketiyor.
Bir zorluk: model yalnızca sınırlı sayıda aday için hazırlık yapabiliyor. Kullanıcı tamamen senaryo dışı bir şey sorarsa, önceden hesaplanan iş boşa gidiyor. Ekip, aday listesini şişirmeden tahmin doğruluğunu iyileştirmenin yollarını araştırıyor.
Bu, günlük yapay zeka yardımcıları için ne anlama geliyor
Sanal asistanlar, müşteri hizmetleri robotları ve sesle çalışan cihazlar bu yaklaşımdan faydalanabilir. Daha hızlı yanıtlar, özellikle kullanıcılar hızlı takip soruları sorduğunda etkileşimleri daha doğal hissettirir.
Ancak fikir sadece sohbetle sınırlı değil. Aynı teknik, kod otomatik tamamlama, görüntü oluşturma veya kullanıcının bir dizi ilgili komut verdiği herhangi bir yapay zeka sistemine uygulanabilir.
Ticari benimseme garanti değil. Modelin güvenilir tahmin modelleri oluşturmak için büyük konuşma günlükleri üzerinde eğitilmesi gerekiyor. Şirketlerin ayrıca ek hesaplama maliyetini gecikme tasarruflarına karşı tartması gerekir.
Araştırmacılar, modeli kamuya açık olarak yayınlama veya bir şirketle ortaklık kurma planlarını duyurmadı. Tahmin algoritmasını iyileştirme ve yanlış başlangıçları azaltma üzerinde çalışmaya devam ediyorlar.
