Google, I/O geliştirici konferansında en yeni dil modeli (LLM) olan PaLM 2 hakkında önemli detayları paylaştı. PaLM 2, şirketin OpenAI’ın ChatGPT’sine rakip olan Google’ın Bard sohbet aracını güçlendirecek.
Şirketin duyurduğu yeni yapay zeka özelliklerinin çoğu için temel model işlevi görecek. OpenAI’ye benzer şekilde Google, parametre sayıları da dahil olmak üzere bu yeni nesil modeli nasıl eğittiğine ilişkin pek çok teknik detayı paylaşmadı. Google’ın konuyla alakalı verdiği tek teknik ayrıntı, PaLM 2’nin şirketin JAX ve TPU v4 altyapısı üzerine inşa edildiği oluyor.
Google, yeni modelin sağduyu, matematik ve mantıkta daha iyi olduğunu söylüyor. Şirket, modeli büyük miktarda matematik ve fen metinlerinin yanı sıra matematiksel ifadeler üzerine de eğitildi. Dile odaklanan büyük dil modellerinin, üçüncü taraf eklentilere başvurmadan matematik sorularını ele almakta zorlandığı biliniyor. Google ise PaLM 2’nin matematik bulmacalarını kolayca çözebileceğini, problemler üzerinden akıl yürütebileceğini ve hatta diyagramlar sağlayabileceğini savunuyor.
PaLM 2 ayrıca artık kod yazmak ve hata ayıklamak için geliştirilmiş destekler de sunuyor. Model, JavaScript ve Python gibi popüler dillerin yanı sıra Prolog, Verilog ve Fortran gibi 20 programlama dilinde eğitildi. PaLM 2, Google’ın diğer şeylerin yanı sıra kod tamamlama ve oluşturma hizmetinin bir parçası olarak bugün de piyasaya sürdüğü, kodlama ve hata ayıklamaya yönelik özel modeli Codey’nin temelini oluşturuyor.
Ayrıca Google, PaLM 2’nin 100’den fazla dil içeren bir yapı üzerinde eğitildiğinin altını çizerek, Google’ın deyimiyle, önceki modellere göre daha incelikli ifadeler de dahil olmak üzere “çok dilli görevlerde mükemmel” hale getirdi.