ChatGPT Nasıl Çalışır? Basitçe Açıklanan Teknoloji

Son birkaç yıldır herkesin dilinde olan bir şey var: ChatGPT.

Öğretmenler öğrencilerin ev ödevlerini yazdığından endişeleniyor. 

Yazarlar Yapay zekanın onların yerine kitap ve hikaye yazmasından korkuyorlar. 

Kodlayıcılar insanların yapabileceğinden daha iyi web siteleri ve uygulamalar oluşturacağından korkuyorlar. 

Hatta bazılarının tahminine göre milyonlarca iş ortadan kalkabilir Yapay zeka yüzünden. 

Hepimiz duymuşuzdur. Ama hiç merak ettiniz mi nasıl ChatGPT çalışıyor mu? 

ChatGPT bir çocuğun ödevini nasıl yazıyor? Bir soru yazdığınızda ve o gerçek bir insan gibi cevap verdiğinde perde arkasında neler oluyor? 

Bir makine kelimeleri bizim anladığımız gibi anlamadığı halde nasıl şiirler, hikayeler ve kodlar yazabilir?

Bu blogda, içeriye bakacağız ChatGPT ve ChatGPT'nin ne olduğunu ve nasıl çalıştığını adım adım açıklayın.

Bir şeyleri nasıl hatırladığını, sınırlarının ne olduğunu ve bunun gibi araçların ilk etapta nasıl oluşturulduğunu öğreneceksiniz. 

Hadi başlayalım!

Temel: GPT Dil Modelleri

ChatGPT, bir insan gibi anlamak ve yazmak için yapılmış bir yapay zekadır. 

Buna bir dil modeli Çünkü dil ile çalışır - onu okur, tahmin eder ve üretir. 

Ama insanlar gibi anlamıyor. Düşünmez. Gerçekleri bilmez. Sadece kalıplara bakar. 

Örneğin, 

• Eğer yazarsan, "Gökyüzü..."
• Şöyle yazabilir "Mavi." 

Gökyüzünün mavi olduğunu bildiği için değil, eğitim sırasında bu cümleyi milyonlarca kez gördüğü için. "Mavi" kelimesinin genellikle "gökyüzü" kelimesinden sonra geldiğini öğrenmiştir.

Bu tür bir yapay zekaya LLManlamına gelen Büyük Dil Modeli. 

İnsanların kelimeleri nasıl kullandığını anlamak için tonlarca ders kitabı, web sitesi ve daha fazlası üzerinde eğitilmiştir. Ama anlam için okumuyor. Kelimelerin genellikle birbirlerinin yanında nasıl göründüğünü öğreniyor. 

GPT özel bir LLM türüdür.

GPT'nin açılımı "Üretken Önceden Eğitilmiş Transformatör."

• Üretken - yeni metin oluşturabilir.
• Önceden eğitilmiş - sizinle konuşmadan önce öğrenir.
• Transformatör - ChatGPT'nin çalışmasının arkasındaki temel teknoloji, kelimelerin bir cümle, paragraf ve hatta konuşmada birbirleriyle nasıl ilişkili olduğunu anlamasına yardımcı olur.

İşte GPT'nin yıllar içinde piyasaya sürülen farklı versiyonları.

ChatGPT Nasıl Çalışır?

İşte ChatGPT'nin nasıl çalıştığına ve girdilerinizi beş temel adımda nasıl işlediğine dair basitleştirilmiş bir döküm. 

• Adım 1: Büyük Veri Üzerinde Ön Eğitim

Büyük Dil Modelleri (LLM'ler) ChatGPT gibi, dil kalıplarını öğrenmek için internetten büyük miktarda metin işlenerek önceden eğitilmiştir. 

Ön eğitim sırasında model şunları işler trilyonlarca token (küçük metin parçaları). 

A belirteç modelin girdiyi nasıl tokenize ettiğine bağlı olarak bir kelime, bir kelimenin parçası veya hatta noktalama işareti olabilir. 

Örneğin, 

ChatGPT'ye aşağıdaki gibi bir matematik sorusu sorarsınız:

Problem:

• 2 + 3 = ? 

ChatGPT, eğitimi sırasında kitaplardan, haberlerden, makalelerden, Wikipedia'dan, hikayelerden, bilim makalelerinden ve hatta Reddit başlıklarından yüz milyarlarca kelime okuyor.

Bu eğitim ve okuma, toplama işleminin nasıl çalıştığını anlamasına yardımcı olur. 

Örneğin,

Öğrenebilir değişmeli özellik (yani, 2 + 3 = 3 + 2) bu tür bağlamlar aracılığıyla.

ChatGPT aşağıdaki gibi birçok örnekle karşılaşmaktadır 

• "2 + 3 = 5," 
• "7 + 8 = 15," 
• "9 + 4 = 13." 

Sadece bu belirli örnekleri öğrenmez, toplama işleminin modelini de öğrenir. 

Sayıların "+" sembolü ile nasıl etkileşime girdiğini ve sonucun tipik olarak "=" sembolünü nasıl takip ettiğini anlar. 

• Adım 2: Transformatör Mimarisi

ChatGPT büyük miktarda kelime gördükten sonra, tüm bu bilgileri anlamlandırabilecek bir beyne ihtiyaç duydu. Yapay zekanın bu beynine "Transformatör."

Transformer'ı diğerlerinden ayıran özelliği dikkati odaklamak girdinin en önemli kısımlarına odaklanır, tıpkı dili işleme şeklimiz gibi. 

Örneğin,

Bunu bir matematik problemine uygulayalım:

• "5 ve 7'nin toplamı kaçtır?"

Transformer bunu işlerken sadece kelime kelime gitmez. 

Bunun yerine, tüm bağlama - "toplam," "5," ve "7" - aynı anda bakar. 

Şunu kabul eder "toplam" şu anlama gelir "ekleme" ve "5" ve "7 "nin söz konusu sayılar olduğunu. 

Transformatör daha sonra daha fazla "dikkat" Cevabı doğrudan etkileyen kelimelere, yani işleme ("toplam") ve sayılara ("5" ve "7") odaklanır. 

Bu, ChatGPT'nin nasıl çalıştığının önemli bir parçasıdır - bu problemi doğrusal olarak işlemez, ancak unsurlar arasındaki ilişkiyi anlamasına yardımcı olacak bir şekilde. 

Transformer'ı bu kadar güçlü kılan şey, her şeye bağlam içinde bakabilme becerisidir. 

Sırada ne olduğunu bulmak yerine, cümlenin ilgili parçalarını birbirine bağlayarak anlamı anlar. 

• Adım 3: Tokenizasyon ve Dil İşleme

ChatGPT'ye metin yazdığınızda, isteminizi küçük parçalara böler belirteçler. 

Bazı belirteçler kelimelerin tamamı iken, diğerleri kelimelerin sadece bir kısmıdır. 

Örneğin, 

Giriş yaptığınızda "ChatGPT akıllıdır," ChatGPT bunu aşağıdaki belirteçlere böler:

["Chat," "G," "PT," "is," "smart"]

"ChatGPT" adı bile farklı tokenlara bölünmüştür. 

Bu süreç şu şekilde adlandırılır tokenization. Modeller tam sözcükler yerine belirteçler üzerinde eğitildiğinden, işleyebildiği için çok daha esnektir:

Birden fazla dil (farklı diller farklı kelime yapılarına sahip olduğundan),

Argo ve kısaltmalar ("you" için "u" veya "I don't know" için "idk" gibi).

Uydurma kelimeler veya varyasyonlar bile ("unbelievable" kelimesini "un," "believ," "able" olarak ayırmak gibi). 

• Adım 4: İnce Ayar ve Güvenlik Katmanları

ChatGPT büyük miktarda veri üzerinde eğitildikten sonra, prime time için tam olarak hazır değildir. 

En faydalı, kibar ve güvenli şekilde yanıt verdiğinden emin olmak için hala yardıma ihtiyacı var. 

İçinden denetimli ince ayarinsan hakemler, ChatGPT'ye neyin iyi bir yanıt olduğuna dair örnekler verir. Örneğin, 

• "5 + 7 kaç eder?"
  • Kötü cevap: Bu kolay bir soru. Bunu neden bilmiyorsun?
  • İyi cevap: 5 ve 7'nin toplamı 12'dir. 

Zamanla ChatGPT daha kibar, net ve odaklanmış olmak için daha iyi örneklerle eğitilir. 

Sağlam bir temele sahip olduğunda, aşağıdakiler aracılığıyla daha gelişmiş yardım alır İnsan Geri Bildiriminden Takviyeli Öğrenme (RLHF).

Bu süreç şu şekilde ilerler:

• ChatGPT cevaplar. 
• İnsan oranı Bu cevap ne kadar iyi olduğuna, yani ne kadar kullanışlı, doğru ve güvenli olduğuna bağlıdır. 
• ChatGPT öğreniyor ve gelecekte daha iyi cevaplar vermeye çalışmaktadır. 

Örneğin, ChatGPT'nin aşağıdaki gibi bir matematik problemini yanıtladığını düşünün "12 bölü 4 kaç eder?": 

• ChatGPT cevaplıyor: "3."
• İnsan geri bildirimi: Bu cevap harika. 
• ChatGPT öğrenir: Benzer sorular geldiğinde bu tür bir yanıt vermeye devam eder. 

Amaç, ChatGPT'nin tıpkı geçmiş hatalarından ders alan bir öğrenci gibi kendini geliştirmeye devam etmesidir. 

Son olarak, insanlar tarafından yapılan ince ayarın önemli bir amacı da insani değerlerle uyumludur. 

Sadece akıllı değil, aynı zamanda yararlı, zararsız ve dürüst olmasını istiyoruz. 

Örneğin, Eğer bir kullanıcı aşağıdaki gibi karmaşık bir soru sorarsa, "-1'in karekökü kaçtır?" 

Herhangi bir bağlam olmadan "cevap i'dir" gibi yanlış bir cevap vermek yerine, sağlayacaktır:

Güvenli, hizalanmış yanıt: -1'in karekökü hayali bir sayıdır ve genellikle 'i' olarak gösterilir. Bu kavram ileri matematikte kullanılır. 

• Adım 5: İstem İçeri, Yanıt Dışarı

Bu, ChatGPT'nin istemlerinizi yanıtlamaya hazır olduğu son adımdır. 

Komut istemi, konuşmayı başlatmak ve yanıt almak için ChatGPT'ye yazdığınız metindir (örn. soru, komut veya ifade). 

Örneğin, 

Komut istemini girersiniz "Bugün hava nasıl?" 

İşte ChatGPT'nin perde arkasında nasıl çalıştığı:

Bir istem yazarsınız → ChatGPT bunu belirteçlere ayırır → Belirteçlerdeki kalıpları arar → Bir sonraki kelimeyi tahmin eder → Bir yanıt oluşturur → Metninize göre tonu ayarlar → Son yanıtınızı alır

Komut istemi için "Bugün hava nasıl?", ChatGPT muhtemelen şöyle bir yanıt verecektir: 

"Gerçek zamanlı hava durumu güncellemeleri veremem, ancak en doğru bilgi için Weather.com gibi bir hava durumu sitesini veya uygulamasını ya da yerel haberleri kontrol edebilirsiniz."

Bunun nedeni, ChatGPT'nin gerçek zamanlı bilgi alan bir araca bağlı olmadığı sürece canlı veri erişimine sahip olmamasıdır. 

Konuşmaları Nasıl "Hatırlıyor"

ChatGPT ile konuştuğunuzda, daha önce söylediğiniz şeyleri hatırlıyor gibi görünüyor. 

Öyle de - ama sadece sohbet açıkken. Yazdığınız her şeyin yazıldığı büyük bir not defteri hayal edin: 

Sen söyle:

• Köpeğimin adı Max.

Birkaç satır sonra diyorsun ki:

• Max hangi numaraları öğrenebilir?

ChatGPT noktaları birleştirir. Max'in sizin köpeğiniz olduğunu hatırlıyor, çünkü hala not defterinde. 

Bu not defterine bağlam penceresi, ve sınırlı sayıda sözcük (belirteç olarak adlandırılır) tutar. 

Bazı versiyonlar yaklaşık 8.000 jeton tutabilirken, en yenileri 32.000 jetona kadar çıkabilmektedir. 

Ancak sınıra ulaştığınızda, yeni metne yer açmak için en eski kısımları silmeye başlamak zorundadır. 

Yani eğer derseniz ki "Köpeğimin adı Max" uzun bir sohbetin başlangıcında - ve sonra 50 paragraf sonra sor, "Onun için iyi bir tasma nedir?" - "onun" kim olduğunu unutabilir. 

Çünkü bu bilgi not defterinden çoktan silinmiştir. 

Şimdi sohbetler arasındaki hafıza hakkında konuşalım.

Normalde, sohbeti kapattığınızda not defteri temizlenir. 

Böylece ChatGPT'yi bir sonraki açışınızda yeni başlar.

 Ancak özel belleği açarsanız, ChatGPT oturumlar arasında bazı şeyleri hatırlayabilir. Örneğin, 

• Sen söyle: Sweet Crumbs adında küçük bir online fırın işletiyorum. 
• Bir hafta sonra, diyorsun ki: Bana bir ürün açıklaması yazın. 
• Cevap verebilir: Elbette! İşte Sweet Crumbs kurabiyeleriniz için bir açıklama...

Her şeyi hatırlamaz. Yalnızca izin verdiklerinizi hatırlar ve bir şey eklendiğinde size bildirilir. İstediğiniz zaman anıları görebilir, düzenleyebilir veya silebilirsiniz.

Yani işin özü... 

ChatGPT aslında "hatırla" bir insan gibi. Sadece önündeki şeye bakar - o anki konuşmaya.

Daha önceki bir şeyi hatırlıyor gibi görünüyorsa, bunun nedeni o bilginin hala bağlam penceresinin içinde olmasıdır.

ChatGPT'nin Çalışma Şeklinin Sınırlamaları

ChatGPT inanılmaz derecede faydalıdır, ancak özellikle müşteriye yönelik veya dönüşüm odaklı herhangi bir şey için kullanıyorsanız, sınırlamalarını anlamak önemlidir. 

1 - Gerçek bir anlayış veya bilinç yok
ChatGPT içeriği insanlar gibi anlamaz. Gerçekleri "bilmez" - sadece eğitim verilerine dayanarak bir sonraki olası kelimeyi tahmin eder. 

Örneğin, 

Eğer sorarsan, "Başarı ne anlama geliyor?" akıcı bir yanıt üretebilir, ancak inançları, değerleri veya farkındalığı yoktur. Kalıpları taklit ediyor, içgörü oluşturmuyor.

2 - Eğitim verilerinden kaynaklanan önyargılar
ChatGPT internet, kitaplar, forumlar ve makalelerden elde edilen büyük ve karışık kaynaklar üzerinde eğitildiğinden, bu verilerde bulunan önyargıları miras alabilir. 

Eğer internet bir konuda bir tarafa meylediyorsa, ChatGPT bu bakış açısını yansıtabilir - bazen incelikli bir şekilde, bazen de değil - tarafsızlık gerektiğinde bile.

3 - İnternette gezinmez
ChatGPT gerçek zamanlı veri getiremez. Geçen hafta piyasaya sürülen bir ürün veya bugünün hisse senedi fiyatı hakkında soru sorduğunuzda hiçbir fikri olmayacaktır. 

Eğitim verilerinin bir kesme noktası vardır ve bu noktadan sonraki her şeye ulaşılamaz.

4 - Gerçekleri "halüsinasyon" olarak algılayabilir veya sahte kaynaklardan alıntı yapabilir
En tehlikeli tuhaflıklardan biri: ChatGPT bir şeyler uydurabilir. Ondan bir istatistik veya alıntı isteyin, cevap verebilir,

"Dünya Sağlık Örgütü'ne göre, yetişkinlerin 80%'si X markasını Y markasına tercih ediyor."

Kulağa resmi gibi geliyor - ancak bu istatistik muhtemelen mevcut değil. 

Geri alınmadı, icat edildi. Bu konu şu şekilde bilinir halüsinasyonve özellikle araştırma, gazetecilik veya teknik içeriklerde risklidir. 

ChatGPT'ye nasıl çalıştığını sorarsanız, her zaman gerçek anlamda doğru olmadığını göreceksiniz.

ChatGPT'yi yazma amacıyla kullanıyorsanız, çıktı katı, robotik veya insani yönden yoksun hissedecektir. 

Bu tür nüanslar için şunları kullanabilirsiniz Yapay Zeka İnsancıllaştırıcı. 

Bu Yapay Zeka İnsancıllaştırıcı ChatGPT çıktılarını ton, nüans ve duygu için yeniden yazarak içeriğinize bir kalp atışı kazandırır. 

Bu Garip ifadeleri yumuşatır, sıcaklık katar, ve teknik ya da kuru metinlerin hedef kitlenizde yankı uyandırmasını sağlar.

İçeriğiniz insani göründüğünde daha iyi performans gösterir. 

İster açılış sayfaları, ister e-postalar veya LinkedIn gönderileri yazıyor olun, ilişkilendirilebilirlik tepkiyi artırır. Duygu ise dönüşümü yönlendirir.

GPT-3.5'e kıyasla GPT-4'teki iyileştirmeler

GPT-3.5, hızlı, sağlam ve basit görevler için harika olan ücretsiz sürümdür. GPT-4, OpenAI'nin daha akıllı, daha güçlü ve çok daha yararlı olan ücretli bir sürümüdür. 

ChatGPT'nin her iki modelde de nasıl çalıştığı aşağıda açıklanmıştır:

Sonuç olarak GPT-3.5 yardımcı oldu. GPT-4 güvenilir, düşünceli ve dinliyormuş gibi hissettiriyor.

Keşfetmeye başlayın - Yapay Zeka Dedektörümüz ve İnsancıllaştırıcımız aşağıdaki widget'ta sizi bekliyor!

ChatGPT Gibi Yapay Zeka Araçları Nasıl Oluşturuluyor?

ChatGPT veya diğer büyük dil modelleri gibi bir yapay zeka oluşturmak, devasa veri kümeleri, uzman ekipler ve aralıksız yineleme içeren çok yıllı bir projedir. 

Genelde şöyle olur: 

1. Birinci Aşama: Veri Toplama (6-12 ay)

Amaç: Model dil kalıplarını öğretin.

Bir yapay zekanın soruları yanıtlayabilmesi için önce insanların nasıl yazdığını ve konuştuğunu öğrenmesi gerekir. 

Bu, kitaplardan, web sitelerinden, haberlerden, makalelerden, akademik makalelerden ve daha fazlasından yüz milyarlarca kelimeyi toplamakla başlar. 

İnsanlar gibi "okumaz". Bunun yerine, yukarıdaki bölümlerde açıkladığımız şekilde kalıpları tanımlar.

Gerekli zaman: Ölçeğe ve ekip büyüklüğüne bağlı olarak 6-12 ay. 

2. İkinci Aşama: Modelin Ön Eğitimi (6-9 ay)

Amaç: Beyni inşa et.

Ön eğitim, modele büyük hacimlerde metin vermeyi ve doğru tahmin etmeye başlayana kadar eksik kelimeleri tekrar tekrar tahmin etmesine izin vermeyi içerir. 

Bu aşama genellikle güçlü GPU kümeleri ve yüz milyonlarca dolarlık hesaplama kaynağı. 

Gerekli zaman: 6-9 ay aralıksız GPU eğitimi.

3. Üçüncü Aşama: İnce Ayar ve İnsan Geri Bildirimi (3-6 ay)

Amaç: Yapay zekayı kullanışlı hale getirin.

Şimdi konuşabiliyor - ama mantıklı mı? Belki ya da belki değil. Bu noktada, insan gözden geçiriciler çıktıları değerlendirir, hataları düzeltir ve İnsan Geri Bildiriminden Takviyeli Öğrenme (RLHF) kullanarak modeli yönlendirir.

Gerekli zaman: 3-6 ay, genellikle erken testlerle birlikte yürütülür.

4. Dördüncü Aşama: Dağıtım ve Altyapı (Devam Ediyor)

Amaç: Ölçeklenebilir hale getirin.

Model eğitildikten sonra web sitelerine, uygulamalara, API'lere ve kurumsal platformlara dağıtılır. Bu da ciddi bir arka uç altyapısı gerektirir: veri merkezleri, otomatik ölçeklendirme API'leri ve milyonlarca eşzamanlı kullanıcıyı idare edecek yük dengeleme sistemleri.

Zaman dilimi: Eğitim sonrası başlar, ancak süresiz olarak devam eder.

5. Beşinci Aşama: Güvenlik, Önyargı ve Etik (Devam ediyor, paralel)

Amaç: Güvenli, dürüst ve zarar vermeyecek şekilde tutun.

Yapay zeka sadece zekayla ilgili değildir, sorumlulukla da ilgilidir. Etik ekipler, potansiyel kötüye kullanımı işaretlemek, önyargıyı azaltmak, zararlı içeriği engellemek ve gizlilik standartlarını korumak için paralel olarak çalışır. Modelin gerçek dünyada nasıl davrandığını sürekli olarak değerlendirirler.

Zaman dilimi: Yaşam boyu süreç; yukarıdaki her aşamaya entegre edilmiştir.

ChatGPT'nin Nasıl Çalıştığı Hakkında SSS

Son Düşünceler

Büyük Dil Modelleri (LLM'ler) teknolojiyle etkileşim şeklimizi değiştirdi.

Bir insan tarafından yazılmış gibi görünen metinler oluşturabilir, soruları yanıtlama ve yaratıcı içerik oluşturma gibi görevlere yardımcı olabilirler. 

Ama, LLM'ler "anla" şeyler ya da insanlar gibi düşünürler. Gerçek insan düşüncesiyle değil, verilerdeki kalıpları tahmin ederek çalışırlar. 

LLM'ler daha iyi hale geldikçe, önyargı, gizlilik sorunları ve kötüye kullanım gibi neden olabilecekleri sorunlar hakkında düşünmemiz gerekir. 

Yapay zekayı dikkatli bir şekilde kullanmak, adil ve şeffaf olmasını, yanlış bilgi yaymamasını veya gizliliğe zarar vermemesini sağlamak önemlidir. 

İşte burada kullanım yönergeleri: 

• Yapay zekanın içeriğinde önyargı olabileceğini unutmayın.
  
• Yapay zeka araçlarını gizlilik kurallarına uyacak şekilde kullanın.
  
• Önemli bilgileri güvenilir kaynaklardan iki kez kontrol edin.
  
• Yapay zekaya çok fazla güvenmeyin. Bu bir araçtır, insan düşüncesinin yerine geçmez.

Yapay zeka teknolojisi daha da güçlenmeye devam ettikçe şu soru ortaya çıkıyor: Gelişmelerin, bizi benzersiz bir şekilde insan yapan şeylerin yerini almak yerine, insanın yaratıcılığını ve karar verme yetisini geliştirmesini nasıl sağlayabiliriz?