GPT-3

Üretken Ön İşlemeli Dönüştürücü 3 (GPT-3: Generative Pre-trained Transformer 3) insanların yazdığı metinlere benzer içerik üretmek için derin öğrenmeyi kullanan özbağlanımlı dil modelidir. San Francisco merkezli yapay zeka araştırma laboratuvarı OpenAI tarafından geliştirilmiştir. GPT-3'ün tam sürümü, veri işleyecek 175 milyar parametreye sahiptir. Eğitim için Wikipedia metinlerinin tamamı olmak üzere, CommonCrawl adı verilen olarak bilinen halka açık toplam 570 GB boyutunda metin verileri içermektedir. Bu model, şimdiye kadar yayımlanan en gelişmiş dil modelidir. Metin çevirebilir, diyalog kurabilir ve şiir yazabilir.