
Attention Is All You Need: Awal Revolusi AI Bahasa
Pada tahun 2017, dunia kecerdasan buatan mengalami pergeseran besar yang dipicu oleh sebuah makalah ilmiah dengan judul yang sederhana namun provokatif: “Attention Is All You Need.” Paper ini ditulis oleh tim peneliti dari Google Brain dan Google Research, dipimpin oleh Ashish Vaswani. Mereka memperkenalkan sebuah model baru yang dinamakan Transformer. Meskipun pada awalnya dirancang untuk tugas penerjemahan mesin (machine translation), ide yang mereka usung kini telah meresap ke hampir semua sudut perkembangan kecerdasan buatan modern, termasuk dalam produk seperti ChatGPT, BERT, dan DALL·E.