Google baru saja mengumumkan bahwa mereka meningkatkan layanan Gemini Advanced menjadi satu juta model, yang akan segera melonjak menjadi dua juta.
Bayangkan menonton banyak TV, tetapi Anda hanya dapat mengingat satu episode dalam satu waktu. Saat Anda melanjutkan ke episode berikutnya, Anda langsung melupakan semua yang baru saja Anda tonton. Sekarang, bayangkan Anda dapat mengingat setiap episode dan musim yang Anda tonton di acara televisi itu; ini akan membantu Anda memahami cerita, karakter, dan terjemahannya.
Juga: Google Kaca vs. Project Astra: Sergey Brin tentang pakaian AI dan fitur-fitur canggihnya
Saat membahas kecerdasan buatan (AI), kemampuan untuk mengingat hanya satu bagian pada satu waktu dan dipaksa untuk melupakannya sambil melanjutkan ke bagian berikutnya merupakan sebuah jendela pendek. Mengingat semua parameter dalam daftar mewakili model AI dengan cerita besar – atau jendela panjang.
Singkatnya, jendela informasi yang lebih panjang berarti model dapat mengingat lebih banyak informasi sekaligus.
Mengetahui kepanjangan dari AI penting untuk memahami jangka waktu yang panjang dan bagaimana hal itu memengaruhi perilaku bot atau perilaku lainnya.
Sistem AI seperti ChatGPT, chatbot Gemini, dan Microsoft Copilot dibangun berdasarkan model AI, dalam hal ini masing-masing GPT-3.5, Gemini, dan GPT-4. Model-model ini bertindak sebagai otak sistem, menyimpan informasi, mengingat informasi selama percakapan, dan merespons pertanyaan pengguna dengan tepat.
Juga: 9 pengumuman besar di Google I/O 2024: Gemini, Search, Project Astra, dan banyak lagi
Konteks dalam AI mengacu pada informasi yang memberi arti dan signifikansi pada apa yang diproses AI. Ini adalah informasi yang dipertimbangkan model ketika membuat keputusan atau tanggapan.
Data diukur dalam simbol, dan jendela informasi mewakili jumlah maksimum simbol yang dapat dipertimbangkan atau diproses oleh model pada saat yang bersamaan. Setiap simbol mewakili sebuah kata atau bagian dari sebuah kata, bergantung pada bahasanya. Dalam bahasa Inggris, satu simbol mewakili satu kata, sehingga model AI seperti GPT-4 dengan jendela 16.000 (16k) dapat menangani sekitar 12.000 kata.
Juga: Apa itu Gemini Live? Betapa nyatanya obrolan Google bersaing dengan GPT-4o
Metode representasi — yaitu, bagaimana kata dibaca dan diterjemahkan menjadi token — bervariasi dari satu sistem ke sistem lainnya. Berikut ini contoh tampilan tokenisasi:
| Contoh kata | Serigala yang cepat melompat ke atas anjing yang malas. | Penting untuk memiliki dukungan pelanggan, tetapi itu akan diikuti oleh pelanggan. |
| Memburuknya gejala | “Si”, “cepat”, “coklat”, “serigala”, “melompat”, “naik”, “malas”, “anjing”, “.” | “Pengetahuan”, “diri”, “rasa sakit”, “tinggal”, “cinta”, “,” |
| Jumlah kata | 9 kata | 9 kata |
| Jumlah tanda | 10 tanda | 12 tanda |
Chatbot AI yang dapat menangani sekitar 12.000 kata dapat merangkum esai 3.000 kata atau makalah penelitian 5.000 kata dan menjawab pertanyaan lanjutan tanpa melupakan konten dokumen yang dibagikan pengguna. Sinyal dari pesan sebelumnya dipertimbangkan dalam percakapan, memberikan informasi kepada bot tentang apa yang sedang dibahas.
Juga: 3 alasan untuk meningkatkan ke Gemini Advanced, dari Google I/O 2024
Jadi, jika percakapan melampaui batas, chatbot AI bisa menyimpan semuanya. Namun jika melebihi batas token, token awal mungkin diabaikan atau hilang karena berada dalam jendela, sehingga bot mungkin kehilangan masalahnya.
Itu sebabnya Google dengan bangga mengiklankan layar besar Gemini 1.5 Pro seharga satu juta token. Menurut CEO Google Sundar Photosi, satu juta token berarti chatbot Gemini Advanced dapat memproses lebih dari 30,000 baris kode, PDF hingga 1,500 halaman, atau 96 menu Cheesecake Factory.
